ROBOTS MILITARES ASESINOS
(Por Santiago Álvarez de Toledo, doctor en Inteligencia Artificial)
CIENTÍFICOS CONTRA MILITARES Y POLITICOS
Stephen Hawking ha liderado una carta pidiendo se prohíban los robots militares asesinos. La carta ha conseguido ya 17.000 firmas de científicos entre ellos 2.500 de expertos en robótica. Los especialistas en Inteligencia Artificial temen que esa línea de investigación acabe debiendo ser abortada por sus peligros como ocurrió con la bomba atómica cuando tuvo finalmente que firmarse el acuerdo internacional de no proliferación nuclear.
Es una guerra entre los gobiernos de países interesados en estos robots por sus ventajas militares y la comunidad científica que prevee sus alarmantes consecuencias. (Leer más)
Estos robots provocarían la muerte por si mismos sin que interveniera en ello ningún ser humano. No son como los drones convencionales detrás de los que hay un piloto humano remoto que dirige toda la operación y filtra a quién atacar, cuándo y en qué circunstancias. Y la ética del ser humano no es a corto plazo un valor implementable en los robots.
Además en este momento no se es capaz de diferenciar claramente entre soldados enemigos y civiles o soldados amigos y enemigos. Los desastres podrían ser catastróficos.
Por otra parte esta tecnología acabaría en manos del Estado Islámico u otros. Pues no es como con el caso del uranio que es de muy difícil obtención y su enriquecimiento necesita alta tecnología y grandes costes, lo que ha permitido un control y ha frenado a muchos países en la proliferación nuclear. El software de I.A. de un robot es copiable/robable por los hackers y antes o después acabaría difundiendose entre muchos paises y organizaciones terroristas. Se podría utilizar entonces para limpiezas étnicas, destrucciones masivas y otras acciones terroríficas. Todo ello puede además conducir a una segunda carrera armamentista, esta vez de inteligencia artificial, similar a la primera nuclear.
Estados Unidos está interesado y trabajando actualmente en esos robots y se estima que entre los próximos cinco y diez años aparecerán las primeras unidades de armamento autónomo. Pero otros países también están interesados militarmente en ellos. Los soldados robots son a la larga mucho más baratos -no tienen un sueldo mensual ni seguridad social-, son más eficaces, más rápidos, no crean problemas familiares ni sociopolíticos por su "muerte" o destrucción , no necesitan dormir ni comer, no notan fatiga ni pasan frio o calor y pueden ser sorprendentemente pequeños portando explosivos, armas o veneno.
Cada vez hay más países avanzados en robótica e Inteligencia Artificial lo que va aumentando los riesgos. En el último congreso de I. A., el IJCAI celebrado este año en Buenos Aires, China se ha presentado por primera vez con más proyectos que Estados Unidos.
El objetivo principal de la carta, que se ha presentado en ese congreso, es que la ONU prohíba expresamente los robots asesinos. Lo más curioso es que son precisamente los investigadores de I.A. los más interesados en estas prohibiciones. Otro ejemplo es la organización no gubernamental ICRAC, la que bajo el lema "Stop Killer Robots" está intentando hacer reflexionar sobre los riesgos de esa tecnología.
Siguiendo el pensamiento de gran visión de George Clemenceau de "La guerra es algo demasiado.serio para dejarla sólo en manos de los militares" en algunos medios se piensa que la comunidad científica debería estar en el futuro más involucrada y con mayor.peso nacional e internacional en las decisiones estratégicas en este campo. Debería quizás pasar de un mero papel asesor a tener un peso decisorio, necesitándose un mínimo de su acquiescencia y que debería formar parte de los organismos ejecutivos. La pasada experiencia en el tema del cambio climático ha sido prueba de ello.
En resumen la I.A. puede ser tan interesante y aportar tanto nuevo, bueno o malo a nuestras vidas, que es esencial utilizarla bien. El enfocarla hacia la guerra no es una buena idea y seria muy difícilmente controlable. Sería un importante fallo estratégico y un mal comienzo para este siglo.
Carta sobre armas autónomas
Armas Autónomas Letales
Stephen Hawking ha liderado una carta pidiendo se prohíban los robots militares asesinos. La carta ha conseguido ya 17.000 firmas de científicos entre ellos 2.500 de expertos en robótica. Los especialistas en Inteligencia Artificial temen que esa línea de investigación acabe debiendo ser abortada por sus peligros como ocurrió con la bomba atómica cuando tuvo finalmente que firmarse el acuerdo internacional de no proliferación nuclear.
Es una guerra entre los gobiernos de países interesados en estos robots por sus ventajas militares y la comunidad científica que prevee sus alarmantes consecuencias. (Leer más)
Estos robots provocarían la muerte por si mismos sin que interveniera en ello ningún ser humano. No son como los drones convencionales detrás de los que hay un piloto humano remoto que dirige toda la operación y filtra a quién atacar, cuándo y en qué circunstancias. Y la ética del ser humano no es a corto plazo un valor implementable en los robots.
Además en este momento no se es capaz de diferenciar claramente entre soldados enemigos y civiles o soldados amigos y enemigos. Los desastres podrían ser catastróficos.
Por otra parte esta tecnología acabaría en manos del Estado Islámico u otros. Pues no es como con el caso del uranio que es de muy difícil obtención y su enriquecimiento necesita alta tecnología y grandes costes, lo que ha permitido un control y ha frenado a muchos países en la proliferación nuclear. El software de I.A. de un robot es copiable/robable por los hackers y antes o después acabaría difundiendose entre muchos paises y organizaciones terroristas. Se podría utilizar entonces para limpiezas étnicas, destrucciones masivas y otras acciones terroríficas. Todo ello puede además conducir a una segunda carrera armamentista, esta vez de inteligencia artificial, similar a la primera nuclear.
Estados Unidos está interesado y trabajando actualmente en esos robots y se estima que entre los próximos cinco y diez años aparecerán las primeras unidades de armamento autónomo. Pero otros países también están interesados militarmente en ellos. Los soldados robots son a la larga mucho más baratos -no tienen un sueldo mensual ni seguridad social-, son más eficaces, más rápidos, no crean problemas familiares ni sociopolíticos por su "muerte" o destrucción , no necesitan dormir ni comer, no notan fatiga ni pasan frio o calor y pueden ser sorprendentemente pequeños portando explosivos, armas o veneno.
Cada vez hay más países avanzados en robótica e Inteligencia Artificial lo que va aumentando los riesgos. En el último congreso de I. A., el IJCAI celebrado este año en Buenos Aires, China se ha presentado por primera vez con más proyectos que Estados Unidos.
El objetivo principal de la carta, que se ha presentado en ese congreso, es que la ONU prohíba expresamente los robots asesinos. Lo más curioso es que son precisamente los investigadores de I.A. los más interesados en estas prohibiciones. Otro ejemplo es la organización no gubernamental ICRAC, la que bajo el lema "Stop Killer Robots" está intentando hacer reflexionar sobre los riesgos de esa tecnología.
Siguiendo el pensamiento de gran visión de George Clemenceau de "La guerra es algo demasiado.serio para dejarla sólo en manos de los militares" en algunos medios se piensa que la comunidad científica debería estar en el futuro más involucrada y con mayor.peso nacional e internacional en las decisiones estratégicas en este campo. Debería quizás pasar de un mero papel asesor a tener un peso decisorio, necesitándose un mínimo de su acquiescencia y que debería formar parte de los organismos ejecutivos. La pasada experiencia en el tema del cambio climático ha sido prueba de ello.
En resumen la I.A. puede ser tan interesante y aportar tanto nuevo, bueno o malo a nuestras vidas, que es esencial utilizarla bien. El enfocarla hacia la guerra no es una buena idea y seria muy difícilmente controlable. Sería un importante fallo estratégico y un mal comienzo para este siglo.
Carta sobre armas autónomas
Armas Autónomas Letales
Comentarios
Publicar un comentario