{"id":4724,"date":"2023-08-27T20:07:21","date_gmt":"2023-08-27T20:07:21","guid":{"rendered":"https:\/\/dailyai.com\/?p=4724"},"modified":"2023-08-30T21:09:12","modified_gmt":"2023-08-30T21:09:12","slug":"ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2023\/08\/ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong\/","title":{"rendered":"IA en el campo de batalla: \u00bfqui\u00e9n es responsable si sale mal?"},"content":{"rendered":"

En un mundo en el que los \"juegos de guerra\" ya no se refieren \u00fanicamente a juegos de mesa o videojuegos, sino a escenarios de vida o muerte facilitados por la inteligencia de las m\u00e1quinas, la cuesti\u00f3n de la responsabilidad es monumental.<\/strong><\/p>\n

Los ej\u00e9rcitos est\u00e1n intensificando la investigaci\u00f3n y la inversi\u00f3n en IA. <\/span><\/p>\n

Algunos analistas definieron el encuentro Israel-Palestina de 2021, que dur\u00f3 11 d\u00edas, como el primer \"Guerra de IA<\/a>donde las tecnolog\u00edas israel\u00edes ayudaron en la inteligencia y el despliegue en el campo de batalla. <\/span><\/p>\n

En los \u00faltimos meses,<\/span>\u00a0t<\/span>l ej\u00e9rcito estadounidense estableci\u00f3 un <\/span>grupo de trabajo sobre IA generativa<\/span><\/a> y probado con \u00e9xito un <\/span>avi\u00f3n aut\u00f3nomo con inteligencia artificial<\/span><\/a>.<\/span><\/p>\n

El creciente papel de la IA en la guerra plantea una serie de complejos dilemas jur\u00eddicos y \u00e9ticos a los que a\u00fan no hemos dado respuesta, incluso a pesar de que en este mismo momento se est\u00e1 desplegando tecnolog\u00eda militar impulsada por IA. <\/span><\/p>\n

\u00bfQui\u00e9n es responsable cuando la IA va mal?<\/span><\/h2>\n

El fabricante de tecnolog\u00eda militar Rafael \"Tejedor de fuego<\/a>\"localiza posiciones enemigas mediante sensores y sugiere la unidad mejor situada para disparar contra ellas.\u00a0<\/span><\/p>\n

La descripci\u00f3n del producto dice: \"Fire Weaver calcula las Reglas de Enfrentamiento y dirige la punter\u00eda y el disparo, utilizando el tirador m\u00e1s apropiado para cada objetivo adquirido\". <\/span><\/p>\n

\"Calcula\" es la palabra clave...\u00a0<\/span>El armamento de IA puede reducir la decisi\u00f3n de destruir un objetivo a una decisi\u00f3n binaria de s\u00ed o no, pero \u00bfqu\u00e9 ocurre si Fire Weaver confunde a un ni\u00f1o con un soldado enemigo? \u00bfO un cami\u00f3n de ayuda humanitaria en lugar de un veh\u00edculo enemigo?<\/span><\/p>\n

Actualmente, la falta de claridad moral, \u00e9tica y jur\u00eddica es flagrante. La IA ocupa un vac\u00edo legal y \u00e9tico, que podr\u00eda prolongarse durante alg\u00fan tiempo, ya que la elaboraci\u00f3n de leyes es notoriamente lenta y rara vez se enfrenta a una tecnolog\u00eda que evoluciona tan r\u00e1pido.\u00a0<\/span><\/p>\n

En la sociedad en general, ya hay muchos ejemplos de IA que pone en peligro a las personas y sus derechos. Estos ejemplos permiten vislumbrar el vac\u00edo legislativo y \u00e9tico que han dejado la IA y sus diversos usos.\u00a0<\/span><\/p>\n

Por ejemplo, <\/span>ChatGPT supuesto<\/span><\/a> un hombre de Georgia, Mark Walters, fue declarado culpable de malversaci\u00f3n corporativa y acus\u00f3 al profesor de derecho Jonathan Turley de agresi\u00f3n sexual. El ChatGPT era falso en ambos casos.<\/span><\/p>\n

Del mismo modo, Getty Images y varios artistas, autores y otros creadores han lanzado demandas por derechos de autor<\/a> contra las empresas tecnol\u00f3gicas por utilizar datos de entrenamiento para construir sus modelos.\u00a0<\/span><\/p>\n

Los datos de entrenamiento suelen obtenerse de terceros, como Common Crawl, y de \"bibliotecas en la sombra\" como Bibliotik, similares a sitios de torrents como PirateBay.\u00a0<\/span><\/p>\n

En ese caso, \u00bfqui\u00e9n es responsable de la infracci\u00f3n de los derechos de autor? \u00bfLos desarrolladores de la IA o los editores de los conjuntos de datos? Es un c\u00edrculo de responsabilidad similar al de los dibujos animados en el que cada parte potencialmente culpable se\u00f1ala a los que est\u00e1n a su lado y, al final, todos escapan de la culpa.\u00a0<\/span><\/p>\n

Este difuso panorama \u00e9tico es mucho m\u00e1s arriesgado en el contexto del armamento de IA y las t\u00e1cticas militares algor\u00edtmicas, donde los c\u00e1lculos de un modelo podr\u00edan determinar literalmente la vida o la muerte.\u00a0<\/span><\/p>\n

Las organizaciones militares ya son conscientes del cambio de paradigma que supone el armamento de IA. Seg\u00fan el Departamento de Defensa (DoD), la primera de sus cinco \"<\/span>principios \u00e9ticos de la inteligencia artificial<\/span><\/a>\" para usos militares es \"Responsable\", definida como \"El personal del DoD ejercer\u00e1 los niveles apropiados de juicio y cuidado, siendo responsable del desarrollo, despliegue y uso de las capacidades de IA\".<\/span><\/p>\n

Esto significa que, en \u00faltima instancia, un ser humano debe ser responsable de las acciones de la m\u00e1quina. El ej\u00e9rcito siempre se ha basado en el principio de que alguien -normalmente el comandante o un soldado- debe ser considerado responsable de las acciones llevadas a cabo durante la guerra. Sin embargo, el papel de la IA en el proceso de toma de decisiones es cada vez m\u00e1s turbio.\u00a0<\/span><\/p>\n

La primera pregunta es: a medida que la IA va asumiendo funciones m\u00e1s sofisticadas en la selecci\u00f3n de objetivos, la vigilancia y otros \u00e1mbitos, \u00bfpresionar el bot\u00f3n \"Aprobar\" equivale a culpabilidad?\u00a0<\/span><\/p>\n

Si las predicciones de la IA fallaran, por ejemplo, provocando v\u00edctimas civiles, es dudoso que alguien aceptara que \"la m\u00e1quina\" recibiera la culpa exclusiva de un accidente.\u00a0<\/span><\/p>\n

A su vez, puede haber situaciones en las que se culpe err\u00f3neamente a los seres humanos por su papel en un accidente al que no contribuyeron, lo que el antrop\u00f3logo M.C. Elish describe como una \"<\/span>zona de deformaci\u00f3n moral<\/span><\/a>.\"\u00a0<\/span><\/p>\n

La investigaci\u00f3n de Elish sobre accidentes industriales y de m\u00e1quinas sugiere que los humanos tienden a absorber la culpa en cualquier accidente, aunque la culpa sea de la m\u00e1quina, el algoritmo o el responsable que aprob\u00f3 la tecnolog\u00eda en primer lugar.\u00a0<\/span><\/p>\n

Se basa en varios ejemplos reales, como el accidente nuclear de Three Mile Island (Pensilvania) y el accidente del vuelo 447 de Air France, que se atribuyeron en gran medida a un \"error humano\" y no a una serie m\u00e1s intrincada de fallos distribuidos entre m\u00faltiples individuos y sistemas.\u00a0<\/span><\/p>\n

Elish dice sobre la responsabilidad en la era de la IA: \"En lo que respecta a las tecnolog\u00edas aut\u00f3nomas y rob\u00f3ticas, los reglamentos, leyes y normas est\u00e1n a\u00fan en formaci\u00f3n y pueden ser particularmente susceptibles de incertidumbres o incluso evasiones de responsabilidad.\"<\/span><\/p>\n

Esto tambi\u00e9n plantea cuestiones en torno al papel de los procesos democr\u00e1ticos en la guerra y la soberan\u00eda de la toma de decisiones humanas. Cuando la guerra de Vietnam se retransmiti\u00f3 en las salas de estar de todo Estados Unidos, la inmediatez de los estragos de la guerra influy\u00f3 en la opini\u00f3n p\u00fablica y en la pol\u00edtica.\u00a0<\/span><\/p>\n

Por el contrario, el combate asistido por IA podr\u00eda eliminar los controles y equilibrios sociales del sentimiento p\u00fablico y el discurso democr\u00e1tico.<\/span><\/p>\n

El \u00e9tico y fil\u00f3sofo Thomas Metzinger subraya que las normas \u00e9ticas no son s\u00f3lo construcciones jur\u00eddicas, sino sociales que surgen de procesos democr\u00e1ticos. <\/span><\/p>\n

Si los algoritmos toman las decisiones, la participaci\u00f3n humana -y, por tanto, la responsabilidad moral- se vuelve difusa y redundante.\u00a0<\/span><\/p>\n

Repercusiones jur\u00eddicas internacionales de la IA en la guerra<\/span><\/h2>\n

Uno de los pilares de la Convenci\u00f3n de Ginebra es el principio de \"distinci\u00f3n\", que obliga a distinguir entre combatientes y civiles.\u00a0<\/span><\/p>\n

La tecnolog\u00eda ya ha demostrado su incapacidad para cumplir las promesas de mejorar la protecci\u00f3n de los civiles, ya que s\u00f3lo 10% de los muertos en ataques de aviones no tripulados estadounidenses a lo largo de la presidencia de Obama eran los objetivos previstos, seg\u00fan documentos filtrados de <\/span>El Intercepto<\/span><\/a>.\u00a0<\/span><\/p>\n

Los algoritmos de IA son tan buenos como los datos con los que se entrenan y las reglas que se programan para seguir. En una guerra, un algoritmo puede malinterpretar los datos debido a la niebla de guerra, a datos de entrenamiento err\u00f3neos o a t\u00e1cticas enemigas intencionadamente enga\u00f1osas.\u00a0<\/span><\/p>\n

El Comit\u00e9 Internacional de la Cruz Roja (CICR) ha iniciado debates sobre la legalidad de los sistemas de armas aut\u00f3nomas en el marco del derecho internacional humanitario vigente, pero existen pocas definiciones concretas.\u00a0<\/span><\/p>\n

Determinan que los marcos existentes no se adaptan a los nuevos retos que plantea la IA, y la <\/span>Principios propuestos por el CICR<\/span><\/a> son vagos; por ejemplo, \"Los sistemas de armas aut\u00f3nomas impredecibles deben descartarse expresamente\". <\/span><\/p>\n

\u00bfD\u00f3nde fijamos el umbral de lo \"imprevisible\" cuando un error min\u00fasculo puede ser catastr\u00f3fico?<\/span><\/p>\n