{"id":4724,"date":"2023-08-27T20:07:21","date_gmt":"2023-08-27T20:07:21","guid":{"rendered":"https:\/\/dailyai.com\/?p=4724"},"modified":"2023-08-30T21:09:12","modified_gmt":"2023-08-30T21:09:12","slug":"ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2023\/08\/ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong\/","title":{"rendered":"IA no campo de batalha: quem \u00e9 respons\u00e1vel se correr mal?"},"content":{"rendered":"

Num mundo em que os \"jogos de guerra\" j\u00e1 n\u00e3o se referem apenas a jogos de tabuleiro ou de v\u00eddeo, mas a cen\u00e1rios de vida ou morte facilitados pela intelig\u00eancia das m\u00e1quinas, a quest\u00e3o da responsabilidade \u00e9 monumental.<\/strong><\/p>\n

Os militares est\u00e3o a aumentar a investiga\u00e7\u00e3o e o investimento em IA. <\/span><\/p>\n

Alguns analistas definiram um encontro Israel-Palestina de 11 dias em 2021 como o primeiro \"Guerra da IA<\/a>onde as tecnologias israelitas contribu\u00edram para a informa\u00e7\u00e3o e a proje\u00e7\u00e3o no campo de batalha. <\/span><\/p>\n

Nos \u00faltimos meses,<\/span>\u00a0t<\/span>s militares dos EUA criaram um <\/span>Grupo de trabalho sobre IA generativa<\/span><\/a> e testou com sucesso um <\/span>jato aut\u00f3nomo alimentado por IA<\/span><\/a>.<\/span><\/p>\n

O papel crescente da IA na guerra apresenta uma s\u00e9rie de dilemas legais e \u00e9ticos complexos a que ainda n\u00e3o respondemos, apesar de a tecnologia militar alimentada por IA estar a ser utilizada neste preciso momento. <\/span><\/p>\n

Quem \u00e9 respons\u00e1vel quando a IA corre mal?<\/span><\/h2>\n

O fabricante de tecnologia militar Rafael \"Tecel\u00e3o do fogo<\/a>\" localiza posi\u00e7\u00f5es inimigas utilizando sensores e sugere a unidade mais bem posicionada para disparar sobre elas.\u00a0<\/span><\/p>\n

A descri\u00e7\u00e3o do produto indica: \"O Fire Weaver calcula as regras de combate e orienta a pontaria e os disparos, utilizando o atirador mais adequado para cada alvo adquirido.\" <\/span><\/p>\n

\"Calcula\" \u00e9 a palavra-chave aqui -\u00a0<\/span>O armamento de IA pode reduzir a decis\u00e3o de destruir um alvo a uma decis\u00e3o bin\u00e1ria de sim\/n\u00e3o, mas e se a Fire Weaver confundir uma crian\u00e7a com um soldado inimigo? Ou um cami\u00e3o de ajuda humanit\u00e1ria em vez de um ve\u00edculo inimigo?<\/span><\/p>\n

Atualmente, a falta de clareza moral, \u00e9tica e jur\u00eddica \u00e9 gritante. A IA ocupa um vazio legal e \u00e9tico, o que poder\u00e1 ser o caso durante algum tempo, uma vez que o processo legislativo \u00e9 notoriamente lento - e raramente se depara com uma tecnologia em t\u00e3o r\u00e1pida evolu\u00e7\u00e3o.\u00a0<\/span><\/p>\n

Na sociedade em geral, j\u00e1 existem muitos exemplos de IA que comprometem as pessoas e os seus direitos. Estes exemplos permitem vislumbrar o vazio legislativo e \u00e9tico criado pela IA e pelas suas v\u00e1rias utiliza\u00e7\u00f5es.\u00a0<\/span><\/p>\n

Por exemplo, <\/span>ChatGPT alegado<\/span><\/a> um homem da Ge\u00f3rgia, Mark Walters, foi considerado culpado de desvio de fundos de uma empresa e acusou o professor de direito Jonathan Turley de agress\u00e3o sexual. O ChatGPT era falso em ambos os casos.<\/span><\/p>\n

Da mesma forma, a Getty Images e v\u00e1rios artistas, autores e outros criadores lan\u00e7aram ac\u00e7\u00f5es judiciais por direitos de autor<\/a> contra empresas tecnol\u00f3gicas por utilizarem dados de treino para construir os seus modelos.\u00a0<\/span><\/p>\n

Os dados de treino s\u00e3o frequentemente recolhidos de terceiros, como o Common Crawl, e de \"bibliotecas sombra\" como o Bibliotik, semelhantes a s\u00edtios de torrents como o PirateBay.\u00a0<\/span><\/p>\n

Nesse caso, quem \u00e9 respons\u00e1vel pela viola\u00e7\u00e3o dos direitos de autor? Os criadores de IA ou os editores de conjuntos de dados? \u00c9 um c\u00edrculo de responsabilidade semelhante a um desenho animado, em que cada parte potencialmente culpada aponta para os que est\u00e3o ao seu lado e, no final, todos escapam \u00e0 culpa.\u00a0<\/span><\/p>\n

Este cen\u00e1rio \u00e9tico nebuloso \u00e9 muito mais arriscado no contexto do armamento de IA e das t\u00e1cticas militares algor\u00edtmicas, em que os c\u00e1lculos de um modelo podem literalmente determinar a vida ou a morte.\u00a0<\/span><\/p>\n

As organiza\u00e7\u00f5es militares j\u00e1 est\u00e3o conscientes da mudan\u00e7a de paradigma apresentada pelo armamento de IA. De acordo com o Departamento de Defesa (DoD), o primeiro dos seus cinco \"<\/span>princ\u00edpios \u00e9ticos da intelig\u00eancia artificial<\/span><\/a>\" para utiliza\u00e7\u00f5es militares \u00e9 \"Respons\u00e1vel\", definido como \"o pessoal do DoD exercer\u00e1 n\u00edveis adequados de julgamento e cuidado, mantendo-se respons\u00e1vel pelo desenvolvimento, implementa\u00e7\u00e3o e utiliza\u00e7\u00e3o das capacidades de IA\".<\/span><\/p>\n

Isto significa que, em \u00faltima an\u00e1lise, um ser humano deve ser respons\u00e1vel pelas ac\u00e7\u00f5es da m\u00e1quina. As for\u00e7as armadas sempre se basearam no princ\u00edpio de que algu\u00e9m - normalmente o comandante ou um soldado - deve ser responsabilizado pelas ac\u00e7\u00f5es tomadas durante a guerra. No entanto, o papel da IA no processo de tomada de decis\u00f5es \u00e9 cada vez mais obscuro.\u00a0<\/span><\/p>\n

A primeira quest\u00e3o \u00e9: \u00e0 medida que a IA assume fun\u00e7\u00f5es mais sofisticadas na sele\u00e7\u00e3o de alvos, na vigil\u00e2ncia e noutras \u00e1reas, ser\u00e1 que carregar no bot\u00e3o \"Aprovar\" equivale a culpa?\u00a0<\/span><\/p>\n

Se as previs\u00f5es da IA falhassem, por exemplo, resultando em v\u00edtimas civis, \u00e9 duvidoso que algu\u00e9m aceitasse que \"a m\u00e1quina\" fosse a \u00fanica culpada por um acidente.\u00a0<\/span><\/p>\n

Por sua vez, pode haver situa\u00e7\u00f5es em que os seres humanos s\u00e3o injustamente culpados pelo seu papel num acidente para o qual n\u00e3o contribu\u00edram, o que o antrop\u00f3logo M.C. Elish descreve como um \"<\/span>zona de deforma\u00e7\u00e3o moral<\/span><\/a>.\"\u00a0<\/span><\/p>\n

A investiga\u00e7\u00e3o de Elish sobre acidentes industriais e com m\u00e1quinas sugere que os humanos tendem a absorver a culpa em qualquer acidente, mesmo que a culpa seja da m\u00e1quina, do algoritmo ou do decisor que aprovou a tecnologia em primeiro lugar.\u00a0<\/span><\/p>\n

A autora recorre a v\u00e1rios exemplos da vida real, como o acidente nuclear de Three Mile Island, na Pensilv\u00e2nia, e a queda do voo 447 da Air France, que foram em grande parte atribu\u00eddos a \"erro humano\" e n\u00e3o a uma s\u00e9rie mais complexa de falhas distribu\u00eddas por v\u00e1rios indiv\u00edduos e sistemas.\u00a0<\/span><\/p>\n

No que diz respeito \u00e0s tecnologias aut\u00f3nomas e rob\u00f3ticas, os regulamentos, as leis e as normas ainda est\u00e3o em forma\u00e7\u00e3o e podem ser particularmente suscept\u00edveis a incertezas ou mesmo a evas\u00f5es de responsabilidade\", afirma Elish sobre a responsabilidade na era da IA.<\/span><\/p>\n

Isto tamb\u00e9m levanta quest\u00f5es sobre o papel dos processos democr\u00e1ticos na guerra e a soberania da tomada de decis\u00f5es humanas. Quando a Guerra do Vietname foi para o ar nas salas de estar de toda a Am\u00e9rica, o imediatismo do pre\u00e7o da guerra teve impacto na opini\u00e3o p\u00fablica e nas pol\u00edticas.\u00a0<\/span><\/p>\n

Em contrapartida, o combate assistido por IA poderia eliminar os controlos e equil\u00edbrios sociais do sentimento p\u00fablico e do discurso democr\u00e1tico.<\/span><\/p>\n

O fil\u00f3sofo e especialista em \u00e9tica Thomas Metzinger sublinha que as normas \u00e9ticas n\u00e3o s\u00e3o apenas constru\u00e7\u00f5es jur\u00eddicas, mas tamb\u00e9m sociais que resultam de processos democr\u00e1ticos. <\/span><\/p>\n

Se forem os algoritmos a tomar as decis\u00f5es, o envolvimento humano - e, por conseguinte, a responsabilidade moral - torna-se difuso e redundante.\u00a0<\/span><\/p>\n

Implica\u00e7\u00f5es jur\u00eddicas internacionais da IA na guerra<\/span><\/h2>\n

Um dos pilares da Conven\u00e7\u00e3o de Genebra \u00e9 o princ\u00edpio da \"distin\u00e7\u00e3o\", que obriga a distinguir entre combatentes e civis.\u00a0<\/span><\/p>\n

A tecnologia j\u00e1 provou a sua incapacidade de cumprir as promessas de prote\u00e7\u00e3o refor\u00e7ada dos civis, com apenas 10% das pessoas mortas em ataques de drones dos EUA durante a presid\u00eancia de Obama a serem os alvos pretendidos, de acordo com documentos que vazaram da <\/span>O Intercetador<\/span><\/a>.\u00a0<\/span><\/p>\n

Os algoritmos de IA s\u00e3o t\u00e3o bons quanto os dados com que s\u00e3o treinados e as regras que est\u00e3o programados para seguir. No que diz respeito \u00e0 guerra, um algoritmo pode interpretar mal os dados devido ao nevoeiro da guerra, a dados de treino com falhas ou a t\u00e1cticas inimigas intencionalmente enganadoras.\u00a0<\/span><\/p>\n

O Comit\u00e9 Internacional da Cruz Vermelha (CICV) iniciou debates sobre a legalidade dos sistemas de armas aut\u00f3nomas ao abrigo do direito humanit\u00e1rio internacional em vigor, mas existem poucas defini\u00e7\u00f5es concretas.\u00a0<\/span><\/p>\n

Determinam que os quadros existentes s\u00e3o inadequados para os novos desafios colocados pela IA, e a <\/span>Princ\u00edpios propostos pelo CICV<\/span><\/a> s\u00e3o vagas; por exemplo, \"os sistemas de armas aut\u00f3nomos imprevis\u00edveis devem ser expressamente exclu\u00eddos\". <\/span><\/p>\n

Onde \u00e9 que estabelecemos o limiar do \"imprevis\u00edvel\" quando um erro min\u00fasculo pode ser catastr\u00f3fico?<\/span><\/p>\n