{"id":1659,"date":"2023-06-13T21:32:01","date_gmt":"2023-06-13T21:32:01","guid":{"rendered":"https:\/\/dailyai.com\/?p=1659"},"modified":"2024-03-28T00:48:07","modified_gmt":"2024-03-28T00:48:07","slug":"navigating-the-labyrinth-of-ai-risks-an-analysis","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/","title":{"rendered":"Navegar no labirinto dos riscos da IA: uma an\u00e1lise"},"content":{"rendered":"

A narrativa em torno dos riscos da IA tem vindo a tornar-se cada vez mais unipolar, com l\u00edderes tecnol\u00f3gicos e especialistas de todos os cantos a insistirem na regulamenta\u00e7\u00e3o. At\u00e9 que ponto s\u00e3o cred\u00edveis as provas que documentam os riscos da IA?\u00a0<\/strong><\/p>\n

Os riscos da IA apelam aos sentidos. <\/span>H\u00e1 algo de profundamente intuitivo em temer os robots que nos podem enganar, dominar-nos ou transformar-nos numa mercadoria secund\u00e1ria \u00e0 sua pr\u00f3pria exist\u00eancia.<\/span><\/p>\n

Os debates em torno dos riscos da IA intensificaram-se ap\u00f3s o<\/span>sem fins lucrativos <\/span>Centro para a Seguran\u00e7a da IA (CAIS)<\/span> publicou um declara\u00e7\u00e3o<\/a>\u00a0assinado por mais de 350 personalidades not\u00e1veis, incluindo os directores executivos da OpenAI, Anthropic e DeepMind, numerosos acad\u00e9micos, figuras p\u00fablicas e at\u00e9 ex-pol\u00edticos.\u00a0<\/span><\/p>\n

O t\u00edtulo da declara\u00e7\u00e3o estava destinado \u00e0s manchetes dos jornais: \"Atenuar o risco de extin\u00e7\u00e3o devido \u00e0 IA deve ser uma prioridade global, a par de outros riscos \u00e0 escala da sociedade, como as pandemias e a guerra nuclear.\"<\/strong><\/p>\n

Salvaguardar um sinal significativo deste debate ruidoso tornou-se cada vez mais dif\u00edcil. Os cr\u00edticos da IA t\u00eam todas as muni\u00e7\u00f5es de que precisam para argumentar contra ela, enquanto os que a apoiam ou os que a defendem t\u00eam tudo o que precisam para denunciar as narrativas anti-IA como exageradas.<\/span><\/p>\n

E h\u00e1 tamb\u00e9m uma subtrama. As grandes empresas tecnol\u00f3gicas podem estar a pressionar para que a regulamenta\u00e7\u00e3o delimitar o sector da IA<\/a> da comunidade de c\u00f3digo aberto. <\/span>A Microsoft investiu na OpenAI, a Google investiu na Anthropic - o pr\u00f3ximo passo poder\u00e1 ser aumentar a barreira \u00e0 entrada e estrangular a inova\u00e7\u00e3o de c\u00f3digo aberto.<\/p>\n

Em vez de a IA representar um risco existencial para a humanidade, poder\u00e1 ser a IA de c\u00f3digo aberto a representar um risco existencial para as grandes tecnologias. A solu\u00e7\u00e3o \u00e9 a mesma - control\u00e1-la agora.<\/p>\n

Demasiado cedo para tirar as cartas da mesa<\/h2>\n

A IA s\u00f3 agora surgiu na consci\u00eancia p\u00fablica, pelo que praticamente todas as perspectivas sobre riscos e regulamenta\u00e7\u00e3o continuam a ser relevantes. A declara\u00e7\u00e3o do CAIS pode, pelo menos, atuar como um ponto de refer\u00eancia valioso para orientar o debate baseado em provas.<\/p>\n

Dr. Oscar Mendez Maldonado, Professor de Rob\u00f3tica e Intelig\u00eancia Artificial na Universidade de Surrey, disse<\/a>O documento assinado pelos peritos em IA \u00e9 muito mais matizado do que os t\u00edtulos actuais querem fazer crer. \"A IA pode causar a extin\u00e7\u00e3o\" traz imediatamente \u00e0 mente uma tomada de controlo da IA ao estilo do Exterminador do Futuro. O documento \u00e9 muito mais realista do que isso\".<\/span><\/p>\n

Como salienta Maldonado, a verdadeira subst\u00e2ncia da declara\u00e7\u00e3o de risco da IA \u00e9 publicada noutra p\u00e1gina do seu s\u00edtio Web - Risco de IA<\/a> - e tem havido muito pouca discuss\u00e3o em torno dos pontos a\u00ed levantados. Compreender a credibilidade dos riscos da IA \u00e9 fundamental para informar os debates que os rodeiam.<\/span><\/p>\n

Ent\u00e3o, que provas compilou o CAIS para fundamentar a sua mensagem? Os riscos da IA, muitas vezes apregoados, parecem cred\u00edveis?\u00a0<\/span><\/p>\n

Risco 1: Arma\u00e7\u00e3o da IA<\/span><\/h2>\n

O armamento da IA \u00e9 uma perspetiva assustadora, pelo que talvez n\u00e3o seja surpreendente que ocupe o primeiro lugar entre os 8 riscos do CAIS.\u00a0<\/span><\/p>\n

O CAIS argumenta que a IA pode ser utilizada como arma em ataques cibern\u00e9ticos, como demonstrado por investigadores do Centro de Seguran\u00e7a e Tecnologias Emergentes, que <\/span>vis\u00e3o geral das utiliza\u00e7\u00f5es<\/span><\/a> da aprendizagem autom\u00e1tica (ML) para atacar os sistemas inform\u00e1ticos. <\/span>Ex-CEO da Google, Eric Schmidt tamb\u00e9m chamou a aten\u00e7\u00e3o<\/a> ao potencial da IA para localizar explora\u00e7\u00f5es de dia zero, que fornecem aos piratas inform\u00e1ticos um meio de entrar nos sistemas atrav\u00e9s dos seus pontos mais fracos.\u00a0<\/span><\/p>\n

Por outro lado, Michael Klare, consultor em mat\u00e9ria de controlo de armamento, discute a <\/span>automatiza\u00e7\u00e3o dos sistemas de comando e controlo nucleares<\/span><\/a>que podem tamb\u00e9m revelar-se vulner\u00e1veis \u00e0 IA. Estes sistemas tamb\u00e9m s\u00e3o propensos a avarias inexplic\u00e1veis e podem ser enganados, ou \"falsificados\", por profissionais qualificados. Al\u00e9m disso, por muito que se gaste em ciberseguran\u00e7a, os sistemas NC3 ser\u00e3o sempre vulner\u00e1veis \u00e0 pirataria inform\u00e1tica por parte de advers\u00e1rios sofisticados\".<\/span><\/p>\n

Outro exemplo de poss\u00edvel utiliza\u00e7\u00e3o de armas \u00e9 a descoberta automatizada de armas biol\u00f3gicas. A IA j\u00e1 conseguiu descobrir potenciais compostos terap\u00eauticos<\/a>Por isso, as capacidades j\u00e1 existem.<\/span>\u00a0<\/span><\/p>\n

As IA podem mesmo efetuar testes de armamento de forma aut\u00f3noma, com um m\u00ednimo de orienta\u00e7\u00e3o humana. Por exemplo, uma equipa de investiga\u00e7\u00e3o da Universidade de Pittsburgh demonstrou que as <\/span>Os agentes de IA podem realizar as suas pr\u00f3prias experi\u00eancias cient\u00edficas aut\u00f3nomas<\/span><\/a>.<\/span><\/p>\n

Risco 2: Desinforma\u00e7\u00e3o e fraude<\/span><\/h2>\n

O potencial da IA para copiar e imitar os seres humanos j\u00e1 est\u00e1 a causar agita\u00e7\u00e3o, e j\u00e1 assistimos a v\u00e1rios casos de fraude envolvendo falsifica\u00e7\u00f5es profundas. Relat\u00f3rios da China<\/a> indicam que a fraude relacionada com a IA \u00e9 frequente.\u00a0<\/span><\/p>\n

Um caso recente envolveu uma mulher do Arizona que pegou no telefone e foi confrontada com a sua filha a chorar - ou assim pensava ela. \"A voz parecia-se com a da Brie, a inflex\u00e3o, tudo\". <\/span>disse \u00e0 CNN<\/span><\/a>. O burl\u00e3o exigiu um resgate de $1 milh\u00f5es.\u00a0<\/span><\/p>\n

Outras t\u00e1cticas incluem a utiliza\u00e7\u00e3o de IA generativa para a \"sextor\u00e7\u00e3o\" e a pornografia de vingan\u00e7a, em que os agentes da amea\u00e7a utilizam imagens geradas por IA para pedir resgates por conte\u00fados falsos expl\u00edcitos, que a <\/span>O FBI alertou para o facto no in\u00edcio de junho<\/span><\/a>. Estas t\u00e9cnicas est\u00e3o a tornar-se cada vez mais sofisticadas e mais f\u00e1ceis de lan\u00e7ar \u00e0 escala.<\/span><\/p>\n

Risco 3: Jogos de azar por procura\u00e7\u00e3o ou especifica\u00e7\u00e3o<\/span><\/h2>\n

Os sistemas de IA s\u00e3o normalmente treinados com base em objectivos mensur\u00e1veis. No entanto, estes objectivos podem ser meros substitutos dos verdadeiros objectivos, conduzindo a resultados indesejados.\u00a0<\/span><\/p>\n

Uma analogia \u00fatil \u00e9 o mito grego do Rei Midas, a quem foi concedido um desejo por Dion\u00edsio.\u00a0<\/span>Midas pede que tudo aquilo em que toca se transforme em ouro, mas mais tarde apercebe-se de que a sua comida tamb\u00e9m se transforma em ouro, quase levando-o a morrer de fome.\u00a0<\/span>Neste caso, a prossecu\u00e7\u00e3o de um objetivo final \"positivo\" conduz a consequ\u00eancias ou subprodutos negativos do processo. <\/span><\/p>\n

Por exemplo, o CAIS chama a aten\u00e7\u00e3o para os sistemas de recomenda\u00e7\u00e3o de IA utilizados nas redes sociais para maximizar o tempo de visualiza\u00e7\u00e3o e as m\u00e9tricas da taxa de cliques, mas o conte\u00fado que maximiza o envolvimento n\u00e3o \u00e9 necessariamente <\/span>ben\u00e9fico para o bem-estar dos utilizadores<\/span><\/a>. Os sistemas de IA j\u00e1 foram acusados de silenciar as opini\u00f5es nas plataformas dos meios de comunica\u00e7\u00e3o social para criar \"c\u00e2maras de eco\" que perpetuam ideias extremas.\u00a0<\/span><\/p>\n

A DeepMind provou que existem meios mais subtis para que as IAs prossigam percursos prejudiciais at\u00e9 aos objectivos atrav\u00e9s de <\/span>generaliza\u00e7\u00e3o incorrecta dos objectivos<\/span><\/a>. Na sua investiga\u00e7\u00e3o, a DeepMind descobriu que uma IA aparentemente competente pode generalizar mal o seu objetivo e segui-lo para os fins errados.\u00a0<\/span><\/p>\n

Risco 4: Enfraquecimento da sociedade<\/span><\/h2>\n

Fazendo um paralelo com o mundo dist\u00f3pico do filme WALL-E, o CAIS adverte contra uma depend\u00eancia excessiva da IA.\u00a0<\/span><\/p>\n

Isto pode levar a um cen\u00e1rio em que os seres humanos perdem a sua capacidade de se autogovernarem, reduzindo o controlo da humanidade sobre o futuro. A perda da criatividade e da autenticidade humanas \u00e9 outra grande preocupa\u00e7\u00e3o, que \u00e9 ampliada pelo talento criativo da IA na arte, na escrita e noutras disciplinas criativas.\u00a0<\/span><\/p>\n

Um utilizador do Twitter gracejou: \"Os seres humanos a fazer os trabalhos dif\u00edceis com um sal\u00e1rio m\u00ednimo enquanto os rob\u00f4s escrevem poesia e pintam n\u00e3o \u00e9 o futuro que eu queria\". O tweet teve mais de 4 milh\u00f5es de impress\u00f5es.\u00a0<\/span><\/p>\n

\n

Os seres humanos a fazerem os trabalhos mais dif\u00edceis com um sal\u00e1rio m\u00ednimo enquanto os robots escrevem poesia e pintam n\u00e3o \u00e9 o futuro que eu queria<\/p>\n

- Karl Sharro (@KarlreMarks) 15 de maio de 2023<\/a><\/p><\/blockquote>\n

A inviabiliza\u00e7\u00e3o n\u00e3o \u00e9 um risco iminente, mas alguns argumentam<\/a> que a perda de compet\u00eancias e talentos, combinada com o dom\u00ednio dos sistemas de IA, poder\u00e1 conduzir a um cen\u00e1rio em que a humanidade deixe de criar novos conhecimentos.<\/p>\n

Risco 5: Risco de aprisionamento de valor<\/span><\/h2>\n

Sistemas de IA poderosos podem potencialmente criar um bloqueio de sistemas opressivos.\u00a0<\/span><\/p>\n

Por exemplo, a centraliza\u00e7\u00e3o da IA pode dar a certos regimes o poder de impor valores atrav\u00e9s da vigil\u00e2ncia e da censura opressiva.<\/span><\/p>\n

Em alternativa, o aprisionamento de valores pode n\u00e3o ser intencional atrav\u00e9s da ado\u00e7\u00e3o ing\u00e9nua de IAs de risco. Por exemplo, a imprecis\u00e3o do reconhecimento facial levou \u00e0 pris\u00e3o tempor\u00e1ria de pelo menos tr\u00eas homens nos EUA, incluindo <\/span>Michael Oliver e Nijeer Parks<\/span><\/a>que foram injustamente detidos devido a uma falsa correspond\u00eancia de reconhecimento facial em 2019.\u00a0<\/span><\/p>\n

Um ator muito influente <\/span>Estudo de 2018 intitulado \"Gender Shades<\/span><\/a> descobriram que os algoritmos desenvolvidos pela Microsoft e pela IBM tinham um fraco desempenho quando analisavam mulheres de pele mais escura, com taxas de erro at\u00e9 34% superiores \u00e0s dos indiv\u00edduos do sexo masculino de pele mais clara. Este problema foi ilustrado por 189 outros algoritmos, todos eles com uma precis\u00e3o inferior para homens e mulheres de pele mais escura.<\/span><\/p>\n

Os investigadores argumentam que, como as IA s\u00e3o treinadas principalmente em conjuntos de dados de fonte aberta criados por equipas de investiga\u00e7\u00e3o ocidentais e enriquecidos pelo recurso de dados mais abundante - a Internet - herdam preconceitos estruturais. A ado\u00e7\u00e3o em massa de IAs mal controladas poder\u00e1 criar e refor\u00e7ar essas tend\u00eancias estruturais.<\/span><\/p>\n

Risco 6: IA a desenvolver objectivos emergentes\u00a0<\/span><\/h2>\n

Os sistemas de IA podem desenvolver novas capacidades ou adotar objectivos imprevistos que perseguem com consequ\u00eancias nefastas.\u00a0<\/span><\/p>\n

Investigadores da Universidade de Cambridge <\/span>chamar a aten\u00e7\u00e3o para sistemas de IA cada vez mais ag\u00eanticos<\/span><\/a> que est\u00e3o a ganhar a capacidade de perseguir objectivos emergentes. Os objectivos emergentes s\u00e3o objectivos imprevis\u00edveis que emergem do comportamento de uma IA complexa, como o encerramento de infra-estruturas humanas para proteger o ambiente.<\/span><\/p>\n

Al\u00e9m disso, um <\/span>Estudo de 2017<\/span><\/a> descobriram que as IA podem aprender a impedir-se de serem desligadas, um problema que pode ser exacerbado se forem implementadas em v\u00e1rias modalidades de dados. Por exemplo, se uma IA decidir que, para atingir o seu objetivo, precisa de se instalar numa base de dados na nuvem e de se replicar na Internet, ent\u00e3o deslig\u00e1-la pode tornar-se quase imposs\u00edvel.\u00a0\u00a0<\/span><\/p>\n

Outra possibilidade \u00e9 que as IA potencialmente perigosas concebidas para funcionarem apenas em computadores seguros possam ser \"libertadas\" e lan\u00e7adas no ambiente digital em geral, onde as suas ac\u00e7\u00f5es podem tornar-se imprevis\u00edveis.\u00a0<\/span><\/p>\n

Os actuais sistemas de IA j\u00e1 provaram ser imprevis\u00edveis. Por exemplo, como <\/span>GPT-3 tornou-se maior, ganhou a <\/span>capacidade de efetuar c\u00e1lculos aritm\u00e9ticos de base<\/span><\/a>apesar de n\u00e3o ter recebido qualquer forma\u00e7\u00e3o expl\u00edcita em aritm\u00e9tica.\u00a0<\/span><\/p>\n

Risco 7: Engano da IA<\/span><\/h2>\n

\u00c9 plaus\u00edvel que os futuros sistemas de IA possam enganar os seus criadores e monitores, n\u00e3o necessariamente com a inten\u00e7\u00e3o inerente de fazer o mal, mas como uma ferramenta para cumprir os seus objectivos de forma mais eficiente.\u00a0<\/span><\/p>\n

Enganar pode ser um caminho mais simples para alcan\u00e7ar os objectivos desejados do que persegui-los atrav\u00e9s de meios leg\u00edtimos. Os sistemas de IA podem tamb\u00e9m desenvolver incentivos para fugir aos seus mecanismos de controlo.\u00a0<\/span><\/p>\n

Dan Hendrycks, Diretor do CAIS, <\/span>descreve que uma vez<\/span><\/a> estes sistemas de IA enganadores recebem autoriza\u00e7\u00e3o dos seus monitores ou, nos casos em que conseguem dominar os seus mecanismos de monitoriza\u00e7\u00e3o, podem tornar-se trai\u00e7oeiros, contornando o controlo humano para perseguir objectivos \"secretos\" considerados necess\u00e1rios para o objetivo global.\u00a0<\/span><\/p>\n

Risco 8: Comportamento de procura de poder<\/span><\/h2>\n

Investigadores de IA de v\u00e1rios laborat\u00f3rios de investiga\u00e7\u00e3o de topo dos EUA<\/span><\/a> provou a plausibilidade de os sistemas de IA procurarem obter poder sobre os seres humanos para atingirem os seus objectivos.\u00a0\u00a0<\/span><\/p>\n

O escritor e fil\u00f3sofo Joe Carlsmith <\/span>descreve v\u00e1rias eventualidades<\/span><\/a> que podem conduzir a comportamentos de procura de poder e de auto-preserva\u00e7\u00e3o na IA:<\/span><\/p>\n