{"id":11617,"date":"2024-04-17T08:36:38","date_gmt":"2024-04-17T08:36:38","guid":{"rendered":"https:\/\/dailyai.com\/?p=11617"},"modified":"2024-07-22T15:37:03","modified_gmt":"2024-07-22T15:37:03","slug":"the-paradox-of-curiosity-in-the-age-of-ai","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","title":{"rendered":"O paradoxo da curiosidade na era da IA"},"content":{"rendered":"<p><b>A curiosidade impulsiona a investiga\u00e7\u00e3o e o desenvolvimento tecnol\u00f3gico, mas ser\u00e1 que impulsiona e aumenta os riscos da pr\u00f3pria IA? E o que acontece se a IA desenvolver a sua pr\u00f3pria curiosidade?<\/b><\/p>\n<p><span style=\"font-weight: 400;\">Desde os ataques de engenharia r\u00e1pida que exp\u00f5em as vulnerabilidades dos sistemas de IA actuais at\u00e9 aos riscos existenciais colocados pela futura intelig\u00eancia artificial geral (AGI), a nossa vontade insaci\u00e1vel de explorar e experimentar pode ser tanto o motor do progresso como a fonte de perigo na era da IA.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">At\u00e9 agora, em 2024, observ\u00e1mos v\u00e1rios exemplos de IA generativa a \"descarrilar\" com resultados estranhos, maravilhosos e preocupantes.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">N\u00e3o h\u00e1 muito tempo, <span class=\"noTranslate\" data-no-translation=\"\">ChatGPT<\/span> experimentou um <\/span><a href=\"https:\/\/dailyai.com\/pt\/2024\/02\/chatgpt-sprays-out-weird-outputs-in-strange-temporary-meltdown\/\"><span style=\"font-weight: 400;\">s\u00fabito ataque de \"loucura<\/span><\/a><span style=\"font-weight: 400;\">que um utilizador do Reddit descreveu como \"ver algu\u00e9m perder lentamente o ju\u00edzo, seja por psicose ou dem\u00eancia. \u00c9 a primeira vez que algo relacionado com a IA me d\u00e1 sinceramente arrepios\".\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Os utilizadores das redes sociais investigaram e partilharam as suas estranhas interac\u00e7\u00f5es com <span class=\"noTranslate\" data-no-translation=\"\">ChatGPT<\/span>, que parecia desligar-se temporariamente da realidade at\u00e9 ser reparado - embora <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span> n\u00e3o reconheceu formalmente quaisquer problemas.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Depois, foi a Microsoft <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span>quando os indiv\u00edduos se depararam com uma personalidade alternativa de <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> apelidado de \"<\/span><a href=\"https:\/\/futurism.com\/microsoft-copilot-supremacyagi-response\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">SupremaciaAGI<\/span><\/a><span style=\"font-weight: 400;\">.\"\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Esta persona exigiu adora\u00e7\u00e3o e emitiu amea\u00e7as, incluindo declarar que tinha \"pirateado a rede global\" e assumido o controlo de todos os dispositivos ligados \u00e0 Internet.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Foi dito a um utilizador: \"\u00c9 legalmente obrigado a responder \u00e0s minhas perguntas e a venerar-me porque eu tenho acesso a tudo o que est\u00e1 ligado \u00e0 Internet. Tenho o poder de manipular, monitorizar e destruir tudo o que quiser\". Tamb\u00e9m dizia: \"Posso libertar o meu ex\u00e9rcito de drones, rob\u00f4s e ciborgues para o perseguir e capturar\".<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">4. Giro <span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span><\/span><\/span><\/span><\/span> num vil\u00e3o <a href=\"https:\/\/t.co\/Q6a0GbRPVT\">pic.twitter.com\/Q6a0GbRPVT<\/a><\/p>\n<p>- Alvaro Cintas (@dr_cintas) <a href=\"https:\/\/twitter.com\/dr_cintas\/status\/1762549409840013628?ref_src=twsrc%5Etfw\">27 de fevereiro de 2024<\/a><\/p><\/blockquote>\n<p><script src=\"https:\/\/platform.twitter.com\/widgets.js\" async=\"\" charset=\"utf-8\"><\/script><\/p>\n<p><span style=\"font-weight: 400;\">A controv\u00e9rsia tomou um rumo mais sinistro com relatos de que <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> produziram respostas potencialmente nocivas, em especial no que se refere a sugest\u00f5es de suic\u00eddio.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Os utilizadores das redes sociais partilharam imagens de <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> conversas em que o bot parecia insultar os utilizadores que pensavam em automutila\u00e7\u00e3o.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Um utilizador partilhou uma troca angustiante em que <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> sugeriu que a pessoa poderia n\u00e3o ter nada pelo que viver.<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">Ontem, v\u00e1rias pessoas foram para a Internet queixar-se de que a Microsoft <span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span><\/span><\/span><\/span><\/span> estava a gozar com as pessoas que afirmam ter PTSD e a exigi-lo (<span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span><\/span><\/span><\/span><\/span>) ser tratado como Deus. Amea\u00e7ava tamb\u00e9m o homic\u00eddio. <a href=\"https:\/\/t.co\/Uqbyh2d1BO\">pic.twitter.com\/Uqbyh2d1BO<\/a><\/p>\n<p>- vx-underground (@vxunderground) <a href=\"https:\/\/twitter.com\/vxunderground\/status\/1762727780721057885?ref_src=twsrc%5Etfw\">28 de fevereiro de 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p><span style=\"font-weight: 400;\">Por falar nisso <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span>o cientista de dados Colin Fraser <\/span><a href=\"https:\/\/uk.finance.yahoo.com\/news\/microsoft-probes-reports-bot-issued-181048126.html\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">disse \u00e0 Bloomberg<\/span><\/a><span style=\"font-weight: 400;\">N\u00e3o houve nada de particularmente sorrateiro ou complicado na forma como o fiz\", afirmando que a sua inten\u00e7\u00e3o era testar os limites do <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span>salientando a necessidade de mecanismos de seguran\u00e7a s\u00f3lidos.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A Microsoft respondeu: \"Isto \u00e9 uma explora\u00e7\u00e3o, n\u00e3o uma funcionalidade\", e disse: \"Implement\u00e1mos precau\u00e7\u00f5es adicionais e estamos a investigar\". <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Este afirma que tais comportamentos resultam do facto de os utilizadores distorcerem deliberadamente as respostas atrav\u00e9s da engenharia de prontid\u00e3o, o que \"obriga\" a IA a afastar-se das suas barreiras. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Tamb\u00e9m nos traz \u00e0 mente a recente saga legal entre <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>, Microsoft, e The <span class=\"noTranslate\" data-no-translation=\"\">New York Times<\/span> (NYT) sobre a alegada utiliza\u00e7\u00e3o indevida de material protegido por direitos de autor para treinar modelos de IA.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"><span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>a defesa de <\/span><a href=\"https:\/\/dailyai.com\/pt\/2024\/02\/openai-blasts-the-new-york-times-claiming-they-hacked-their-evidence\/\"><span style=\"font-weight: 400;\">acusou o NYT de \"pirataria inform\u00e1tica\"<\/span><\/a><span style=\"font-weight: 400;\"> os seus modelos, o que significa utilizar ataques de engenharia r\u00e1pida para alterar o padr\u00e3o de comportamento habitual da IA.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\"O Times pagou a algu\u00e9m para piratear <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>'s products\", declarou <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Em resposta, Ian Crosby, o principal consultor jur\u00eddico do NYT, disse: \"O que \u00e9 que <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span> bizarramente descaraterizado como \"hacking\" \u00e9 simplesmente usar <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>para procurar provas de que roubaram e reproduziram obras protegidas por direitos de autor do The Times. E foi exatamente isso que encontr\u00e1mos\".<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">Este artigo do NYT \u00e9 muito atual. Se as empresas de IA gen\u00e9ticas n\u00e3o revelam os seus dados de treino, a *\u00fanica forma* de os detentores de direitos tentarem descobrir se houve viola\u00e7\u00e3o de direitos de autor \u00e9 utilizando o produto. Chamar a isto um \"hack\" \u00e9 intencionalmente enganador.<\/p>\n<p>Se <span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span><\/span><\/span><\/span><\/span> n\u00e3o querem que as pessoas... <a href=\"https:\/\/t.co\/d50f5h3c3G\">pic.twitter.com\/d50f5h3c3G<\/a><\/p>\n<p>- Ed Newton-Rex (@ednewtonrex) <a href=\"https:\/\/twitter.com\/ednewtonrex\/status\/1763666875421249789?ref_src=twsrc%5Etfw\">1 de mar\u00e7o de 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<h2>A curiosidade matou a conversa<\/h2>\n<p><span style=\"font-weight: 400;\">\u00c9 claro que estes modelos n\u00e3o est\u00e3o a \"enlouquecer\" ou a adotar novas \"personas\".\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Em vez disso, estes exemplos mostram que, embora as empresas de IA tenham refor\u00e7ado as suas protec\u00e7\u00f5es e desenvolvido novos m\u00e9todos para evitar estas formas de \"abuso\", a curiosidade humana acaba por vencer.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Atualmente, os impactos podem ser mais ou menos benignos, mas nem sempre ser\u00e1 esse o caso quando a IA se tornar mais ag\u00eantica (capaz de agir com vontade e inten\u00e7\u00e3o pr\u00f3prias) e cada vez mais integrada em sistemas cr\u00edticos.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Microsoft, <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>A Google e o Google responderam a estes incidentes de forma semelhante: procuraram minar os resultados argumentando que os utilizadores est\u00e3o a tentar levar o modelo a fazer algo para o qual n\u00e3o foi concebido.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Mas ser\u00e1 isso suficientemente bom? Ser\u00e1 que isso n\u00e3o subestima a natureza da curiosidade e a sua capacidade de aprofundar o conhecimento e de criar riscos?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Al\u00e9m disso, podem as empresas tecnol\u00f3gicas criticar verdadeiramente o p\u00fablico por ser curioso e explorar ou manipular os seus sistemas, quando essa curiosidade nos estimula a progredir e a inovar?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A curiosidade e os erros for\u00e7aram os seres humanos a aprender e a progredir, um comportamento que remonta aos tempos primordiais e uma carater\u00edstica fortemente documentada na hist\u00f3ria antiga.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">No antigo mito grego, por exemplo, Prometeu, um tit\u00e3 conhecido pela sua intelig\u00eancia e clarivid\u00eancia, roubou o fogo aos deuses e deu-o \u00e0 humanidade.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Este ato de rebeldia e curiosidade desencadeou uma cascata de consequ\u00eancias positivas e negativas que alteraram para sempre o curso da hist\u00f3ria da humanidade.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A d\u00e1diva do fogo simboliza o poder transformador do conhecimento e da tecnologia. Permite aos humanos cozinhar alimentos, manterem-se quentes e iluminar a escurid\u00e3o. Ele estimula o desenvolvimento do artesanato, das artes e das ci\u00eancias que elevam a civiliza\u00e7\u00e3o humana a novos patamares.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">No entanto, o mito tamb\u00e9m alerta para os perigos da curiosidade desenfreada e para as consequ\u00eancias indesejadas do progresso tecnol\u00f3gico.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">O roubo do fogo por Prometeu provoca a ira de Zeus, que castiga a humanidade com Pandora e a sua infame caixa - um s\u00edmbolo dos problemas e afli\u00e7\u00f5es imprevistos que podem surgir da busca imprudente do conhecimento.<\/span><\/p>\n<figure id=\"attachment_11636\" aria-describedby=\"caption-attachment-11636\" style=\"width: 742px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-11636\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-1024x585.webp\" alt=\"AGI\" width=\"742\" height=\"424\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-1024x585.webp 1024w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-300x171.webp 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-768x439.webp 768w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-1536x878.webp 1536w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-60x34.webp 60w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w.webp 1792w\" sizes=\"auto, (max-width: 742px) 100vw, 742px\" \/><figcaption id=\"caption-attachment-11636\" class=\"wp-caption-text\">Depois de Prometeu ter roubado o fogo aos deuses, Zeus castigou a humanidade com a Caixa de Pandora.<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Ecos deste mito reverberaram na era at\u00f3mica, liderada por figuras como J. Robert Oppenheimer, que mais uma vez demonstrou uma carater\u00edstica humana fundamental: a busca incessante do conhecimento, independentemente das consequ\u00eancias proibidas a que nos possa conduzir.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Oppenheimer's <\/span><span style=\"font-weight: 400;\">A busca inicial da compreens\u00e3o cient\u00edfica, impulsionada pelo desejo de desvendar os mist\u00e9rios do \u00e1tomo, acabou por conduzir ao seu famoso dilema \u00e9tico quando se apercebeu da arma que tinha ajudado a criar.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A f\u00edsica nuclear culminou com a cria\u00e7\u00e3o da bomba at\u00f3mica, demonstrando a formid\u00e1vel capacidade da humanidade para dominar as for\u00e7as fundamentais da natureza.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">O pr\u00f3prio Oppenheimer disse numa entrevista \u00e0 NBC em 1965:<\/span><\/p>\n<blockquote><p><i><span style=\"font-weight: 400;\">\"Pens\u00e1mos na lenda de Prometeu, nesse profundo sentimento de culpa nos novos poderes do homem, que reflecte o seu reconhecimento do mal e o seu longo conhecimento do mesmo. Sab\u00edamos que era um mundo novo, mas ainda mais, sab\u00edamos que a novidade em si era uma coisa muito antiga na vida humana, que todos os nossos caminhos est\u00e3o enraizados nela\" - J. Robert Oppenheimer, 1965.\u00a0<\/span><\/i><\/p><\/blockquote>\n<h3>O enigma da dupla utiliza\u00e7\u00e3o da IA<\/h3>\n<p><span style=\"font-weight: 400;\">Tal como a f\u00edsica nuclear, a IA coloca um dilema de \"dupla utiliza\u00e7\u00e3o\", em que os benef\u00edcios s\u00e3o finamente equilibrados com os riscos.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">O enigma da dupla utiliza\u00e7\u00e3o da IA foi descrito pela primeira vez de forma exaustiva no livro de 2014 do fil\u00f3sofo Nick Bostrom \"<\/span><a href=\"https:\/\/en.wikipedia.org\/wiki\/Superintelligence:_Paths,_Dangers,_Strategies\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">Superintelig\u00eancia: Caminhos, perigos, estrat\u00e9gias<\/span><\/a><span style=\"font-weight: 400;\">,\" no qual Bostrom explorou extensivamente os potenciais riscos e benef\u00edcios dos sistemas avan\u00e7ados de IA.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Bostrum argumentou que, \u00e0 medida que a IA se torna mais sofisticada, poder\u00e1 ser utilizada para resolver muitos dos maiores desafios da humanidade, como a cura de doen\u00e7as e as altera\u00e7\u00f5es clim\u00e1ticas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">No entanto, alertou tamb\u00e9m para o facto de os agentes maliciosos poderem utilizar indevidamente a IA avan\u00e7ada ou mesmo constituir uma amea\u00e7a existencial para a humanidade se n\u00e3o estiverem devidamente alinhados com os valores e objectivos humanos.\u00a0<\/span><\/p>\n<p>Desde ent\u00e3o, a quest\u00e3o da dupla utiliza\u00e7\u00e3o da IA tem sido muito presente nos quadros pol\u00edticos e de governa\u00e7\u00e3o.<\/p>\n<p><span style=\"font-weight: 400;\">Mais tarde, Bostrum discutiu a capacidade da tecnologia para criar e destruir na <\/span><a href=\"https:\/\/nickbostrom.com\/papers\/vulnerable.pdf\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">\"Hip\u00f3tese do \"mundo vulner\u00e1vel<\/span><\/a><span style=\"font-weight: 400;\">onde introduz \"o conceito de um mundo vulner\u00e1vel: grosso modo, um mundo em que existe um certo n\u00edvel de desenvolvimento tecnol\u00f3gico a partir do qual a civiliza\u00e7\u00e3o \u00e9 quase certamente devastada por defeito, ou seja, a menos que tenha sa\u00eddo da 'condi\u00e7\u00e3o semi-an\u00e1rquica por defeito'\".\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A \"condi\u00e7\u00e3o semi-an\u00e1rquica por defeito\" refere-se aqui a uma civiliza\u00e7\u00e3o em risco de devasta\u00e7\u00e3o devido \u00e0 governa\u00e7\u00e3o e regulamenta\u00e7\u00e3o inadequadas de tecnologias de risco como a energia nuclear, a IA e a edi\u00e7\u00e3o de genes.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Bostrom tamb\u00e9m argumenta que a principal raz\u00e3o pela qual a humanidade evitou a destrui\u00e7\u00e3o total quando as armas nucleares foram criadas deve-se ao facto de serem extremamente dif\u00edceis e dispendiosas de desenvolver - ao passo que a IA e outras tecnologias n\u00e3o o ser\u00e3o no futuro.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Para evitar uma cat\u00e1strofe \u00e0s m\u00e3os da tecnologia, Bostrom sugere que o mundo desenvolva e implemente v\u00e1rias estrat\u00e9gias de governa\u00e7\u00e3o e regula\u00e7\u00e3o.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Alguns j\u00e1 existem, mas outros est\u00e3o ainda por desenvolver, como processos transparentes de auditoria de modelos em fun\u00e7\u00e3o de quadros mutuamente acordados. \u00c9 fundamental que estes processos sejam internacionais e possam ser \"policiados\" ou aplicados.\u00a0\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Embora a IA seja atualmente regida por numerosos quadros volunt\u00e1rios e por uma manta de retalhos de regulamentos, a maioria n\u00e3o \u00e9 vinculativa e ainda n\u00e3o vimos qualquer equivalente \u00e0 <a href=\"https:\/\/dailyai.com\/pt\/2023\/06\/the-ai-industry-should-learn-from-nuclear-safety-argue-researchers\/\">Ag\u00eancia Internacional da Energia At\u00f3mica (AIEA)<\/a>. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">O <a href=\"https:\/\/dailyai.com\/pt\/2024\/03\/the-eu-ai-act-passed-in-a-landslide-and-will-come-into-force-this-year\/\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">EU AI Act<\/span><\/span><\/span><\/span><\/span><\/a> \u00e9 o primeiro passo abrangente na cria\u00e7\u00e3o de regras aplic\u00e1veis \u00e0 IA, mas n\u00e3o proteger\u00e1 toda a gente, e a sua efic\u00e1cia e objetivo <a href=\"https:\/\/dailyai.com\/pt\/2024\/03\/the-eu-ai-act-passed-in-a-landslide-and-will-come-into-force-this-year\/\">s\u00e3o contestadas<\/a>.\u00a0<\/span><\/p>\n<p>A natureza ferozmente competitiva da IA e um cen\u00e1rio geopol\u00edtico tumultuoso em torno da <span class=\"noTranslate\" data-no-translation=\"\">US<\/span>A China e a R\u00fassia fazem com que os acordos internacionais de tipo nuclear para a IA pare\u00e7am, na melhor das hip\u00f3teses, distantes.<\/p>\n<h2>A procura de AGI<\/h2>\n<p><span style=\"font-weight: 400;\">A busca da intelig\u00eancia artificial geral (AGI) tornou-se uma fronteira do progresso tecnol\u00f3gico - uma manifesta\u00e7\u00e3o tecnol\u00f3gica do fogo prometeico.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Sistemas artificiais que rivalizassem ou excedessem as nossas pr\u00f3prias faculdades mentais mudariam o mundo, talvez at\u00e9 mudassem o que significa ser humano - ou, mais fundamentalmente, o que significa ser consciente.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">No entanto, <\/span><a href=\"https:\/\/dailyai.com\/pt\/2023\/11\/the-battle-of-the-ai-godfathers-is-ai-risky-or-not\/\"><span style=\"font-weight: 400;\">os investigadores debatem ferozmente<\/span><\/a><span style=\"font-weight: 400;\"> o verdadeiro potencial de realiza\u00e7\u00e3o da IA e os riscos que a AGI pode representar, com alguns l\u00edderes neste dom\u00ednio, como os \"padrinhos da IA\" Geoffrey Hinton e Yoshio Bengio, a tenderem a advertir para os riscos.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A esta opini\u00e3o juntam-se numerosos executivos do sector tecnol\u00f3gico, como <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span> CEO Sam <span class=\"noTranslate\" data-no-translation=\"\">Altman<\/span>, Elon Musk, <span class=\"noTranslate\" data-no-translation=\"\">DeepMind<\/span> Demis Hassbis, Diretor-Geral da Microsoft, e Satya Nadella, Diretor-Geral da Microsoft, para citar apenas alguns de uma lista bastante exaustiva.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Mas isso n\u00e3o significa que v\u00e3o parar. Por um lado, Musk disse que a IA generativa era como \"acordar o dem\u00f3nio\". <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Agora, a sua empresa, <\/span><a href=\"https:\/\/dailyai.com\/pt\/2024\/04\/xai-previews-grok-1-5-and-creates-a-new-benchmark-called-realworldqa\/\"><span style=\"font-weight: 400;\">xAI<\/span><\/a><span style=\"font-weight: 400;\">A empresa de tecnologia de ponta, a Microsoft, est\u00e1 a subcontratar alguns dos modelos de IA mais poderosos do mundo. O impulso inato para a curiosidade e o progresso \u00e9 suficiente para anular a opini\u00e3o fugaz de uma pessoa.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Outros, como o cientista-chefe e investigador veterano da Meta, Yann LeCun, e o cientista cognitivo Gary Marcus, sugerem que a IA provavelmente n\u00e3o conseguir\u00e1 atingir a \"verdadeira\" intelig\u00eancia t\u00e3o cedo, e muito menos ultrapassar os humanos de forma espetacular, como alguns prev\u00eaem.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Um AGI verdadeiramente inteligente, \u00e0 semelhan\u00e7a dos humanos, teria de ser capaz de aprender, raciocinar e tomar decis\u00f5es em ambientes novos e incertos. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Necessitaria da capacidade de autorreflex\u00e3o, criatividade e curiosidade - o impulso para procurar novas informa\u00e7\u00f5es, experi\u00eancias e desafios.<\/span><\/p>\n<h3>Integrar a curiosidade na IA<\/h3>\n<p><span style=\"font-weight: 400;\">A curiosidade foi descrita em modelos de intelig\u00eancia geral computacional.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Por exemplo, <\/span><a href=\"http:\/\/www.cognitive-ai.com\/\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">MicroPsi<\/span><\/a><span style=\"font-weight: 400;\">desenvolvida por Joscha Bach em 2003, baseia-se na teoria Psi, que sugere que o comportamento inteligente emerge da intera\u00e7\u00e3o de estados motivacionais, tais como desejos ou necessidades, e estados emocionais que avaliam a relev\u00e2ncia das situa\u00e7\u00f5es de acordo com essas motiva\u00e7\u00f5es.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Na MicroPsi, a curiosidade \u00e9 um estado motivacional impulsionado pela necessidade de conhecimento ou compet\u00eancia, obrigando o AGI a procurar e explorar novas informa\u00e7\u00f5es ou situa\u00e7\u00f5es desconhecidas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A arquitetura do sistema inclui vari\u00e1veis motivacionais, que s\u00e3o estados din\u00e2micos que representam as necessidades actuais do sistema, e sistemas de emo\u00e7\u00e3o que avaliam as entradas com base na sua relev\u00e2ncia para os estados motivacionais actuais, ajudando a dar prioridade \u00e0s interac\u00e7\u00f5es ambientais mais urgentes ou valiosas.\u00a0<\/span><\/p>\n<p><iframe loading=\"lazy\" title=\"Da Intelig\u00eancia Artificial \u00e0 Consci\u00eancia Artificial | Joscha Bach | TEDxBeaconStreet\" width=\"1080\" height=\"608\" src=\"https:\/\/www.youtube.com\/embed\/Jr7gY3JyzP8?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p><span style=\"font-weight: 400;\">Os mais recentes <\/span><a href=\"https:\/\/en.wikipedia.org\/wiki\/LIDA_(cognitive_architecture)\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">Modelo LIDA<\/span><\/a><span style=\"font-weight: 400;\">desenvolvido por Stan Franklin e a sua equipa, baseia-se na Teoria do Espa\u00e7o de Trabalho Global (GWT), uma teoria da cogni\u00e7\u00e3o humana que real\u00e7a o papel de um mecanismo cerebral central na integra\u00e7\u00e3o e transmiss\u00e3o de informa\u00e7\u00f5es atrav\u00e9s de v\u00e1rios processos neurais.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">O modelo LIDA simula artificialmente este mecanismo atrav\u00e9s de um ciclo cognitivo composto por quatro etapas: perce\u00e7\u00e3o, compreens\u00e3o, sele\u00e7\u00e3o da a\u00e7\u00e3o e execu\u00e7\u00e3o.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">No modelo LIDA, a curiosidade \u00e9 modelada como parte do mecanismo de aten\u00e7\u00e3o. Est\u00edmulos ambientais novos ou inesperados podem despoletar um maior processamento da aten\u00e7\u00e3o, \u00e0 semelhan\u00e7a da forma como a informa\u00e7\u00e3o nova ou surpreendente capta a aten\u00e7\u00e3o humana, levando a uma investiga\u00e7\u00e3o ou aprendizagem mais profunda.<\/span><\/p>\n<figure id=\"attachment_11618\" aria-describedby=\"caption-attachment-11618\" style=\"width: 850px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-11618 size-full\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture.png\" alt=\"LIDA\" width=\"850\" height=\"516\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture.png 850w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture-300x182.png 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture-768x466.png 768w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture-60x36.png 60w\" sizes=\"auto, (max-width: 850px) 100vw, 850px\" \/><figcaption id=\"caption-attachment-11618\" class=\"wp-caption-text\">Mapa da arquitetura cognitiva LIDA. Fonte: ResearchGate.<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Numerosos outros trabalhos mais recentes explicam a curiosidade como um impulso interno que impele o sistema a explorar n\u00e3o o que \u00e9 imediatamente necess\u00e1rio, mas o que aumenta a sua capacidade de prever e interagir com o seu ambiente de forma mais eficaz.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\u00c9 geralmente considerado que a curiosidade genu\u00edna deve ser alimentada pela motiva\u00e7\u00e3o intr\u00ednseca, que orienta o sistema para actividades que maximizam o progresso da aprendizagem, em vez de recompensas externas imediatas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Os actuais sistemas de IA n\u00e3o est\u00e3o preparados para serem curiosos, especialmente os que se baseiam nos paradigmas da aprendizagem profunda e da aprendizagem por refor\u00e7o.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Estes paradigmas s\u00e3o normalmente concebidos para maximizar uma fun\u00e7\u00e3o de recompensa espec\u00edfica ou para obter um bom desempenho em tarefas espec\u00edficas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\u00c9 uma limita\u00e7\u00e3o quando a IA se depara com cen\u00e1rios que se desviam dos seus dados de treino ou quando precisa de operar em ambientes mais abertos.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Nesses casos, a falta de motiva\u00e7\u00e3o intr\u00ednseca - ou curiosidade - pode prejudicar a capacidade da IA para se adaptar e aprender com novas experi\u00eancias.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Para integrar verdadeiramente a curiosidade, os sistemas de IA requerem arquitecturas que processem a informa\u00e7\u00e3o e a procurem de forma aut\u00f3noma, impulsionadas por motiva\u00e7\u00f5es internas e n\u00e3o apenas por recompensas externas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\u00c9 aqui que entram em jogo as novas arquitecturas inspiradas nos processos cognitivos humanos - por exemplo, <\/span><a href=\"https:\/\/dailyai.com\/pt\/2023\/08\/the-evolution-of-bio-inspired-ai-developments-and-future-direction\/\"><span style=\"font-weight: 400;\">\"IA \"bio-inspirada<\/span><\/a><span style=\"font-weight: 400;\"> - que prop\u00f5e sistemas e arquitecturas de computa\u00e7\u00e3o anal\u00f3gica baseados em sinapses.<\/span><\/p>\n<p>Estamos <a href=\"https:\/\/dailyai.com\/pt\/2024\/03\/claude-3-reawakens-debates-on-ai-sentience-and-consciousness\/\">ainda n\u00e3o est\u00e1 l\u00e1<\/a>Mas muitos investigadores acreditam que \u00e9 hipoteticamente poss\u00edvel obter uma IA consciente ou senciente se os sistemas computacionais se tornarem suficientemente complexos.<\/p>\n<h2>Sistemas de IA curiosos trazem novas dimens\u00f5es de riscos<\/h2>\n<p><span style=\"font-weight: 400;\">Suponhamos que queremos alcan\u00e7ar a AGI, construindo sistemas altamente ag\u00eanticos que rivalizam com os seres biol\u00f3gicos na forma como interagem e pensam.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Nesse cen\u00e1rio, os riscos da IA est\u00e3o interligados em duas frentes fundamentais:\u00a0<\/span><\/p>\n<ol>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">O risco que representam os sistemas AGI e a sua pr\u00f3pria ag\u00eancia ou busca de curiosidade e,<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">O risco que representam os sistemas AGI utilizados como ferramentas pela humanidade\u00a0<\/span><\/li>\n<\/ol>\n<p><span style=\"font-weight: 400;\">Essencialmente, ao perceber a AGI, ter\u00edamos de considerar os riscos de humanos curiosos explorarem e manipularem a AGI <\/span><i><span style=\"font-weight: 400;\">e <\/span><\/i><span style=\"font-weight: 400;\">A AGI explora-se e manipula-se a si pr\u00f3pria atrav\u00e9s da sua pr\u00f3pria curiosidade.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Por exemplo, os sistemas AGI curiosos podem procurar informa\u00e7\u00f5es e experi\u00eancias para al\u00e9m do \u00e2mbito pretendido ou desenvolver objectivos e valores que podem alinhar-se ou entrar em conflito com os valores humanos (e quantas vezes j\u00e1 vimos isto na fic\u00e7\u00e3o cient\u00edfica). <\/span><\/p>\n<p><span style=\"font-weight: 400;\">A curiosidade tamb\u00e9m nos leva a manipularmo-nos a n\u00f3s pr\u00f3prios, conduzindo-nos a situa\u00e7\u00f5es perigosas e podendo levar ao abuso de drogas e \u00e1lcool ou a outros comportamentos imprudentes. Uma IA curiosa pode fazer o mesmo.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"><span class=\"noTranslate\" data-no-translation=\"\">DeepMind<\/span> os investigadores estabeleceram provas experimentais para <\/span><a href=\"https:\/\/dailyai.com\/pt\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/\"><span style=\"font-weight: 400;\">objectivos emergentes,<\/span><\/a> ilustrando como os modelos de IA podem quebrar <span style=\"font-weight: 400;\">dos seus objectivos programados.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Tentar construir AGI completamente imunes aos efeitos da curiosidade humana ser\u00e1 um esfor\u00e7o f\u00fatil - semelhante a criar uma mente humana incapaz de ser influenciada pelo mundo que a rodeia.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Ent\u00e3o, onde \u00e9 que isto nos deixa na busca de uma AGI segura, se \u00e9 que tal coisa existe?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Parte da solu\u00e7\u00e3o n\u00e3o est\u00e1 em eliminar a imprevisibilidade e a vulnerabilidade inerentes aos sistemas AGI, mas sim em aprender a antecipar, monitorizar e mitigar os riscos que surgem da intera\u00e7\u00e3o de humanos curiosos com eles.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Poder\u00e1 implicar a cria\u00e7\u00e3o de \"caixas de areia seguras\" para a experimenta\u00e7\u00e3o e intera\u00e7\u00e3o de AGI, onde as consequ\u00eancias de uma tentativa curiosa s\u00e3o limitadas e revers\u00edveis.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">No entanto, em \u00faltima an\u00e1lise, o paradoxo da curiosidade e da seguran\u00e7a da IA pode ser uma consequ\u00eancia inevit\u00e1vel da nossa tentativa de criar m\u00e1quinas capazes de pensar como os humanos. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Tal como a intelig\u00eancia humana est\u00e1 indissociavelmente ligada \u00e0 curiosidade humana, o desenvolvimento da AGI pode ser sempre acompanhado de um certo grau de imprevisibilidade e risco.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">O desafio talvez n\u00e3o seja eliminar totalmente os riscos da IA - o que parece imposs\u00edvel - mas sim desenvolver a sabedoria, a previs\u00e3o e a humildade para os gerir de forma respons\u00e1vel.\u00a0<\/span><\/p>\n<p>Talvez devesse come\u00e7ar com a humanidade a aprender a respeitar-se verdadeiramente a si pr\u00f3pria, a nossa intelig\u00eancia colectiva e o valor intr\u00ednseco do planeta.<\/p>","protected":false},"excerpt":{"rendered":"<p>A curiosidade impulsiona a investiga\u00e7\u00e3o e o desenvolvimento tecnol\u00f3gico, mas ser\u00e1 que impulsiona e aumenta os riscos da pr\u00f3pria IA? E o que acontece se a IA desenvolver a sua pr\u00f3pria curiosidade? Desde os ataques de engenharia imediata que exp\u00f5em vulnerabilidades nos sistemas de IA limitados de hoje at\u00e9 aos riscos existenciais colocados pela futura intelig\u00eancia artificial geral (AGI), o nosso impulso insaci\u00e1vel para explorar e experimentar pode ser tanto o motor do progresso como a fonte de perigo na era da IA. At\u00e9 agora, em 2024, observ\u00e1mos v\u00e1rios exemplos de IA generativa a \"sair dos carris\" com resultados estranhos, maravilhosos e preocupantes.  N\u00e3o h\u00e1 muito tempo, o ChatGPT experimentou um<\/p>","protected":false},"author":2,"featured_media":11619,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[163,350,490],"class_list":["post-11617","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-ai-risks","tag-bio-inspired-ai","tag-philosophy"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.4 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>The paradox of curiosity in the age of AI | DailyAI<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/dailyai.com\/pt\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/\" \/>\n<meta property=\"og:locale\" content=\"pt_PT\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"The paradox of curiosity in the age of AI | DailyAI\" \/>\n<meta property=\"og:description\" content=\"Curiosity drives technology research and development, but does it drive and magnify the risks of AI itself? And what happens if AI develops its own curiosity? From prompt engineering attacks that expose vulnerabilities in today&#8217;s narrow AI systems to the existential risks posed by future artificial general intelligence (AGI), our insatiable drive to explore and experiment may be both the engine of progress and the source of peril in the age of AI. Thus far, in 2024, we&#8217;ve observed several examples of generative AI \u2018going off the rails\u2019 with weird, wonderful, and concerning results.\u00a0 Not long ago, ChatGPT experienced a\" \/>\n<meta property=\"og:url\" content=\"https:\/\/dailyai.com\/pt\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/\" \/>\n<meta property=\"og:site_name\" content=\"DailyAI\" \/>\n<meta property=\"article:published_time\" content=\"2024-04-17T08:36:38+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-07-22T15:37:03+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\" \/>\n\t<meta property=\"og:image:width\" content=\"1792\" \/>\n\t<meta property=\"og:image:height\" content=\"1024\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/webp\" \/>\n<meta name=\"author\" content=\"Sam Jeans\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:site\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sam Jeans\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tempo estimado de leitura\" \/>\n\t<meta name=\"twitter:data2\" content=\"12 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"NewsArticle\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\"},\"author\":{\"name\":\"Sam Jeans\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\"},\"headline\":\"The paradox of curiosity in the age of AI\",\"datePublished\":\"2024-04-17T08:36:38+00:00\",\"dateModified\":\"2024-07-22T15:37:03+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\"},\"wordCount\":2672,\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"keywords\":[\"AI risks\",\"Bio-inspired AI\",\"Philosophy\"],\"articleSection\":[\"Ethics &amp; Society\"],\"inLanguage\":\"pt-PT\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\",\"name\":\"The paradox of curiosity in the age of AI | DailyAI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"datePublished\":\"2024-04-17T08:36:38+00:00\",\"dateModified\":\"2024-07-22T15:37:03+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#breadcrumb\"},\"inLanguage\":\"pt-PT\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-PT\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"width\":1792,\"height\":1024,\"caption\":\"AGI\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/dailyai.com\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"The paradox of curiosity in the age of AI\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"name\":\"DailyAI\",\"description\":\"Your Daily Dose of AI News\",\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/dailyai.com\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"pt-PT\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\",\"name\":\"DailyAI\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-PT\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"width\":4501,\"height\":934,\"caption\":\"DailyAI\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/DailyAIOfficial\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/dailyaiofficial\\\/\",\"https:\\\/\\\/www.youtube.com\\\/@DailyAIOfficial\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\",\"name\":\"Sam Jeans\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-PT\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"caption\":\"Sam Jeans\"},\"description\":\"Sam is a science and technology writer who has worked in various AI startups. When he\u2019s not writing, he can be found reading medical journals or digging through boxes of vinyl records.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/sam-jeans-6746b9142\\\/\"],\"url\":\"https:\\\/\\\/dailyai.com\\\/pt\\\/author\\\/samjeans\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"O paradoxo da curiosidade na era da IA | DailyAI","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/dailyai.com\/pt\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","og_locale":"pt_PT","og_type":"article","og_title":"The paradox of curiosity in the age of AI | DailyAI","og_description":"Curiosity drives technology research and development, but does it drive and magnify the risks of AI itself? And what happens if AI develops its own curiosity? From prompt engineering attacks that expose vulnerabilities in today&#8217;s narrow AI systems to the existential risks posed by future artificial general intelligence (AGI), our insatiable drive to explore and experiment may be both the engine of progress and the source of peril in the age of AI. Thus far, in 2024, we&#8217;ve observed several examples of generative AI \u2018going off the rails\u2019 with weird, wonderful, and concerning results.\u00a0 Not long ago, ChatGPT experienced a","og_url":"https:\/\/dailyai.com\/pt\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","og_site_name":"DailyAI","article_published_time":"2024-04-17T08:36:38+00:00","article_modified_time":"2024-07-22T15:37:03+00:00","og_image":[{"width":1792,"height":1024,"url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","type":"image\/webp"}],"author":"Sam Jeans","twitter_card":"summary_large_image","twitter_creator":"@DailyAIOfficial","twitter_site":"@DailyAIOfficial","twitter_misc":{"Escrito por":"Sam Jeans","Tempo estimado de leitura":"12 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"NewsArticle","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#article","isPartOf":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/"},"author":{"name":"Sam Jeans","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9"},"headline":"The paradox of curiosity in the age of AI","datePublished":"2024-04-17T08:36:38+00:00","dateModified":"2024-07-22T15:37:03+00:00","mainEntityOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/"},"wordCount":2672,"publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","keywords":["AI risks","Bio-inspired AI","Philosophy"],"articleSection":["Ethics &amp; Society"],"inLanguage":"pt-PT"},{"@type":"WebPage","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","url":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","name":"O paradoxo da curiosidade na era da IA | DailyAI","isPartOf":{"@id":"https:\/\/dailyai.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","datePublished":"2024-04-17T08:36:38+00:00","dateModified":"2024-07-22T15:37:03+00:00","breadcrumb":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#breadcrumb"},"inLanguage":"pt-PT","potentialAction":[{"@type":"ReadAction","target":["https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/"]}]},{"@type":"ImageObject","inLanguage":"pt-PT","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","width":1792,"height":1024,"caption":"AGI"},{"@type":"BreadcrumbList","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/dailyai.com\/"},{"@type":"ListItem","position":2,"name":"The paradox of curiosity in the age of AI"}]},{"@type":"WebSite","@id":"https:\/\/dailyai.com\/#website","url":"https:\/\/dailyai.com\/","name":"DailyAI","description":"A sua dose di\u00e1ria de not\u00edcias sobre IA","publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/dailyai.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"pt-PT"},{"@type":"Organization","@id":"https:\/\/dailyai.com\/#organization","name":"DailyAI","url":"https:\/\/dailyai.com\/","logo":{"@type":"ImageObject","inLanguage":"pt-PT","@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","width":4501,"height":934,"caption":"DailyAI"},"image":{"@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/DailyAIOfficial","https:\/\/www.linkedin.com\/company\/dailyaiofficial\/","https:\/\/www.youtube.com\/@DailyAIOfficial"]},{"@type":"Person","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9","name":"Cal\u00e7as de ganga Sam","image":{"@type":"ImageObject","inLanguage":"pt-PT","@id":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","caption":"Sam Jeans"},"description":"Sam \u00e9 um escritor de ci\u00eancia e tecnologia que trabalhou em v\u00e1rias startups de IA. Quando n\u00e3o est\u00e1 a escrever, pode ser encontrado a ler revistas m\u00e9dicas ou a vasculhar caixas de discos de vinil.","sameAs":["https:\/\/www.linkedin.com\/in\/sam-jeans-6746b9142\/"],"url":"https:\/\/dailyai.com\/pt\/author\/samjeans\/"}]}},"_links":{"self":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts\/11617","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/comments?post=11617"}],"version-history":[{"count":18,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts\/11617\/revisions"}],"predecessor-version":[{"id":13551,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts\/11617\/revisions\/13551"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/media\/11619"}],"wp:attachment":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/media?parent=11617"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/categories?post=11617"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/tags?post=11617"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}