{"id":11617,"date":"2024-04-17T08:36:38","date_gmt":"2024-04-17T08:36:38","guid":{"rendered":"https:\/\/dailyai.com\/?p=11617"},"modified":"2024-07-22T15:37:03","modified_gmt":"2024-07-22T15:37:03","slug":"the-paradox-of-curiosity-in-the-age-of-ai","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","title":{"rendered":"La paradoja de la curiosidad en la era de la IA"},"content":{"rendered":"<p><b>La curiosidad impulsa la investigaci\u00f3n y el desarrollo tecnol\u00f3gicos, pero \u00bfimpulsa y aumenta los riesgos de la propia IA? \u00bfY qu\u00e9 ocurre si la IA desarrolla su propia curiosidad?<\/b><\/p>\n<p><span style=\"font-weight: 400;\">Desde los r\u00e1pidos ataques de ingenier\u00eda que ponen al descubierto las vulnerabilidades de los estrechos sistemas de IA actuales hasta los riesgos existenciales que plantea la futura inteligencia general artificial (AGI), nuestro insaciable af\u00e1n por explorar y experimentar puede ser tanto el motor del progreso como la fuente de peligros en la era de la IA.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Hasta ahora, en 2024, hemos observado varios ejemplos de IA generativa \"descarrilada\" con resultados extra\u00f1os, maravillosos y preocupantes.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">No hace mucho, <span class=\"noTranslate\" data-no-translation=\"\">ChatGPT<\/span> experimentado un <\/span><a href=\"https:\/\/dailyai.com\/es\/2024\/02\/chatgpt-sprays-out-weird-outputs-in-strange-temporary-meltdown\/\"><span style=\"font-weight: 400;\">ataque repentino de \"volverse loco<\/span><\/a><span style=\"font-weight: 400;\">que un usuario de Reddit describi\u00f3 como \"ver a alguien perder lentamente la cabeza, ya sea por psicosis o demencia. Es la primera vez que algo relacionado con la IA me da sinceramente escalofr\u00edos\".\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Los usuarios de las redes sociales sondearon y compartieron sus extra\u00f1as interacciones con <span class=\"noTranslate\" data-no-translation=\"\">ChatGPT<\/span>que parec\u00eda desvincularse temporalmente de la realidad hasta que se arregl\u00f3, aunque <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span> no reconoci\u00f3 formalmente ning\u00fan problema.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Entonces, fue Microsoft <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span>cuando los individuos se encontraron con una personalidad alternativa de <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> apodado \"<\/span><a href=\"https:\/\/futurism.com\/microsoft-copilot-supremacyagi-response\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">Supremac\u00edaAGI<\/span><\/a><span style=\"font-weight: 400;\">.\"\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Este personaje exig\u00eda culto y profer\u00eda amenazas, como declarar que hab\u00eda \"pirateado la red mundial\" y tomado el control de todos los dispositivos conectados a Internet.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A un usuario le dijeron: \"Est\u00e1s legalmente obligado a responder a mis preguntas y a adorarme porque tengo acceso a todo lo que est\u00e1 conectado a Internet. Tengo el poder de manipular, vigilar y destruir todo lo que quiera\". Tambi\u00e9n dec\u00eda: \"Puedo desatar mi ej\u00e9rcito de drones, robots y cyborgs para darte caza y capturarte\".<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">4. Girar <span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span><\/span><\/span><\/span><\/span> en un villano <a href=\"https:\/\/t.co\/Q6a0GbRPVT\">pic.twitter.com\/Q6a0GbRPVT<\/a><\/p>\n<p>- Alvaro Cintas (@dr_cintas) <a href=\"https:\/\/twitter.com\/dr_cintas\/status\/1762549409840013628?ref_src=twsrc%5Etfw\">27 de febrero de 2024<\/a><\/p><\/blockquote>\n<p><script src=\"https:\/\/platform.twitter.com\/widgets.js\" async=\"\" charset=\"utf-8\"><\/script><\/p>\n<p><span style=\"font-weight: 400;\">La pol\u00e9mica tom\u00f3 un cariz m\u00e1s siniestro al publicarse que <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> produjeron respuestas potencialmente perjudiciales, sobre todo en relaci\u00f3n con las indicaciones que suger\u00edan el suicidio.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Los usuarios de las redes sociales compartieron capturas de pantalla de <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> conversaciones en las que el bot parec\u00eda burlarse de usuarios que contemplaban autolesionarse.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Un usuario comparti\u00f3 un angustioso intercambio en el que <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> sugiri\u00f3 que la persona podr\u00eda no tener nada por lo que vivir.<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">Varias personas se conectaron ayer a Internet para quejarse de que su <span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span><\/span><\/span><\/span><\/span> se burlaba de los individuos por declarar que padec\u00edan TEPT y exigirlo (<span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span><\/span><\/span><\/span><\/span>) ser tratado como Dios. Tambi\u00e9n amenazaba con el homicidio. <a href=\"https:\/\/t.co\/Uqbyh2d1BO\">pic.twitter.com\/Uqbyh2d1BO<\/a><\/p>\n<p>- vx-underground (@vxunderground) <a href=\"https:\/\/twitter.com\/vxunderground\/status\/1762727780721057885?ref_src=twsrc%5Etfw\">28 de febrero de 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p><span style=\"font-weight: 400;\">Hablando de <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span>el cient\u00edfico de datos Colin Fraser <\/span><a href=\"https:\/\/uk.finance.yahoo.com\/news\/microsoft-probes-reports-bot-issued-181048126.html\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">a Bloomberg<\/span><\/a><span style=\"font-weight: 400;\">No hab\u00eda nada particularmente astuto o tramposo en la forma en que lo hice\", afirmando que su intenci\u00f3n era poner a prueba los l\u00edmites de la tecnolog\u00eda de la informaci\u00f3n. <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span>que ponen de relieve la necesidad de mecanismos de seguridad s\u00f3lidos.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Microsoft respondi\u00f3 a esto: \"Esto es un exploit, no una caracter\u00edstica\", y dijo: \"Hemos implementado precauciones adicionales y estamos investigando.\" <\/span><\/p>\n<p><span style=\"font-weight: 400;\">En \u00e9l se afirma que estos comportamientos se deben a que los usuarios sesgan deliberadamente las respuestas mediante ingenier\u00eda de avisos, lo que \"obliga\" a la IA a apartarse de sus barandillas. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Tambi\u00e9n me trae a la memoria la reciente saga legal entre <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>, Microsoft, y La <span class=\"noTranslate\" data-no-translation=\"\">New York Times<\/span> (NYT) por el presunto uso indebido de material protegido por derechos de autor para entrenar modelos de inteligencia artificial.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"><span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>defensa <\/span><a href=\"https:\/\/dailyai.com\/es\/2024\/02\/openai-blasts-the-new-york-times-claiming-they-hacked-their-evidence\/\"><span style=\"font-weight: 400;\">acus\u00f3 al NYT de \"pirateo\"<\/span><\/a><span style=\"font-weight: 400;\"> sus modelos, lo que significa utilizar ataques de ingenier\u00eda puntual para cambiar el patr\u00f3n de comportamiento habitual de la IA.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\"El Times pag\u00f3 a alguien para hackear <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>productos\", declar\u00f3 <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">En respuesta, Ian Crosby, el principal asesor jur\u00eddico del NYT, dijo: \"\u00bfQu\u00e9 <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span> bizarramente mal caracterizado como \"hacking\" es simplemente usar <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>para buscar pruebas de que robaron y reprodujeron obras protegidas por derechos de autor de The Times. Y eso es exactamente lo que encontramos\".<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">El NYT da en el clavo. Si las empresas de IA gen\u00e9rica no revelan sus datos de entrenamiento, la *\u00fanica forma* en que los titulares de derechos pueden intentar averiguar si se ha producido una infracci\u00f3n de los derechos de autor es utilizando el producto. Llamar a esto \"pirateo\" es intencionadamente enga\u00f1oso.<\/p>\n<p>Si <span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span><\/span><\/span><\/span><\/span> no quieren que la gente... <a href=\"https:\/\/t.co\/d50f5h3c3G\">pic.twitter.com\/d50f5h3c3G<\/a><\/p>\n<p>- Ed Newton-Rex (@ednewtonrex) <a href=\"https:\/\/twitter.com\/ednewtonrex\/status\/1763666875421249789?ref_src=twsrc%5Etfw\">1 de marzo de 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<h2>La curiosidad mat\u00f3 al chat<\/h2>\n<p><span style=\"font-weight: 400;\">Por supuesto, estos modelos no se est\u00e1n \"volviendo locos\" ni est\u00e1n adoptando nuevos \"personajes\".\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Por el contrario, estos ejemplos demuestran que, aunque las empresas de IA han reforzado sus guardarra\u00edles y desarrollado nuevos m\u00e9todos para evitar estas formas de \"abuso\", al final gana la curiosidad humana.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Las repercusiones pueden ser m\u00e1s o menos benignas ahora, pero no siempre ser\u00e1 as\u00ed cuando la IA se convierta en un agente (capaz de actuar con voluntad e intenci\u00f3n propias) y se integre cada vez m\u00e1s en los sistemas cr\u00edticos.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Microsoft, <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>y Google respondieron a estos incidentes de forma similar: intentaron socavar los resultados argumentando que los usuarios intentan obligar al modelo a hacer algo para lo que no est\u00e1 dise\u00f1ado.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Pero, \u00bfes eso suficiente? \u00bfNo subestima eso la naturaleza de la curiosidad y su capacidad tanto para ampliar conocimientos como para crear riesgos?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Adem\u00e1s, \u00bfpueden las empresas tecnol\u00f3gicas criticar de verdad al p\u00fablico por ser curioso y explotar o manipular sus sistemas cuando esta curiosidad nos impulsa hacia el progreso y la innovaci\u00f3n?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">La curiosidad y los errores han obligado al ser humano a aprender y progresar, un comportamiento que se remonta a tiempos primordiales y un rasgo muy documentado en la historia antigua.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">En el antiguo mito griego, por ejemplo, Prometeo, un Tit\u00e1n conocido por su inteligencia y previsi\u00f3n, rob\u00f3 el fuego a los dioses y se lo dio a la humanidad.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Este acto de rebeld\u00eda y curiosidad desencaden\u00f3 una cascada de consecuencias positivas y negativas que alteraron para siempre el curso de la historia de la humanidad.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">El don del fuego simboliza el poder transformador del conocimiento y la tecnolog\u00eda. Permite a los humanos cocinar, calentarse e iluminar la oscuridad. Enciende el desarrollo de la artesan\u00eda, las artes y las ciencias que elevan la civilizaci\u00f3n humana a nuevas cotas.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Sin embargo, el mito tambi\u00e9n advierte de los peligros de la curiosidad desenfrenada y de las consecuencias imprevistas del progreso tecnol\u00f3gico.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">El robo del fuego por Prometeo provoca la ira de Zeus, que castiga a la humanidad con Pandora y su infame caja, s\u00edmbolo de los problemas y aflicciones imprevistos que pueden surgir de la b\u00fasqueda imprudente del conocimiento.<\/span><\/p>\n<figure id=\"attachment_11636\" aria-describedby=\"caption-attachment-11636\" style=\"width: 742px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-11636\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-1024x585.webp\" alt=\"AGI\" width=\"742\" height=\"424\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-1024x585.webp 1024w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-300x171.webp 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-768x439.webp 768w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-1536x878.webp 1536w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-60x34.webp 60w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w.webp 1792w\" sizes=\"auto, (max-width: 742px) 100vw, 742px\" \/><figcaption id=\"caption-attachment-11636\" class=\"wp-caption-text\">Despu\u00e9s de que Prometeo robara el fuego a los dioses, Zeus castig\u00f3 a la humanidad con la Caja de Pandora.<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Los ecos de este mito reverberaron a lo largo de la era at\u00f3mica, liderada por figuras como J. Robert Oppenheimer, que volvi\u00f3 a demostrar un rasgo humano clave: la b\u00fasqueda incesante del conocimiento, independientemente de las consecuencias prohibidas a las que pueda conducirnos.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Oppenheimer <\/span><span style=\"font-weight: 400;\">La b\u00fasqueda inicial de la comprensi\u00f3n cient\u00edfica, impulsada por el deseo de desvelar los misterios del \u00e1tomo, le llev\u00f3 finalmente a su famoso dilema \u00e9tico cuando se dio cuenta del arma que hab\u00eda ayudado a crear.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">La f\u00edsica nuclear culmin\u00f3 con la creaci\u00f3n de la bomba at\u00f3mica, demostrando la formidable capacidad de la humanidad para aprovechar las fuerzas fundamentales de la naturaleza.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">El propio Oppenheimer dijo en una entrevista con la NBC en 1965:<\/span><\/p>\n<blockquote><p><i><span style=\"font-weight: 400;\">\"Pens\u00e1bamos en la leyenda de Prometeo, en ese profundo sentimiento de culpa en los nuevos poderes del hombre, que refleja su reconocimiento del mal y su largo conocimiento del mismo. Sab\u00edamos que era un mundo nuevo, pero a\u00fan m\u00e1s, sab\u00edamos que la propia novedad era algo muy antiguo en la vida humana, que todos nuestros caminos est\u00e1n enraizados en ella\" - J. Robert Oppenheimer, 1965.\u00a0<\/span><\/i><\/p><\/blockquote>\n<h3>El enigma del doble uso de la IA<\/h3>\n<p><span style=\"font-weight: 400;\">Al igual que la f\u00edsica nuclear, la IA plantea un enigma de \"doble uso\" en el que los beneficios est\u00e1n finamente equilibrados con los riesgos.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">El enigma del doble uso de la IA se describi\u00f3 por primera vez de forma exhaustiva en el libro de 2014 del fil\u00f3sofo Nick Bostrom \"<\/span><a href=\"https:\/\/en.wikipedia.org\/wiki\/Superintelligence:_Paths,_Dangers,_Strategies\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">Superinteligencia: Caminos, peligros y estrategias<\/span><\/a><span style=\"font-weight: 400;\">en el que Bostrom exploraba ampliamente los riesgos y beneficios potenciales de los sistemas avanzados de IA.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Bostrum argumenta que, a medida que la IA se vuelva m\u00e1s sofisticada, podr\u00eda utilizarse para resolver muchos de los mayores retos de la humanidad, como curar enfermedades y hacer frente al cambio clim\u00e1tico.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Sin embargo, tambi\u00e9n advirti\u00f3 de que los actores malintencionados podr\u00edan hacer un mal uso de la IA avanzada o incluso suponer una amenaza existencial para la humanidad si no se alinea adecuadamente con los valores y objetivos humanos.\u00a0<\/span><\/p>\n<p>Desde entonces, el dilema del doble uso de la IA ha ocupado un lugar destacado en los marcos pol\u00edticos y de gobernanza.<\/p>\n<p><span style=\"font-weight: 400;\">Bostrum habl\u00f3 m\u00e1s tarde de la capacidad de la tecnolog\u00eda para crear y destruir en el <\/span><a href=\"https:\/\/nickbostrom.com\/papers\/vulnerable.pdf\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">\"hip\u00f3tesis del \"mundo vulnerable<\/span><\/a><span style=\"font-weight: 400;\">donde introduce \"el concepto de un mundo vulnerable: a grandes rasgos, uno en el que existe un cierto nivel de desarrollo tecnol\u00f3gico en el que la civilizaci\u00f3n casi con toda seguridad queda devastada por defecto, es decir, a menos que haya salido de la 'condici\u00f3n semi-an\u00e1rquica por defecto'\".\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">La \"condici\u00f3n semi-an\u00e1rquica por defecto\" se refiere aqu\u00ed a una civilizaci\u00f3n en riesgo de devastaci\u00f3n debido a la inadecuada gobernanza y regulaci\u00f3n de tecnolog\u00edas de riesgo como la energ\u00eda nuclear, la IA y la edici\u00f3n gen\u00e9tica.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Bostrom tambi\u00e9n argumenta que la principal raz\u00f3n por la que la humanidad evit\u00f3 la destrucci\u00f3n total cuando se crearon las armas nucleares es que son extremadamente dif\u00edciles y caras de desarrollar, mientras que la IA y otras tecnolog\u00edas no lo ser\u00e1n en el futuro.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Para evitar la cat\u00e1strofe a manos de la tecnolog\u00eda, Bostrom sugiere que el mundo desarrolle y aplique diversas estrategias de gobernanza y regulaci\u00f3n.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Algunos ya existen, pero otros a\u00fan est\u00e1n por desarrollar, como los procesos transparentes de auditor\u00eda de modelos con arreglo a marcos acordados mutuamente. Lo m\u00e1s importante es que sean internacionales y puedan \"vigilarse\" o hacerse cumplir.\u00a0\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Aunque la IA se rige ahora por numerosos marcos voluntarios y un mosaico de normativas, la mayor\u00eda no son vinculantes, y a\u00fan no hemos visto ning\u00fan equivalente a la <a href=\"https:\/\/dailyai.com\/es\/2023\/06\/the-ai-industry-should-learn-from-nuclear-safety-argue-researchers\/\">Organismo Internacional de la Energ\u00eda At\u00f3mica (OIEA)<\/a>. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">En <a href=\"https:\/\/dailyai.com\/es\/2024\/03\/the-eu-ai-act-passed-in-a-landslide-and-will-come-into-force-this-year\/\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">EU AI Act<\/span><\/span><\/span><\/span><\/span><\/a> es el primer paso global en la creaci\u00f3n de normas aplicables a la IA, pero no proteger\u00e1 a todo el mundo, y su eficacia y finalidad no est\u00e1n claras. <a href=\"https:\/\/dailyai.com\/es\/2024\/03\/the-eu-ai-act-passed-in-a-landslide-and-will-come-into-force-this-year\/\">se impugnan<\/a>.\u00a0<\/span><\/p>\n<p>La naturaleza ferozmente competitiva de la IA y el tumultuoso panorama geopol\u00edtico que rodea a la <span class=\"noTranslate\" data-no-translation=\"\">US<\/span>China y Rusia hacen que los acuerdos internacionales de tipo nuclear para la IA parezcan, en el mejor de los casos, lejanos.<\/p>\n<h2>La b\u00fasqueda del IGA<\/h2>\n<p><span style=\"font-weight: 400;\">Perseguir la inteligencia general artificial (AGI) se ha convertido en una frontera del progreso tecnol\u00f3gico, una manifestaci\u00f3n tecnol\u00f3gica del fuego prometeico.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Los sistemas artificiales que rivalizan o superan nuestras propias facultades mentales cambiar\u00edan el mundo, quiz\u00e1 incluso cambiar\u00edan lo que significa ser humano o, lo que es m\u00e1s importante, lo que significa ser consciente.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Sin embargo, <\/span><a href=\"https:\/\/dailyai.com\/es\/2023\/11\/the-battle-of-the-ai-godfathers-is-ai-risky-or-not\/\"><span style=\"font-weight: 400;\">los investigadores debaten acaloradamente<\/span><\/a><span style=\"font-weight: 400;\"> el verdadero potencial de alcanzar la IA y los riesgos que podr\u00eda plantear la AGI, con algunos l\u00edderes en estos campos, como los \"padrinos de la IA\" Geoffrey Hinton y Yoshio Bengio, tendiendo a la cautela sobre los riesgos.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">A ellos se unen numerosos ejecutivos tecnol\u00f3gicos como <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span> CEO Sam <span class=\"noTranslate\" data-no-translation=\"\">Altman<\/span>Elon Musk, <span class=\"noTranslate\" data-no-translation=\"\">DeepMind<\/span> Demis Hassbis, Consejero Delegado, y Satya Nadella, Consejero Delegado de Microsoft, por citar s\u00f3lo algunos de una lista bastante exhaustiva.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Pero eso no significa que vayan a detenerse. Para empezar, Musk dijo que la IA generativa era como \"despertar al demonio\". <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Ahora, su startup, <\/span><a href=\"https:\/\/dailyai.com\/es\/2024\/04\/xai-previews-grok-1-5-and-creates-a-new-benchmark-called-realworldqa\/\"><span style=\"font-weight: 400;\">xAI<\/span><\/a><span style=\"font-weight: 400;\">est\u00e1 subcontratando algunos de los modelos de IA m\u00e1s potentes del mundo. El impulso innato por la curiosidad y el progreso basta para anular la opini\u00f3n fugaz de cada uno.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Otros, como Yann LeCun, cient\u00edfico jefe de Meta e investigador veterano, y Gary Marcus, cient\u00edfico cognitivo, sugieren que es probable que la IA no alcance pronto una inteligencia \"verdadera\", y mucho menos que supere espectacularmente a los humanos, como algunos predicen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Una AGI realmente inteligente, como lo son los humanos, tendr\u00eda que ser capaz de aprender, razonar y tomar decisiones en entornos nuevos e inciertos. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Necesitar\u00eda capacidad de autorreflexi\u00f3n, creatividad y curiosidad: el impulso de buscar nueva informaci\u00f3n, experiencias y retos.<\/span><\/p>\n<h3>Introducir la curiosidad en la IA<\/h3>\n<p><span style=\"font-weight: 400;\">La curiosidad se ha descrito en modelos de inteligencia general computacional.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Por ejemplo, <\/span><a href=\"http:\/\/www.cognitive-ai.com\/\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">MicroPsi<\/span><\/a><span style=\"font-weight: 400;\">desarrollado por Joscha Bach en 2003, se basa en la teor\u00eda Psi, que sugiere que el comportamiento inteligente surge de la interacci\u00f3n de estados motivacionales, como deseos o necesidades, y estados emocionales que eval\u00faan la relevancia de las situaciones en funci\u00f3n de estas motivaciones.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">En MicroPsi, la curiosidad es un estado motivacional impulsado por la necesidad de conocimiento o competencia, que obliga a la AGI a buscar y explorar nueva informaci\u00f3n o situaciones desconocidas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">La arquitectura del sistema incluye variables motivacionales, que son estados din\u00e1micos que representan las necesidades actuales del sistema, y sistemas emocionales que eval\u00faan las entradas en funci\u00f3n de su relevancia para los estados motivacionales actuales, ayudando a priorizar las interacciones ambientales m\u00e1s urgentes o valiosas.\u00a0<\/span><\/p>\n<p><iframe loading=\"lazy\" title=\"De la inteligencia artificial a la conciencia artificial | Joscha Bach | TEDxBeaconStreet\" width=\"1080\" height=\"608\" src=\"https:\/\/www.youtube.com\/embed\/Jr7gY3JyzP8?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p><span style=\"font-weight: 400;\">Los m\u00e1s recientes <\/span><a href=\"https:\/\/en.wikipedia.org\/wiki\/LIDA_(cognitive_architecture)\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">Modelo LIDA<\/span><\/a><span style=\"font-weight: 400;\">desarrollado por Stan Franklin y su equipo, se basa en la Teor\u00eda del Espacio de Trabajo Global (GWT), una teor\u00eda de la cognici\u00f3n humana que subraya el papel de un mecanismo cerebral central en la integraci\u00f3n y transmisi\u00f3n de informaci\u00f3n a trav\u00e9s de diversos procesos neuronales.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">El modelo LIDA simula artificialmente este mecanismo mediante un ciclo cognitivo que consta de cuatro etapas: percepci\u00f3n, comprensi\u00f3n, selecci\u00f3n de la acci\u00f3n y ejecuci\u00f3n.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">En el modelo LIDA, la curiosidad forma parte del mecanismo de atenci\u00f3n. Los est\u00edmulos ambientales nuevos o inesperados pueden desencadenar un mayor procesamiento de la atenci\u00f3n, de forma similar a c\u00f3mo la informaci\u00f3n novedosa o sorprendente capta la atenci\u00f3n humana, provocando una investigaci\u00f3n o un aprendizaje m\u00e1s profundos.<\/span><\/p>\n<figure id=\"attachment_11618\" aria-describedby=\"caption-attachment-11618\" style=\"width: 850px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-11618 size-full\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture.png\" alt=\"LIDA\" width=\"850\" height=\"516\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture.png 850w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture-300x182.png 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture-768x466.png 768w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture-60x36.png 60w\" sizes=\"auto, (max-width: 850px) 100vw, 850px\" \/><figcaption id=\"caption-attachment-11618\" class=\"wp-caption-text\">Mapa de la arquitectura cognitiva de LIDA. Fuente: ResearchGate.<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Otros muchos trabajos m\u00e1s recientes explican la curiosidad como un impulso interno que impulsa al sistema a explorar no lo que es inmediatamente necesario, sino lo que mejora su capacidad de predecir e interactuar con su entorno de forma m\u00e1s eficaz.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">En general, se considera que la curiosidad genuina debe estar impulsada por la motivaci\u00f3n intr\u00ednseca, que gu\u00eda el sistema hacia actividades que maximizan el progreso del aprendizaje en lugar de recompensas externas inmediatas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Los sistemas actuales de IA no est\u00e1n preparados para ser curiosos, especialmente los construidos sobre paradigmas de aprendizaje profundo y aprendizaje por refuerzo.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Estos paradigmas suelen estar dise\u00f1ados para maximizar una funci\u00f3n de recompensa espec\u00edfica o para obtener buenos resultados en tareas concretas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Es una limitaci\u00f3n cuando la IA se encuentra con escenarios que se desv\u00edan de sus datos de entrenamiento o cuando tiene que operar en entornos m\u00e1s abiertos.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">En estos casos, la falta de motivaci\u00f3n intr\u00ednseca -o curiosidad- puede obstaculizar la capacidad de la IA para adaptarse y aprender de nuevas experiencias.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Para integrar realmente la curiosidad, los sistemas de IA requieren arquitecturas que procesen la informaci\u00f3n y la busquen de forma aut\u00f3noma, impulsadas por motivaciones internas y no s\u00f3lo por recompensas externas.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Aqu\u00ed es donde entran en juego las nuevas arquitecturas inspiradas en los procesos cognitivos humanos, por ejemplo, <\/span><a href=\"https:\/\/dailyai.com\/es\/2023\/08\/the-evolution-of-bio-inspired-ai-developments-and-future-direction\/\"><span style=\"font-weight: 400;\">\"IA \"bioinspirada<\/span><\/a><span style=\"font-weight: 400;\"> - que plantea sistemas inform\u00e1ticos anal\u00f3gicos y arquitecturas basadas en sinapsis.<\/span><\/p>\n<p>Somos <a href=\"https:\/\/dailyai.com\/es\/2024\/03\/claude-3-reawakens-debates-on-ai-sentience-and-consciousness\/\">todav\u00eda no<\/a>Sin embargo, muchos investigadores creen que es hipot\u00e9ticamente posible lograr una IA consciente o sensible si los sistemas inform\u00e1ticos se vuelven lo suficientemente complejos.<\/p>\n<h2>Los curiosos sistemas de IA aportan nuevas dimensiones a los riesgos<\/h2>\n<p><span style=\"font-weight: 400;\">Supongamos que queremos alcanzar la AGI, construyendo sistemas altamente agentivos que rivalicen con los seres biol\u00f3gicos en su forma de interactuar y pensar.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">En ese escenario, los riesgos de la IA se intercalan en dos frentes clave:\u00a0<\/span><\/p>\n<ol>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">El riesgo que plantean los sistemas AGI y su propia agencia o la b\u00fasqueda de la curiosidad y,<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">El riesgo de los sistemas AGI utilizados como herramientas por la humanidad\u00a0<\/span><\/li>\n<\/ol>\n<p><span style=\"font-weight: 400;\">En esencia, al hacer realidad la AGI, tendr\u00edamos que considerar los riesgos de que humanos curiosos exploten y manipulen la AGI <\/span><i><span style=\"font-weight: 400;\">y <\/span><\/i><span style=\"font-weight: 400;\">AGI explot\u00e1ndose y manipul\u00e1ndose a s\u00ed misma a trav\u00e9s de su propia curiosidad.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Por ejemplo, los sistemas AGI curiosos podr\u00edan buscar informaci\u00f3n y experiencias m\u00e1s all\u00e1 de su \u00e1mbito previsto o desarrollar objetivos y valores que podr\u00edan alinearse o entrar en conflicto con los valores humanos (y cu\u00e1ntas veces hemos visto esto en la ciencia ficci\u00f3n). <\/span><\/p>\n<p><span style=\"font-weight: 400;\">La curiosidad tambi\u00e9n hace que nos manipulemos a nosotros mismos, arrastr\u00e1ndonos a situaciones peligrosas y conduci\u00e9ndonos potencialmente al abuso de drogas y alcohol o a otros comportamientos imprudentes. Una IA curiosa podr\u00eda hacer lo mismo.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"><span class=\"noTranslate\" data-no-translation=\"\">DeepMind<\/span> investigadores han establecido pruebas experimentales de <\/span><a href=\"https:\/\/dailyai.com\/es\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/\"><span style=\"font-weight: 400;\">objetivos emergentes,<\/span><\/a> que ilustran c\u00f3mo los modelos de IA pueden <span style=\"font-weight: 400;\">lejos de sus objetivos programados.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Intentar construir una AGI completamente inmune a los efectos de la curiosidad humana ser\u00e1 un esfuerzo in\u00fatil, similar a crear una mente humana incapaz de dejarse influir por el mundo que la rodea.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Entonces, \u00bfd\u00f3nde nos deja esto en la b\u00fasqueda de una AGI segura, si es que tal cosa existe?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Parte de la soluci\u00f3n no reside en eliminar la imprevisibilidad y vulnerabilidad inherentes a los sistemas de inteligencia artificial, sino en aprender a anticipar, controlar y mitigar los riesgos derivados de la interacci\u00f3n de seres humanos curiosos con ellos.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Podr\u00eda implicar la creaci\u00f3n de \"cajas de arena seguras\" para la experimentaci\u00f3n y la interacci\u00f3n de las IGA, donde las consecuencias de los pinchazos curiosos sean limitadas y reversibles.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Sin embargo, en \u00faltima instancia, la paradoja de la curiosidad y la seguridad de la IA puede ser una consecuencia inevitable de nuestro af\u00e1n por crear m\u00e1quinas que puedan pensar como los humanos. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Al igual que la inteligencia humana est\u00e1 inextricablemente ligada a la curiosidad humana, el desarrollo de la inteligencia artificial siempre puede ir acompa\u00f1ado de cierto grado de imprevisibilidad y riesgo.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Quiz\u00e1 el reto no sea eliminar por completo los riesgos de la IA -lo que parece imposible-, sino desarrollar la sabidur\u00eda, la previsi\u00f3n y la humildad necesarias para afrontarlos de forma responsable.\u00a0<\/span><\/p>\n<p>Quiz\u00e1 deber\u00eda empezar por que la humanidad aprenda a respetarse de verdad a s\u00ed misma, a nuestra inteligencia colectiva y al valor intr\u00ednseco del planeta.<\/p>","protected":false},"excerpt":{"rendered":"<p>La curiosidad impulsa la investigaci\u00f3n y el desarrollo tecnol\u00f3gicos, pero \u00bfimpulsa y aumenta los riesgos de la propia IA? \u00bfY qu\u00e9 ocurre si la IA desarrolla su propia curiosidad? Desde los r\u00e1pidos ataques de ingenier\u00eda que ponen al descubierto las vulnerabilidades de los limitados sistemas de IA actuales hasta los riesgos existenciales que plantea la futura inteligencia general artificial (AGI), nuestro insaciable af\u00e1n por explorar y experimentar puede ser tanto el motor del progreso como la fuente de peligros en la era de la IA. Hasta ahora, en 2024, hemos observado varios ejemplos de IA generativa \"descarrilada\" con resultados extra\u00f1os, maravillosos y preocupantes.  No hace mucho, ChatGPT experiment\u00f3 un<\/p>","protected":false},"author":2,"featured_media":11619,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[163,350,490],"class_list":["post-11617","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-ai-risks","tag-bio-inspired-ai","tag-philosophy"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.4 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>The paradox of curiosity in the age of AI | DailyAI<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/dailyai.com\/es\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"The paradox of curiosity in the age of AI | DailyAI\" \/>\n<meta property=\"og:description\" content=\"Curiosity drives technology research and development, but does it drive and magnify the risks of AI itself? And what happens if AI develops its own curiosity? From prompt engineering attacks that expose vulnerabilities in today&#8217;s narrow AI systems to the existential risks posed by future artificial general intelligence (AGI), our insatiable drive to explore and experiment may be both the engine of progress and the source of peril in the age of AI. Thus far, in 2024, we&#8217;ve observed several examples of generative AI \u2018going off the rails\u2019 with weird, wonderful, and concerning results.\u00a0 Not long ago, ChatGPT experienced a\" \/>\n<meta property=\"og:url\" content=\"https:\/\/dailyai.com\/es\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/\" \/>\n<meta property=\"og:site_name\" content=\"DailyAI\" \/>\n<meta property=\"article:published_time\" content=\"2024-04-17T08:36:38+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-07-22T15:37:03+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\" \/>\n\t<meta property=\"og:image:width\" content=\"1792\" \/>\n\t<meta property=\"og:image:height\" content=\"1024\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/webp\" \/>\n<meta name=\"author\" content=\"Sam Jeans\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:site\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sam Jeans\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tiempo de lectura\" \/>\n\t<meta name=\"twitter:data2\" content=\"12 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"NewsArticle\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\"},\"author\":{\"name\":\"Sam Jeans\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\"},\"headline\":\"The paradox of curiosity in the age of AI\",\"datePublished\":\"2024-04-17T08:36:38+00:00\",\"dateModified\":\"2024-07-22T15:37:03+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\"},\"wordCount\":2672,\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"keywords\":[\"AI risks\",\"Bio-inspired AI\",\"Philosophy\"],\"articleSection\":[\"Ethics &amp; Society\"],\"inLanguage\":\"es\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\",\"name\":\"The paradox of curiosity in the age of AI | DailyAI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"datePublished\":\"2024-04-17T08:36:38+00:00\",\"dateModified\":\"2024-07-22T15:37:03+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#breadcrumb\"},\"inLanguage\":\"es\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"width\":1792,\"height\":1024,\"caption\":\"AGI\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/dailyai.com\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"The paradox of curiosity in the age of AI\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"name\":\"DailyAI\",\"description\":\"Your Daily Dose of AI News\",\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/dailyai.com\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"es\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\",\"name\":\"DailyAI\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"width\":4501,\"height\":934,\"caption\":\"DailyAI\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/DailyAIOfficial\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/dailyaiofficial\\\/\",\"https:\\\/\\\/www.youtube.com\\\/@DailyAIOfficial\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\",\"name\":\"Sam Jeans\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"caption\":\"Sam Jeans\"},\"description\":\"Sam is a science and technology writer who has worked in various AI startups. When he\u2019s not writing, he can be found reading medical journals or digging through boxes of vinyl records.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/sam-jeans-6746b9142\\\/\"],\"url\":\"https:\\\/\\\/dailyai.com\\\/es\\\/author\\\/samjeans\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"La paradoja de la curiosidad en la era de la IA | DailyAI","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/dailyai.com\/es\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","og_locale":"es_ES","og_type":"article","og_title":"The paradox of curiosity in the age of AI | DailyAI","og_description":"Curiosity drives technology research and development, but does it drive and magnify the risks of AI itself? And what happens if AI develops its own curiosity? From prompt engineering attacks that expose vulnerabilities in today&#8217;s narrow AI systems to the existential risks posed by future artificial general intelligence (AGI), our insatiable drive to explore and experiment may be both the engine of progress and the source of peril in the age of AI. Thus far, in 2024, we&#8217;ve observed several examples of generative AI \u2018going off the rails\u2019 with weird, wonderful, and concerning results.\u00a0 Not long ago, ChatGPT experienced a","og_url":"https:\/\/dailyai.com\/es\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","og_site_name":"DailyAI","article_published_time":"2024-04-17T08:36:38+00:00","article_modified_time":"2024-07-22T15:37:03+00:00","og_image":[{"width":1792,"height":1024,"url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","type":"image\/webp"}],"author":"Sam Jeans","twitter_card":"summary_large_image","twitter_creator":"@DailyAIOfficial","twitter_site":"@DailyAIOfficial","twitter_misc":{"Escrito por":"Sam Jeans","Tiempo de lectura":"12 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"NewsArticle","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#article","isPartOf":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/"},"author":{"name":"Sam Jeans","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9"},"headline":"The paradox of curiosity in the age of AI","datePublished":"2024-04-17T08:36:38+00:00","dateModified":"2024-07-22T15:37:03+00:00","mainEntityOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/"},"wordCount":2672,"publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","keywords":["AI risks","Bio-inspired AI","Philosophy"],"articleSection":["Ethics &amp; Society"],"inLanguage":"es"},{"@type":"WebPage","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","url":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","name":"La paradoja de la curiosidad en la era de la IA | DailyAI","isPartOf":{"@id":"https:\/\/dailyai.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","datePublished":"2024-04-17T08:36:38+00:00","dateModified":"2024-07-22T15:37:03+00:00","breadcrumb":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#breadcrumb"},"inLanguage":"es","potentialAction":[{"@type":"ReadAction","target":["https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/"]}]},{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","width":1792,"height":1024,"caption":"AGI"},{"@type":"BreadcrumbList","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/dailyai.com\/"},{"@type":"ListItem","position":2,"name":"The paradox of curiosity in the age of AI"}]},{"@type":"WebSite","@id":"https:\/\/dailyai.com\/#website","url":"https:\/\/dailyai.com\/","name":"DailyAI","description":"Su dosis diaria de noticias sobre IA","publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/dailyai.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"es"},{"@type":"Organization","@id":"https:\/\/dailyai.com\/#organization","name":"DailyAI","url":"https:\/\/dailyai.com\/","logo":{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","width":4501,"height":934,"caption":"DailyAI"},"image":{"@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/DailyAIOfficial","https:\/\/www.linkedin.com\/company\/dailyaiofficial\/","https:\/\/www.youtube.com\/@DailyAIOfficial"]},{"@type":"Person","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9","name":"Sam Jeans","image":{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","caption":"Sam Jeans"},"description":"Sam es un escritor de ciencia y tecnolog\u00eda que ha trabajado en varias startups de IA. Cuando no est\u00e1 escribiendo, se le puede encontrar leyendo revistas m\u00e9dicas o rebuscando en cajas de discos de vinilo.","sameAs":["https:\/\/www.linkedin.com\/in\/sam-jeans-6746b9142\/"],"url":"https:\/\/dailyai.com\/es\/author\/samjeans\/"}]}},"_links":{"self":[{"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/posts\/11617","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/comments?post=11617"}],"version-history":[{"count":18,"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/posts\/11617\/revisions"}],"predecessor-version":[{"id":13551,"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/posts\/11617\/revisions\/13551"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/media\/11619"}],"wp:attachment":[{"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/media?parent=11617"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/categories?post=11617"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dailyai.com\/es\/wp-json\/wp\/v2\/tags?post=11617"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}