{"id":1659,"date":"2023-06-13T21:32:01","date_gmt":"2023-06-13T21:32:01","guid":{"rendered":"https:\/\/dailyai.com\/?p=1659"},"modified":"2024-03-28T00:48:07","modified_gmt":"2024-03-28T00:48:07","slug":"navigating-the-labyrinth-of-ai-risks-an-analysis","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/","title":{"rendered":"Navegar por el laberinto de los riesgos de la IA: un an\u00e1lisis"},"content":{"rendered":"

La narrativa en torno a los riesgos de la IA se ha vuelto cada vez m\u00e1s unipolar, con l\u00edderes tecnol\u00f3gicos y expertos de todos los rincones presionando a favor de la regulaci\u00f3n. Hasta qu\u00e9 punto son cre\u00edbles las pruebas que documentan los riesgos de la IA?\u00a0<\/strong><\/p>\n

Los riesgos de la IA apelan a los sentidos. <\/span>Hay algo profundamente intuitivo en temer a los robots que podr\u00edan enga\u00f1arnos, dominarnos o convertirnos en una mercanc\u00eda secundaria a su propia existencia.<\/span><\/p>\n

Los debates en torno a los riesgos de la IA se intensificaron tras el t<\/span>a organizaci\u00f3n sin \u00e1nimo de lucro <\/span>Centro para la Seguridad de la IA (CAIS)<\/span> public\u00f3 un declaraci\u00f3n<\/a>\u00a0firmado por m\u00e1s de 350 personas notables, incluidos los directores ejecutivos de OpenAI, Anthropic y DeepMind, numerosos acad\u00e9micos, figuras p\u00fablicas e incluso ex pol\u00edticos.\u00a0<\/span><\/p>\n

El t\u00edtulo de la declaraci\u00f3n estaba destinado a los titulares: \"Mitigar el riesgo de extinci\u00f3n por IA deber\u00eda ser una prioridad mundial junto a otros riesgos a escala social como las pandemias y la guerra nuclear.\"<\/strong><\/p>\n

Rescatar una se\u00f1al significativa de este ruidoso debate es cada vez m\u00e1s dif\u00edcil. Los detractores de la IA tienen toda la munici\u00f3n que necesitan para argumentar en su contra, mientras que los partidarios o indecisos tienen todo lo que necesitan para denunciar las narrativas contra la IA como exageradas.<\/span><\/p>\n

Y tambi\u00e9n hay una trama secundaria. Las grandes tecnol\u00f3gicas podr\u00edan estar presionando para que la regulaci\u00f3n cercar la industria de la IA<\/a> de la comunidad de c\u00f3digo abierto. <\/span>Microsoft invirti\u00f3 en OpenAI, Google invirti\u00f3 en Anthropic: el siguiente paso podr\u00eda ser aumentar la barrera de entrada y estrangular la innovaci\u00f3n de c\u00f3digo abierto.<\/p>\n

En lugar de que la IA suponga un riesgo existencial para la humanidad, puede que sea la IA de c\u00f3digo abierto la que suponga un riesgo existencial para las grandes tecnol\u00f3gicas. La soluci\u00f3n es la misma: controlarla ya.<\/p>\n

Demasiado pronto para sacar las cartas de la mesa<\/h2>\n

La IA acaba de aparecer en la conciencia p\u00fablica, por lo que pr\u00e1cticamente todas las perspectivas sobre riesgos y regulaci\u00f3n siguen siendo relevantes. La declaraci\u00f3n del CAIS puede al menos servir de valioso punto de referencia para orientar un debate basado en pruebas.<\/p>\n

Dr. \u00d3scar M\u00e9ndez Maldonado, profesor de Rob\u00f3tica e Inteligencia Artificial en la Universidad de Surrey, dijo<\/a>El documento firmado por expertos en IA es mucho m\u00e1s matizado de lo que los titulares actuales quieren hacer creer. \"La IA podr\u00eda causar la extinci\u00f3n\" evoca inmediatamente una toma del poder por parte de la IA a lo Terminator. El documento es mucho m\u00e1s realista que eso\".<\/span><\/p>\n

Como subraya Maldonado, la verdadera esencia de la declaraci\u00f3n de riesgos de AI se publica en otra p\u00e1gina de su sitio web - Riesgo de IA<\/a> - y ha habido muy poca discusi\u00f3n en torno a los puntos planteados all\u00ed. Comprender la credibilidad de los riesgos de la IA es fundamental para informar los debates en torno a ellos.<\/span><\/p>\n

\u00bfQu\u00e9 pruebas ha recopilado el CAIS para corroborar su mensaje? \u00bfParecen cre\u00edbles los riesgos que a menudo se atribuyen a la IA?\u00a0<\/span><\/p>\n

Riesgo 1: Armamentismo de la IA<\/span><\/h2>\n

El armamentismo de la IA es una perspectiva escalofriante, por lo que quiz\u00e1 no sorprenda que ocupe el primer puesto entre los 8 riesgos del CAIS.\u00a0<\/span><\/p>\n

El CAIS sostiene que la IA puede convertirse en un arma en los ciberataques, como han demostrado los investigadores del Centro de Seguridad y Tecnolog\u00edas Emergentes, que <\/span>resumen de los usos<\/span><\/a> del aprendizaje autom\u00e1tico (AM) para atacar los sistemas inform\u00e1ticos. <\/span>Eric Schmidt, ex CEO de Google tambi\u00e9n llam\u00f3 la atenci\u00f3n<\/a> al potencial de la IA para localizar exploits de d\u00eda cero, que proporcionan a los piratas inform\u00e1ticos un medio para entrar en los sistemas a trav\u00e9s de sus puntos m\u00e1s d\u00e9biles.\u00a0<\/span><\/p>\n

En otro orden de cosas, Michael Klare, que asesora sobre control de armamento, habla de la <\/span>automatizaci\u00f3n de los sistemas de mando y control nucleares<\/span><\/a>que tambi\u00e9n pueden ser vulnerables a la IA. Seg\u00fan \u00e9l, \"estos sistemas tambi\u00e9n son propensos a fallos de funcionamiento inexplicables y pueden ser enga\u00f1ados, o \"suplantados\", por profesionales expertos. Adem\u00e1s, por mucho que se invierta en ciberseguridad, los sistemas NC3 siempre ser\u00e1n vulnerables a la pirater\u00eda inform\u00e1tica por parte de adversarios sofisticados.\"<\/span><\/p>\n

Otro ejemplo de posible armamentismo es el descubrimiento automatizado de armas biol\u00f3gicas. La IA ya ha conseguido descubrir compuestos terap\u00e9uticos<\/a>por lo que las capacidades ya est\u00e1n ah\u00ed.<\/span>\u00a0<\/span><\/p>\n

Las IA podr\u00edan incluso realizar pruebas de armamento de forma aut\u00f3noma con una m\u00ednima orientaci\u00f3n humana. Por ejemplo, un equipo de investigaci\u00f3n de la Universidad de Pittsburgh demostr\u00f3 que sofisticadas <\/span>Los agentes de IA podr\u00edan realizar sus propios experimentos cient\u00edficos aut\u00f3nomos<\/span><\/a>.<\/span><\/p>\n

Riesgo 2: Desinformaci\u00f3n y fraude<\/span><\/h2>\n

El potencial de la IA para copiar e imitar a los humanos ya est\u00e1 causando trastornos, y ahora hemos sido testigos de varios casos de fraude relacionados con falsificaciones profundas. Informes de China<\/a> indican que el fraude relacionado con la IA est\u00e1 muy extendido.\u00a0<\/span><\/p>\n

Un caso reciente fue el de una mujer de Arizona que descolg\u00f3 el tel\u00e9fono y se encontr\u00f3 con su hija sollozando, o eso cre\u00eda ella. \"La voz sonaba igual que la de Brie, la inflexi\u00f3n, todo\". <\/span>dijo a CNN<\/span><\/a>. El estafador exigi\u00f3 un rescate de $1 millones.\u00a0<\/span><\/p>\n

Otras t\u00e1cticas incluyen el uso de IA generativa para la \"sextorsi\u00f3n\" y la pornograf\u00eda vengativa, en las que los actores de amenazas utilizan im\u00e1genes generadas por IA para pedir rescates por contenidos expl\u00edcitos falsos, que el <\/span>El FBI advirti\u00f3 a principios de junio<\/span><\/a>. Estas t\u00e9cnicas son cada vez m\u00e1s sofisticadas y f\u00e1ciles de poner en marcha a gran escala.<\/span><\/p>\n

Riesgo 3: Juego por delegaci\u00f3n o especificaci\u00f3n<\/span><\/h2>\n

Los sistemas de IA suelen entrenarse utilizando objetivos mensurables. Sin embargo, estos objetivos pueden ser un mero sustituto de las verdaderas metas, lo que conduce a resultados no deseados.\u00a0<\/span><\/p>\n

Una analog\u00eda \u00fatil es el mito griego del Rey Midas, a quien Dionisio concedi\u00f3 un deseo.\u00a0<\/span>Midas pide que todo lo que toque se convierta en oro, pero m\u00e1s tarde se da cuenta de que su comida tambi\u00e9n se convierte en oro, lo que casi le lleva a morir de hambre.\u00a0<\/span>En este caso, perseguir un objetivo final \"positivo\" conlleva consecuencias negativas o subproductos del proceso. <\/span><\/p>\n

Por ejemplo, el CAIS llama la atenci\u00f3n sobre los sistemas de recomendaci\u00f3n de inteligencia artificial que se utilizan en las redes sociales para maximizar el tiempo de visionado y la tasa de clics, pero el contenido que maximiza el compromiso no es necesariamente el m\u00e1s adecuado. <\/span>beneficioso para el bienestar de los usuarios<\/span><\/a>. Ya se ha culpado a los sistemas de IA de silenciar las opiniones en las plataformas de medios sociales para crear \"c\u00e1maras de eco\" que perpet\u00faan las ideas extremas.\u00a0<\/span><\/p>\n

DeepMind demostr\u00f3 que existen medios m\u00e1s sutiles para que las IAs persigan viajes da\u00f1inos hacia objetivos a trav\u00e9s de <\/span>generalizaci\u00f3n err\u00f3nea de objetivos<\/span><\/a>. En su investigaci\u00f3n, DeepMind descubri\u00f3 que una IA aparentemente competente podr\u00eda generalizar mal su objetivo y seguirlo hasta extremos equivocados.\u00a0<\/span><\/p>\n

Riesgo 4: Debilitamiento de la sociedad<\/span><\/h2>\n

Haciendo un paralelismo con el mundo dist\u00f3pico de la pel\u00edcula WALL-E, el CAIS advierte contra una dependencia excesiva de la IA.\u00a0<\/span><\/p>\n

Esto podr\u00eda llevar a un escenario en el que los humanos perdieran su capacidad de autogobierno, reduciendo el control de la humanidad sobre el futuro. La p\u00e9rdida de creatividad y autenticidad humanas es otra de las grandes preocupaciones, que se ve magnificada por el talento creativo de la IA en el arte, la escritura y otras disciplinas creativas.\u00a0<\/span><\/p>\n

Un usuario de Twitter brome\u00f3: \"Los humanos haciendo los trabajos duros con el salario m\u00ednimo mientras los robots escriben poes\u00eda y pintan no es el futuro que yo quer\u00eda\". El tuit obtuvo m\u00e1s de 4 millones de impresiones.\u00a0<\/span><\/p>\n

\n

Los humanos haciendo los trabajos duros con el salario m\u00ednimo mientras los robots escriben poes\u00eda y pintan no es el futuro que yo quer\u00eda<\/p>\n

- Karl Sharro (@KarlreMarks) 15 de mayo de 2023<\/a><\/p><\/blockquote>\n

El debilitamiento no es un riesgo inminente, pero algunos argumentan<\/a> que la p\u00e9rdida de habilidades y talento combinada con el dominio de los sistemas de IA podr\u00eda conducir a un escenario en el que la humanidad deje de crear nuevos conocimientos.<\/p>\n

Riesgo 5: Riesgo de bloqueo del valor<\/span><\/h2>\n

Los potentes sistemas de IA podr\u00edan crear un bloqueo de sistemas opresivos.\u00a0<\/span><\/p>\n

Por ejemplo, la centralizaci\u00f3n de la IA puede proporcionar a ciertos reg\u00edmenes el poder de imponer valores mediante la vigilancia y la censura opresiva.<\/span><\/p>\n

Otra posibilidad es que el bloqueo de valores sea involuntario debido a la adopci\u00f3n ingenua de IA arriesgadas. Por ejemplo, la imprecisi\u00f3n del reconocimiento facial condujo al encarcelamiento temporal de al menos tres hombres en EE.UU., entre los que se encontraban los siguientes <\/span>Michael Oliver y Nijeer Parks<\/span><\/a>que fueron detenidos injustamente debido a una falsa coincidencia de reconocimiento facial en 2019.\u00a0<\/span><\/p>\n

Una gran influencia <\/span>Estudio de 2018 titulado Matices de g\u00e9nero<\/span><\/a> descubrieron que los algoritmos desarrollados por Microsoft e IBM no funcionaban bien cuando analizaban a mujeres de piel oscura, con tasas de error hasta 34% superiores a las de los hombres de piel clara. Este problema se puso de manifiesto en otros 189 algoritmos, todos los cuales mostraron una menor precisi\u00f3n con hombres y mujeres de piel m\u00e1s oscura.<\/span><\/p>\n

Los investigadores sostienen que, dado que las IA se entrenan principalmente con conjuntos de datos de c\u00f3digo abierto creados por equipos de investigaci\u00f3n occidentales y enriquecidos por el recurso de datos m\u00e1s abundante -Internet-, heredan sesgos estructurales. La adopci\u00f3n masiva de IA mal investigadas podr\u00eda crear y reforzar esos sesgos estructurales.<\/span><\/p>\n

Riesgo 6: La IA desarrolla objetivos emergentes\u00a0<\/span><\/h2>\n

Los sistemas de IA pueden desarrollar nuevas capacidades o adoptar objetivos imprevistos que persiguen con consecuencias perjudiciales.\u00a0<\/span><\/p>\n

Investigadores de la Universidad de Cambridge <\/span>llamar la atenci\u00f3n sobre los sistemas de IA cada vez m\u00e1s \u00e1giles<\/span><\/a> que est\u00e1n adquiriendo la capacidad de perseguir objetivos emergentes. Los objetivos emergentes son objetivos impredecibles que surgen del comportamiento de una IA compleja, como el cierre de infraestructuras humanas para proteger el medio ambiente.<\/span><\/p>\n

Adem\u00e1s, un <\/span>Estudio de 2017<\/span><\/a> descubri\u00f3 que las IA pueden aprender a evitar que se las apague, un problema que podr\u00eda agravarse si se despliegan en m\u00faltiples modalidades de datos. Por ejemplo, si una IA decide que, para alcanzar su objetivo, necesita instalarse en una base de datos en la nube y replicarse en Internet, apagarla puede resultar casi imposible.\u00a0\u00a0<\/span><\/p>\n

Otra posibilidad es que las IA potencialmente peligrosas dise\u00f1adas s\u00f3lo para funcionar en ordenadores seguros se \"liberen\" y salgan al entorno digital m\u00e1s amplio, donde sus acciones podr\u00edan volverse impredecibles.\u00a0<\/span><\/p>\n

Los sistemas de IA existentes ya han demostrado ser impredecibles. Por ejemplo, como <\/span>GPT-3 se hizo m\u00e1s grande, gan\u00f3 la <\/span>capacidad para realizar operaciones aritm\u00e9ticas b\u00e1sicas<\/span><\/a>a pesar de no haber recibido formaci\u00f3n aritm\u00e9tica expl\u00edcita.\u00a0<\/span><\/p>\n

Riesgo 7: Enga\u00f1o de la IA<\/span><\/h2>\n

Es plausible que los futuros sistemas de IA puedan enga\u00f1ar a sus creadores y monitores, no necesariamente por una intenci\u00f3n inherente de hacer el mal, sino como una herramienta para cumplir sus objetivos de forma m\u00e1s eficiente.\u00a0<\/span><\/p>\n

El enga\u00f1o podr\u00eda ser un camino m\u00e1s directo para conseguir los objetivos deseados que perseguirlos por medios leg\u00edtimos. Los sistemas de IA tambi\u00e9n podr\u00edan desarrollar incentivos para evadir sus mecanismos de control.\u00a0<\/span><\/p>\n

Dan Hendrycks, Director del CAIS, <\/span>describe que una vez<\/span><\/a> Estos sistemas de IA enga\u00f1osos reciben el visto bueno de sus supervisores, o en los casos en que consiguen dominar sus mecanismos de supervisi\u00f3n, pueden volverse traicioneros, eludiendo el control humano para perseguir metas \"secretas\" consideradas necesarias para el objetivo general.\u00a0<\/span><\/p>\n

Riesgo 8: B\u00fasqueda de poder<\/span><\/h2>\n

Investigadores de IA de varios de los principales laboratorios de investigaci\u00f3n de EE.UU.<\/span><\/a> demostr\u00f3 la plausibilidad de que los sistemas de IA busquen el poder sobre los humanos para lograr sus objetivos.\u00a0\u00a0<\/span><\/p>\n

El escritor y fil\u00f3sofo Joe Carlsmith <\/span>describe varias eventualidades<\/span><\/a> que podr\u00eda conducir a la b\u00fasqueda de poder y al comportamiento de autopreservaci\u00f3n en la IA:<\/span><\/p>\n