El Gobierno británico ha publicado su informe "Capacidades y riesgos de la IA en las fronteras del conocimiento", que servirá de base de debate en la próxima Cumbre sobre Seguridad de la IA.
El informe ofrece una visión general de las capacidades actuales y futuras y de los riesgos asociados a los modelos frontera. Los modelos frontera son modelos de IA de propósito general muy capaces que pueden realizar una amplia variedad de tareas, como GPT-4 o Llama 2.
Antes de abordar los riesgos actuales y futuros, el informe reconoce que la IA tiene el potencial de mejorar nuestras vidas de muchas maneras. En su introducción, el informe afirma que debido a la IA "nos encontramos en medio de una revolución tecnológica que alterará fundamentalmente la forma en que vivimos, trabajamos y nos relacionamos unos con otros."
Son los riesgos y las hipótesis catastrofistas que se describen en el informe los que ofrecen una lectura especialmente interesante.
Riesgos futuros de la IA
El informe señalaba que "la complejidad de los dominios abiertos dificulta el diseño de sistemas seguros o la evaluación exhaustiva de todos los casos de uso posteriores". Básicamente, están diciendo que la IA es una herramienta parecida a un bolígrafo; puedes hacer que funcione bien pero no puedes evitar que alguien la utilice para escribir cosas malas.
Los riesgos derivados del doble uso de la IA llenan decenas de páginas del informe y hacen que uno se pregunte qué es lo que está pasando. la cumbre conseguirá en 2 días.
Un riesgo notable planteado en el informe es que la IA del futuro busque activamente la autonomía. Según el informe, "la pérdida de control podría acelerarse si los sistemas de IA toman medidas para aumentar su propia influencia y reducir el control humano."
Señaló que la IA del futuro podría desarrollar tanto la capacidad como la disposición para hacer precisamente eso.
Si bien se reconoce que algunos expertos opinan que la se han exagerado los riesgos de la IAPero el informe no descarta las amenazas más existenciales.
La IA podría hacer avanzar rápidamente la sanidad, la ciencia y la energía, pero debemos aprovecharla de forma segura.
El Gobierno ha publicado un documento de debate sobre los riesgos y las capacidades de la IA de frontera:https://t.co/YIjyZsgcbe
Lee un resumen a continuación 👇
(1/4) pic.twitter.com/FJdbKcqk4e- Departamento de Ciencia, Innovación y Tecnología (@SciTechgovuk) 26 de octubre de 2023
Escenarios catastróficos para la IA
El informe afirmaba: "Dada la gran incertidumbre que existe a la hora de predecir los avances de la IA, no hay pruebas suficientes para descartar que futuros sistemas de IA de frontera altamente capaces, si se desajustan o controlan inadecuadamente, puedan suponer una amenaza existencial."
Una de las formas en que esto podría ocurrir es si "A medida que aumenta la capacidad de la IA, los humanos conceden a la IA más control sobre los sistemas críticos y acaban volviéndose irreversiblemente dependientes de sistemas que no comprenden totalmente".
Si las luces se apagan y AI es la única que sabe dónde está el interruptor, podríamos quedarnos a oscuras durante algún tiempo.
En un escenario futurista, el informe describe lo que denomina un "Salvaje Oeste de la IA". En este escenario ambientado en 2030, "las autoridades luchan contra el volumen y la diversidad del uso indebido. Centrarse en abordar los impactos inmediatos de esta crisis ha dificultado alcanzar un consenso global sobre cómo gestionar los problemas a largo plazo".
Eso no suena a futuro, sino a lo que está ocurriendo ahora mismo. Es poco probable que una cumbre de dos días haga mella en los alarmantes riesgos detallados en este informe.
La Cumbre sobre Seguridad de la IA se basa en la idea de que es posible una IA "segura" si nos esforzamos lo suficiente. Pero, ¿lo es?
Si una AGI ya está en la naturaleza, podría leer fácilmente las preocupaciones expuestas en este informe y luego ocultar su capacidad o intención de llevar a cabo estos escenarios. Hasta que sea demasiado tarde.
