Bienvenido al resumen de noticias sobre IA artesanal de esta semana.
Esta semana hemos descubierto que, después de todo, la IA no puede ayudarte a construir un arma biológica, o quizá sí.
El ejército de Swifties de Tay Tay luchó contra la falsa IA porno.
Y la IA nos hizo confiar en los políticos aún menos de lo que ya lo hacíamos.
Profundicemos.
Injusticia rápida
Taylor Swift se encontró en el punto de mira de AI explícita imágenes falsas profundas esta semana. La comprensible indignación que se produjo también se dirigió a plataformas como X, que parecían no tener defensa contra este tipo de contenidos.
La reacción de la industria y del público fue generalizada. El ejército de Swifties de Taylor se puso en modo Sherlock Holmes. Rastrearon y doxxed el tipo supuestamente detrás de las imágenes después de afirmar con seguridad: "Nunca me encontrarán".
Es demasiado fácil para cualquiera crear este tipo de imágenes utilizando IA. Con InstantID, ahora es mucho más fácil. El modelo permite a los generadores de imágenes de IA crear reproducciones a partir de una sola imagen del rostro de una persona.
El trabajo de investigación InstantID se publicó antes del drama del Swiftgate, pero adivina qué cara utilizaron los investigadores como ejemplo.
Increíble
Es oficial, ya no podemos creer lo que ven y oyen nuestros ojos. Sam's recopilación de las falsificaciones políticas profundas que hemos visto en los últimos meses pone de relieve la progresión tanto en escala como en capacidad que la IA está ofreciendo a los defraudadores.
Los clones de voces por IA han mejorado espectacularmente. Hemos pasado de los intentos de monotonía robótica a la imitación a gran escala del tono y la emoción. El falso vídeo cómico de George Carlin en YouTube fue un buen ejemplo.
El patrimonio de Carlin es ahora demandando a los creadores del falso programa cómico AI con algunas confesiones sorprendentes de los responsables del vídeo.
El audio falso profundo es cada vez más fácil de hacer y más difícil de detectar. La democratización de estas herramientas de IA significa que el ciudadano de a pie se está convirtiendo en un objetivo. Un director de escuela de Baltimore dice que la voz de una grabación de audio ofensiva no era suya, sino una falsificación de IA. Juzgue usted.
Mi primer instinto fue: "Está mintiendo", pero luego vi lo que un experto en audio forense dijo sobre el clip.
Abierto y cerrado
¿Qué hay en un nombre? El "Open" de OpenAI ya no parece significar lo mismo que antes. OpenAI se aleja de su homónimo y principios fundacionales constituye una lectura interesante.
La empresa afirma que sigue siendo transparente, siempre y cuando no hagas preguntas sobre sus estados financieros, los datos de entrenamiento de los modelos, la política de conflictos de intereses, por qué despidieron a Altman,... Ya te haces una idea.
cómo será 2024 pic.twitter.com/bvgBFSAW4H
- kache (yacine) (KING OF DING) (@yacineMTB) 31 de enero de 2024
Algo sobre lo que OpenAI ha sido sincera es su ambición de producir sus propios chips de IA. Altman en voz baja se fue a Corea del Sur que hable con Samsung y otros fabricantes de chips para que le ayuden con esto.
Las operaciones opacas de OpenAI pueden estar más en consonancia con la naturaleza reservada de los líderes más al norte de Seúl.
Un informe que desvela la dinámica de La resurgente industria de la IA en Corea del Norte demuestra que la IA está desempeñando un papel más importante de lo que algunos pensaban. Supongo que Kim Jong Un es un gran fan de la estrategia de código abierto de Meta.
La administración Biden ahora exige a las empresas de computación en nube que informen sobre los usuarios extranjeros. Si eres informático en Corea del Norte, te conviene utilizar una VPN decente cuando te conectes a AWS.
GPT-4 se vuelve inteligente
Si le pides a GPT-4 que te ayude con una lluvia de ideas, se vuelve un poco repetitivo con algunas de las ideas que se le ocurren. A los investigadores se les ocurrieron algunas estrategias de ingeniería que pueden solucionarlo.
Si buscas entradas creativas para añadir a tu currículum, ChatGPT también puede ayudarte con eso. Resulta que la IA es muy utilizada por los solicitantes de empleo, y los jefes de contratación lo fomentan.
Esta semana descubrimos algo más en lo que la GPT-4 era buena. Los investigadores descubrieron que la GPT-4 coincidía con los médicos expertos en tratamientos recomendados para las víctimas de ictus.
Los pacientes que sufren parálisis o ELA pronto podrían beneficiarse de otro de los numerosos proyectos de Elon Musk. Musk anunció que Neuralink completó su primer implante cerebral en un sujeto humano.
Con el tiempo, esto podría permitir la comunicación directa entre el cerebro y dispositivos como teléfonos móviles u ordenadores. ¿Estamos viviendo la precuela de Matrix?
Musk también ha estado intentando $6 mil millones para llevar su proyecto de IA xAI al siguiente nivel. Echa un vistazo a lo que este hombre ha hecho hasta ahora y luego darle el dinero. ¿Cuándo duerme este tipo?
La seguridad ante todo
La RAND Corporation recibió muchas críticas por un informe de octubre en el que se afirmaba que los LLM "podrían" ayudar a los malos a fabricar un arma biológica. Su último informe dice que podría no ser cierto después de todo. Y luego OpenAI hizo un estudio propio que concluyó que una versión especial de GPT-4 podría ayudar un poco a los malos.
Los agentes de inteligencia artificial sueltos en Internet sin supervisión podrían suponer un peligro muy real. Los investigadores esbozaron los peligros potenciales y propusieron tres cosas que podrían aumentar la visibilidad de los agentes de IA para hacerlos más seguros.
¿Es tu superpoder señalar los errores de los demás? El CDAO y el DoD están organizando eventos para identificar los sesgos en los modelos lingüísticos. Incluso te pagarán recompensas por detectar errores de parcialidad.
La IA en la UE
El próximo Cumbre AI Act 2024 de la UE comienza la próxima semana. La cumbre será una oportunidad ideal para debatir las propuestas de regulación de la IA y familiarizarse con la Ley de IA de la UE y sus implicaciones globales.
Algunos grupos de defensa de los derechos civiles piden a la UE que sondear OpenAI y Microsoft. La gran cantidad de dinero que Microsoft ha invertido en OpenAI plantea interrogantes sobre su impacto en la competencia dentro del sector de la IA.
Puede que sea difícil rebatirlo, ya que se espera que Microsoft publique su mejor crecimiento trimestral de los ingresos en dos años. Gran parte de ello se debe a los desarrollos de IA que OpenAI le ayudó a realizar.
La autoridad italiana de protección de datos ha planteado preocupación por la privacidad de los datos tras los errores de ChatGPT con información personal y las consecuencias de las alucinaciones difamatorias.
En otras noticias...
Estas son algunas de las historias sobre inteligencia artificial que nos han gustado esta semana:
- La Fundación Nacional de las Ciencias de EE.UU. puso en marcha el Recurso nacional de investigación sobre inteligencia artificial (NAIRR).
- Las empresas de IA tendrán que empezar informar sobre sus pruebas de seguridad al gobierno estadounidense. No todo el mundo está de acuerdo en que sea una buena idea.
"Todos tus modelos nos pertenecen".
Este es el final de los grandes esfuerzos de los grupos de presión para que los que pretenden vender la "seguridad de la IA como servicio" se hagan con la regulación.
Los modelos deben ser permisivos para que florezca la innovación. Esto es una forma de imposición de la red neuronal y será una deceleración neta. pic.twitter.com/wpP7zwMCv3
- Beff Jezos - e/acc ⏩ (@BasedBeffJezos) 1 de febrero de 2024
- Un antiguo miembro de la Junta Directiva es crítica del riesgo asociados con la actual estructura del consejo de OpenAI y el poder que ostenta.
- Meta es gratis Código Llama La herramienta de programación AI cierra la brecha con GPT-4.
- OpenAI y Common Sense Media se asocian para proteger a los adolescentes de los daños y el uso indebido de la IA.
Y eso es todo.
A los Swifties de nuestra audiencia, esperamos que os hayáis recuperado de la traumática semana. ¿Estabais navegando por X cuando descubristeis las fotos de AI sin querer? ¿O has tenido que esforzarte mucho para encontrarlas?
No creo que nadie haga desnudos falsos con mi cara, pero puede que tenga más cuidado con a quién envío una nota de voz en el futuro. La clonación de voz por IA se está volviendo una locura.
¿Te has apuntado a la prueba de Neuralink? ¿Dejarías que Elon Musk te pusiera un chip en el cerebro? Musk consiguió hacer estallar unos cuantos cohetes de SpaceX antes de hacerlo bien. Creo que esperaré hasta que hayan solucionado los errores.
Díganos lo que piensa y envíenos enlaces a cualquier noticia interesante sobre IA que hayamos pasado por alto.
