El consejero delegado de Palantir Technologies, Alex Karp, afirma que el Gobierno estadounidense debería trabajar en la producción de armas de inteligencia artificial, a pesar de las dudas que suscita.
En un Artículo de opinión en el New York TimesKarp hizo comparaciones con el Proyecto Manhattan y dijo que una acción audaz similar a la emprendida por Oppenheimer y su equipo era vital para los intereses nacionales. Palantir produce herramientas de software de selección de objetivos, planificación de misiones y reconocimiento de satélites que actualmente utilizan las fuerzas de defensa estadounidenses.
La empresa ya ha integrado la IA en su Plataforma de Inteligencia Artificial (AIP) que tiene aplicaciones tanto comerciales como de defensa.
El reto al que se enfrentan empresas como Palantir es que para desarrollar armas de IA necesitan ingenieros con talento, y son difíciles de encontrar.
Karp lamentó la reticencia de muchos ingenieros de Silicon Valley a trabajar en proyectos de defensa, afirmando que su razonamiento moral era erróneo e incluso antipatriótico. Su frustración se ve agravada longitudes que los reguladores van a en un esfuerzo por frenar el desarrollo de la IA.
Aun reconociendo los peligros reales conocidos y desconocidos, Karp afirmó que Estados Unidos debería estar a la vanguardia del desarrollo de armas de IA porque sus enemigos no comparten sus reticencias.
"Nuestros adversarios no se detendrán en debates teatrales sobre las ventajas de desarrollar tecnologías con aplicaciones militares y de seguridad nacional críticas. Seguirán adelante", afirmó.
Las armas están diseñadas para ser peligrosas, pero ni siquiera comprendemos realmente lo peligrosas que podrían ser las armas de IA. Pero Karp insiste en que crear armas de IA peligrosas es esencial para mantener la seguridad de Occidente.
Citó a Thomas Schelling, profesor de economía y teoría de juegos en Harvard y Yale, quien afirmó: "Para ser coercitiva, la violencia tiene que anticiparse... El poder de hacer daño es poder de negociación. Explotarlo es diplomacia - diplomacia viciosa, pero diplomacia".
Karp afirma que la amenaza de la IA que debería preocuparnos más es cómo mantenerla a raya si se permite que se integre en la red eléctrica, el control del tráfico aéreo o el transporte aéreo. defensa y redes de inteligencia.
Sin embargo, esa válida preocupación no parece apoyar realmente su argumento. Al afirmar lo obvio con respecto a la IA como arma, dijo: "La capacidad del software para facilitar la eliminación de un enemigo es una condición previa para su valor para las agencias de defensa e inteligencia con las que trabajamos".
Nos preocupa soltar a la IA en las redes eléctricas o en el control del tráfico aéreo porque nos inquieta lo que pueda ocurrir si los operadores pierden el control.
La creación de potentes armas de IA para combatir a tus enemigos sólo ofrece protección si eres tú quien decide quién es el enemigo. Cuando el arma tiene el potencial de tomar esa decisión por sí misma, entonces todos estamos en problemas.
