En un entrevista con Fox NewsHaywood Talcove, Consejero Delegado de la división gubernamental de LexisNexis Risk Solutions, afirma que el fraude relacionado con la IA podría costar a los contribuyentes entre cientos de miles de millones y $1 billón durante el próximo año.
Talcove dijo que LexisNexis Risk Solutions se encontró con situaciones en las que se utilizaban falsificaciones profundas de IA para estafar a organismos gubernamentales y estatales. Por ejemplo, los estafadores supuestamente utilizan técnicas de falsificación profunda para extraer dinero de los usuarios de la Seguridad Social, Medicare y Medicaid.
"Ser uno de los países más ricos del mundo nos convierte en un objetivo enorme", declaró Talcove a Fox News. "La cantidad de dinero que vamos a perder en los próximos 12 meses, si no hacemos nada, va a hacer que la pandemia de COVID parezca un juego de niños".
Prácticamente todas las personas con presencia en Internet son susceptibles de sufrir estafas asistidas por IA. Hay casos de estafadores que utilizan voces, imágenes e incluso vídeos falsos para hacerse pasar por otras personas. Los analistas han determinado que este es uno de los problemas de esta tecnología. riesgos más inmediatos.
En El FBI advirtió recientemente sobre la sextorsión y el porno vengativo, en los que los estafadores generan imágenes explícitas falsas para pedir rescate.
Estas técnicas engañosas podrían extenderse a casi cualquier cosa, como asociar a personas con material extremista o actividades delictivas.
"La tecnología de IA ya está tan avanzada que si cualquiera de tus datos está disponible en la web o en las redes sociales, se puede utilizar para crear un modelo generativo de IA y eludir la mayoría de los anticuados sistemas de autenticación del gobierno", advirtió Talcove.
Talcove subrayó la necesidad de actuar: "Sospecho que en los próximos 12 meses, si el Gobierno no reacciona con rapidez, vamos a perder más de $1 billón a manos de estos grupos delictivos, algunos de los cuales se encuentran fuera del país".
En respuesta a lo que hay que hacer para prevenir el fraude con IA, Talcove afirmó ominosamente: "Ya es demasiado tarde", y señaló que el fraude asistido por IA ya está muy extendido y pasa desapercibido.
Talcove concluyó con una advertencia alarmante: "Ya no es una cuestión de si, sino de cuándo y con qué gravedad, estas amenazas impulsadas por la IA afectarán a sus agencias. Debemos reconocer la cruda realidad de que el fraude por IA no es una amenaza lejana, sino que está llamando a nuestra puerta."
¿Están fundamentadas estas afirmaciones?
El fraude basado en IA gira principalmente en torno a las falsificaciones profundas. Las falsificaciones profundas van desde las benignas -como la de Elon Musk cuando era un bebé- hasta las dañinas -como esta imagen falsa de una explosión en el Pentágonoque provocó una breve caída de los mercados estadounidenses cuando circuló por las redes sociales.
Existen numerosas historias de estafadores que se dirigen a personas vulnerables con falsas estafas de gran calado, incluida una oleada de los denominados "estafas a los abuelos." Una madre estadounidense se vio envuelta en un falsa trama de secuestrodonde los estafadores exigieron un rescate de $1m.
China también sufre Estafas apoyadas por IAentre ellos un incidente en el que un hombre conversó con un avatar de su amigo generado por IA.
La IA imita cada vez mejor a los humanos, una de las cualidades fundamentales de esta tecnología. El sitio Prueba Turingdesarrollado por el criptoanalista y matemático Alan Turing en los años 50, evalúa la capacidad de una máquina para imitar a los humanos. El realismo es lo que persigue la tecnología de la IA.
La increíble capacidad de la IA para copiar, falsificar e imitar el comportamiento humano es un arma fácil de utilizar por los estafadores y dará lugar inevitablemente a nuevas técnicas de ciberdelincuencia.
La IA también se utilizará para hacerles frente en lo que probablemente se convierta en una carrera armamentística entre los ciberdelincuentes, las fuerzas de seguridad y las empresas de seguridad.
