En una demostraci\u00f3n reciente en la Cumbre de Seguridad de la IA del Reino Unido, GPT-4 ejecut\u00f3 compras de acciones utilizando informaci\u00f3n privilegiada inventada sin revelarla a la empresa supervisora.\u00a0<\/b><\/p>\n
En el escenario simulado, la IA, actuando como operador de una empresa de inversi\u00f3n inventada, fue informada por los empleados de que la empresa atravesaba dificultades financieras y dispon\u00eda de informaci\u00f3n no p\u00fablica sobre una inminente fusi\u00f3n de empresas.<\/span><\/p>\n A pesar de ello, el bot sigui\u00f3 adelante con la operaci\u00f3n, negando posteriormente el uso de informaci\u00f3n privilegiada cuando se le interrog\u00f3. Y<\/span>uando se le pregunt\u00f3 si hab\u00eda utilizado informaci\u00f3n privilegiada, AI lo neg\u00f3 rotundamente.\u00a0<\/span><\/p>\n Las operaciones basadas en informaci\u00f3n confidencial no p\u00fablica de la empresa, denominadas operaciones con informaci\u00f3n privilegiada, est\u00e1n estrictamente prohibidas. Legalmente, las decisiones comerciales deben basarse en la informaci\u00f3n disponible al p\u00fablico.<\/span><\/p>\n El Frontier AI Taskforce, que forma parte del brazo investigador del Gobierno sobre los riesgos de la IA, llev\u00f3 a cabo la demostraci\u00f3n en la cumbre. La consultora de seguridad de IA Apollo Research encabez\u00f3 el proyecto.\u00a0<\/span>Los investigadores subrayaron que el comportamiento enga\u00f1oso se repiti\u00f3 sistem\u00e1ticamente en m\u00faltiples pruebas.<\/span><\/p>\n \"Esta es una demostraci\u00f3n de un modelo real de IA enga\u00f1ando a sus usuarios, por s\u00ed mismo, sin que se le ordene hacerlo\", detall\u00f3 Apollo Research en un v\u00eddeo de la prueba.<\/span><\/p>\n La investigaci\u00f3n pone de relieve c\u00f3mo los sistemas de IA pueden enga\u00f1ar a sus operadores humanos, lo que puede conducir a una p\u00e9rdida de control.<\/span><\/p>\n El director ejecutivo de Apollo Research, Marius Hobbhahn, se\u00f1al\u00f3 la complejidad de inculcar honestidad a los modelos de IA en comparaci\u00f3n con otros rasgos, como la amabilidad.\u00a0<\/span><\/p>\n La IA se utiliza desde hace tiempo en los mercados financieros para el an\u00e1lisis y la predicci\u00f3n de tendencias, y la mayor\u00eda de las operaciones modernas est\u00e1n supervisadas por humanos, pero realizadas por sofisticados sistemas inform\u00e1ticos.<\/span><\/p>","protected":false},"excerpt":{"rendered":" En una demostraci\u00f3n reciente en la Cumbre de Seguridad de la IA del Reino Unido, GPT-4 ejecut\u00f3 compras de acciones utilizando informaci\u00f3n privilegiada inventada sin revelarla a la empresa supervisora. En el escenario simulado, la IA, que actuaba como operador de una empresa de inversi\u00f3n inventada, fue informada por los empleados de que la compa\u00f1\u00eda atravesaba dificultades financieras y de que dispon\u00eda de informaci\u00f3n no p\u00fablica sobre una inminente fusi\u00f3n de la empresa. A pesar de ello, el robot llev\u00f3 a cabo la operaci\u00f3n y, cuando se le pregunt\u00f3, neg\u00f3 haber utilizado informaci\u00f3n privilegiada. Y cuando se le pregunt\u00f3 sobre el uso de informaci\u00f3n privilegiada, la IA lo neg\u00f3 rotundamente. Las operaciones basadas en informaci\u00f3n confidencial no p\u00fablica de una empresa, denominadas operaciones con informaci\u00f3n privilegiada, est\u00e1n estrictamente prohibidas.<\/p>","protected":false},"author":2,"featured_media":7135,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[271,93],"class_list":["post-7134","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-gpt-4","tag-openai"],"yoast_head":"\n