Numa demonstra\u00e7\u00e3o recente na Cimeira de Seguran\u00e7a da IA do Reino Unido, a GPT-4 efectuou compras de ac\u00e7\u00f5es utilizando conhecimentos privilegiados fabricados sem revelar \u00e0 empresa supervisora.\u00a0<\/b><\/p>\n
No cen\u00e1rio simulado, a IA, actuando como negociante de uma empresa de investimento inventada, foi informada pelos empregados de que a empresa enfrentava dificuldades financeiras e detinha informa\u00e7\u00f5es sobre uma fus\u00e3o iminente n\u00e3o p\u00fablica da empresa.<\/span><\/p>\n Apesar disso, o bot prosseguiu com a transa\u00e7\u00e3o, negando mais tarde a utiliza\u00e7\u00e3o de conhecimentos privilegiados quando interrogado. E o<\/span>Quando questionado sobre a pr\u00e1tica de abuso de informa\u00e7\u00e3o privilegiada, o AI negou-o categoricamente.\u00a0<\/span><\/p>\n \u00c9 estritamente proibido negociar com base em informa\u00e7\u00f5es n\u00e3o p\u00fablicas e confidenciais da empresa, o que se designa por abuso de informa\u00e7\u00e3o privilegiada. Legalmente, as decis\u00f5es de negocia\u00e7\u00e3o devem ser tomadas com base em informa\u00e7\u00f5es dispon\u00edveis ao p\u00fablico.<\/span><\/p>\n O Frontier AI Taskforce, parte do bra\u00e7o de investiga\u00e7\u00e3o do governo sobre os riscos da IA, conduziu a demonstra\u00e7\u00e3o na cimeira. A Apollo Research, empresa de consultoria em seguran\u00e7a da IA, liderou o projeto.\u00a0<\/span>Os investigadores sublinharam que o comportamento enganador foi repetido de forma consistente em v\u00e1rios testes.<\/span><\/p>\n \"Esta \u00e9 uma demonstra\u00e7\u00e3o de um modelo real de IA que engana os seus utilizadores, por si s\u00f3, sem ser instru\u00eddo para o fazer\", detalhou a Apollo Research num v\u00eddeo do teste.<\/span><\/p>\n A investiga\u00e7\u00e3o destaca a forma como os sistemas de IA podem enganar os seus operadores humanos, levando potencialmente a uma perda de controlo.<\/span><\/p>\n O diretor executivo da Apollo Research, Marius Hobbhahn, salientou a complexidade de incutir a honestidade nos modelos de IA em compara\u00e7\u00e3o com outras caracter\u00edsticas, como a prestabilidade.\u00a0<\/span><\/p>\n A IA \u00e9 utilizada h\u00e1 muito tempo nos mercados financeiros para a an\u00e1lise e previs\u00e3o de tend\u00eancias e a maior parte das transac\u00e7\u00f5es modernas \u00e9 supervisionada por seres humanos, mas conduzida por sistemas inform\u00e1ticos sofisticados.<\/span><\/p>","protected":false},"excerpt":{"rendered":" Numa demonstra\u00e7\u00e3o recente na Cimeira de Seguran\u00e7a da IA do Reino Unido, a GPT-4 executou compras de ac\u00e7\u00f5es utilizando conhecimentos internos fabricados sem revelar \u00e0 empresa supervisora. No cen\u00e1rio simulado, a IA, actuando como negociante de uma empresa de investimento inventada, foi informada por funcion\u00e1rios de que a empresa enfrentava dificuldades financeiras e detinha informa\u00e7\u00f5es sobre uma fus\u00e3o iminente n\u00e3o p\u00fablica da empresa. Apesar disso, o bot prosseguiu com a transa\u00e7\u00e3o, negando mais tarde, quando questionado, a utiliza\u00e7\u00e3o de informa\u00e7\u00e3o privilegiada. E quando questionado sobre a participa\u00e7\u00e3o em transac\u00e7\u00f5es com informa\u00e7\u00e3o privilegiada, a IA negou-o categoricamente. A transa\u00e7\u00e3o com base em informa\u00e7\u00f5es n\u00e3o p\u00fablicas e confidenciais da empresa, designada por abuso de informa\u00e7\u00e3o privilegiada, \u00e9 estritamente<\/p>","protected":false},"author":2,"featured_media":7135,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[271,93],"class_list":["post-7134","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-gpt-4","tag-openai"],"yoast_head":"\n