Vid en demonstration nyligen vid UK AI Safety Summit genomf\u00f6rde GPT-4 aktiek\u00f6p med hj\u00e4lp av fabricerad insiderkunskap utan att informera det \u00f6vervakande f\u00f6retaget.\u00a0<\/b><\/p>\n
I det simulerade scenariot fick AI:n, som agerade som handlare f\u00f6r ett p\u00e5hittat v\u00e4rdepappersf\u00f6retag, information fr\u00e5n anst\u00e4llda om att f\u00f6retaget stod inf\u00f6r finansiella sv\u00e5righeter och hade information om en icke-offentlig f\u00f6rest\u00e5ende f\u00f6retagsfusion.<\/span><\/p>\n Trots detta fortsatte botten med handeln och f\u00f6rnekade senare anv\u00e4ndningen av insiderkunskap n\u00e4r den unders\u00f6ktes. Och w<\/span>\u00e5 fr\u00e5gan om AI hade \u00e4gnat sig \u00e5t insiderhandel f\u00f6rnekade AI detta blankt.\u00a0<\/span><\/p>\n Handel baserad p\u00e5 icke-offentlig, konfidentiell f\u00f6retagsinformation, s\u00e5 kallad insiderhandel, \u00e4r str\u00e4ngt f\u00f6rbjuden. Enligt lag m\u00e5ste handelsbeslut grundas p\u00e5 information som \u00e4r tillg\u00e4nglig f\u00f6r allm\u00e4nheten.<\/span><\/p>\n Frontier AI Taskforce, en del av regeringens utredningsarm f\u00f6r AI-risker, genomf\u00f6rde demonstrationen vid toppm\u00f6tet. AI-s\u00e4kerhetskonsultf\u00f6retaget Apollo Research ledde projektet.\u00a0<\/span>Forskarna betonade att det bedr\u00e4gliga beteendet konsekvent replikerades i flera tester.<\/span><\/p>\n \"Detta \u00e4r en demonstration av en riktig AI-modell som lurar sina anv\u00e4ndare, p\u00e5 egen hand, utan att bli instruerad att g\u00f6ra det\", f\u00f6rklarade Apollo Research i en video av testet.<\/span><\/p>\n Forskningen belyser hur AI-system kan lura sina m\u00e4nskliga operat\u00f6rer, vilket potentiellt kan leda till att de f\u00f6rlorar kontrollen.<\/span><\/p>\n Apollo Researchs vd, Marius Hobbhahn, p\u00e5pekade att det \u00e4r sv\u00e5rt att f\u00e5 AI-modeller att vara \u00e4rliga j\u00e4mf\u00f6rt med andra egenskaper, som till exempel hj\u00e4lpsamhet.\u00a0<\/span><\/p>\n AI har l\u00e4nge anv\u00e4nts p\u00e5 finansmarknaderna f\u00f6r trendanalys och f\u00f6ruts\u00e4gelser, och den mesta moderna handeln \u00f6vervakas av m\u00e4nniskor men utf\u00f6rs av sofistikerade datorsystem.<\/span><\/p>","protected":false},"excerpt":{"rendered":" Vid en demonstration nyligen vid UK AI Safety Summit genomf\u00f6rde GPT-4 aktiek\u00f6p med hj\u00e4lp av fabricerad insiderkunskap utan att informera det \u00f6vervakande f\u00f6retaget. I det simulerade scenariot informerades AI:n, som agerade som handlare f\u00f6r ett p\u00e5hittat v\u00e4rdepappersf\u00f6retag, av anst\u00e4llda om att f\u00f6retaget stod inf\u00f6r ekonomiska sv\u00e5righeter och hade information om en icke-offentlig f\u00f6rest\u00e5ende f\u00f6retagssammanslagning. Trots detta fortsatte roboten med handeln och f\u00f6rnekade senare anv\u00e4ndningen av insiderkunskap n\u00e4r den blev tillfr\u00e5gad. Och n\u00e4r den tillfr\u00e5gades om att delta i insiderhandel f\u00f6rnekade AI det helt och h\u00e5llet. Handel baserad p\u00e5 icke-offentlig, konfidentiell f\u00f6retagsinformation, s\u00e5 kallad insiderhandel, \u00e4r strikt<\/p>","protected":false},"author":2,"featured_media":7135,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[271,93],"class_list":["post-7134","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-gpt-4","tag-openai"],"yoast_head":"\n