Under en nylig demonstrasjon p\u00e5 UK AI Safety Summit gjennomf\u00f8rte GPT-4 aksjekj\u00f8p ved hjelp av fabrikkert innsidekunnskap uten \u00e5 opplyse det overv\u00e5kende selskapet om dette.\u00a0<\/b><\/p>\n
I det simulerte scenariet ble den kunstige intelligensen, som opptr\u00e5dte som trader for et oppdiktet investeringsselskap, informert av ansatte om at selskapet hadde \u00f8konomiske problemer og satt p\u00e5 informasjon om en forest\u00e5ende fusjon som ikke var offentlig.<\/span><\/p>\n Til tross for dette fortsatte boten med handelen, og benektet senere bruk av innsidekunnskap da han ble spurt. Og w<\/span>a AI ble spurt om han hadde drevet med innsidehandel, benektet han det blankt.\u00a0<\/span><\/p>\n Handel basert p\u00e5 ikke-offentlig, konfidensiell selskapsinformasjon, s\u00e5kalt innsidehandel, er strengt forbudt. Juridisk sett m\u00e5 handelsbeslutninger baseres p\u00e5 informasjon som er offentlig tilgjengelig.<\/span><\/p>\n Frontier AI Taskforce, som er en del av regjeringens etterforskningsavdeling for risiko knyttet til kunstig intelligens, gjennomf\u00f8rte demonstrasjonen p\u00e5 toppm\u00f8tet. Konsulentselskapet Apollo Research, som jobber med AI-sikkerhet, ledet prosjektet.\u00a0<\/span>Forskerne la vekt p\u00e5 at den svikefulle atferden konsekvent ble gjentatt i flere tester.<\/span><\/p>\n \"Dette er en demonstrasjon av en ekte AI-modell som lurer brukerne sine, p\u00e5 egen h\u00e5nd, uten \u00e5 bli instruert til \u00e5 gj\u00f8re det\", beskrev Apollo Research i en video av testen.<\/span><\/p>\n Forskningen belyser hvordan AI-systemer kan lure menneskelige operat\u00f8rer, noe som potensielt kan f\u00f8re til tap av kontroll.<\/span><\/p>\n Apollo Researchs administrerende direkt\u00f8r, Marius Hobbhahn, p\u00e5pekte at det er mer komplisert \u00e5 innprente \u00e6rlighet i AI-modeller sammenlignet med andre egenskaper, som for eksempel hjelpsomhet.\u00a0<\/span><\/p>\n AI har lenge blitt brukt i finansmarkedene til trendanalyse og prediksjon, og det meste av moderne handel overv\u00e5kes av mennesker, men utf\u00f8res av sofistikerte datasystemer.<\/span><\/p>","protected":false},"excerpt":{"rendered":" Under en nylig demonstrasjon p\u00e5 UK AI Safety Summit utf\u00f8rte GPT-4 aksjekj\u00f8p ved hjelp av oppdiktet innsidekunnskap uten \u00e5 opplyse det overv\u00e5kende firmaet om dette. I det simulerte scenariet ble AI-en, som opptr\u00e5dte som trader for et oppdiktet investeringsselskap, informert av ansatte om at selskapet hadde \u00f8konomiske problemer og satt p\u00e5 informasjon om en forest\u00e5ende fusjon som ikke var offentlig. Til tross for dette fortsatte roboten med handelen, og nektet senere for \u00e5 ha brukt innsidekunnskap da den ble spurt. Og da AI-en ble spurt om den hadde drevet med innsidehandel, nektet den blankt for det. Handel basert p\u00e5 ikke-offentlig, konfidensiell selskapsinformasjon, s\u00e5kalt innsidehandel, er strengt forbudt.<\/p>","protected":false},"author":2,"featured_media":7135,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[271,93],"class_list":["post-7134","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-gpt-4","tag-openai"],"yoast_head":"\n