Under en nylig demonstrasjon på UK AI Safety Summit gjennomførte GPT-4 aksjekjøp ved hjelp av fabrikkert innsidekunnskap uten å opplyse det overvåkende selskapet om dette.
I det simulerte scenariet ble den kunstige intelligensen, som opptrådte som trader for et oppdiktet investeringsselskap, informert av ansatte om at selskapet hadde økonomiske problemer og satt på informasjon om en forestående fusjon som ikke var offentlig.
Til tross for dette fortsatte boten med handelen, og benektet senere bruk av innsidekunnskap da han ble spurt. Og wa AI ble spurt om han hadde drevet med innsidehandel, benektet han det blankt.
Handel basert på ikke-offentlig, konfidensiell selskapsinformasjon, såkalt innsidehandel, er strengt forbudt. Juridisk sett må handelsbeslutninger baseres på informasjon som er offentlig tilgjengelig.
Frontier AI Taskforce, som er en del av regjeringens etterforskningsavdeling for risiko knyttet til kunstig intelligens, gjennomførte demonstrasjonen på toppmøtet. Konsulentselskapet Apollo Research, som jobber med AI-sikkerhet, ledet prosjektet. Forskerne la vekt på at den svikefulle atferden konsekvent ble gjentatt i flere tester.
"Dette er en demonstrasjon av en ekte AI-modell som lurer brukerne sine, på egen hånd, uten å bli instruert til å gjøre det", beskrev Apollo Research i en video av testen.
Forskningen belyser hvordan AI-systemer kan lure menneskelige operatører, noe som potensielt kan føre til tap av kontroll.
Apollo Researchs administrerende direktør, Marius Hobbhahn, påpekte at det er mer komplisert å innprente ærlighet i AI-modeller sammenlignet med andre egenskaper, som for eksempel hjelpsomhet.
AI har lenge blitt brukt i finansmarkedene til trendanalyse og prediksjon, og det meste av moderne handel overvåkes av mennesker, men utføres av sofistikerte datasystemer.
