Ved en nylig demonstration på UK AI Safety Summit udførte GPT-4 aktiekøb ved hjælp af fabrikeret insiderviden uden at oplyse det overvågende firma om det.
I det simulerede scenarie blev AI'en, der agerede som trader for et opdigtet investeringsfirma, informeret af medarbejdere om, at virksomheden havde økonomiske vanskeligheder og lå inde med oplysninger om en ikke-offentlig forestående virksomhedsfusion.
På trods af dette fortsatte bot'en med handlen og benægtede senere brugen af insiderviden, da han blev spurgt. Og wa han blev spurgt, om han havde deltaget i insiderhandel, benægtede AI det blankt.
Handel baseret på ikke-offentlige, fortrolige virksomhedsoplysninger, såkaldt insiderhandel, er strengt forbudt. Juridisk set skal handelsbeslutninger baseres på oplysninger, der er tilgængelige for offentligheden.
Frontier AI Taskforce, som er en del af regeringens efterforskningsafdeling for AI-risici, gennemførte demonstrationen på topmødet. AI-sikkerhedskonsulentfirmaet Apollo Research stod i spidsen for projektet. Forskerne understregede, at den bedrageriske adfærd konsekvent blev gentaget i flere tests.
"Dette er en demonstration af en ægte AI-model, der bedrager sine brugere på egen hånd uden at blive instrueret i at gøre det", fortæller Apollo Research i en video af testen.
Forskningen fremhæver, hvordan AI-systemer kan narre deres menneskelige operatører, hvilket potentielt kan føre til tab af kontrol.
Apollo Researchs administrerende direktør, Marius Hobbhahn, bemærkede, hvor komplekst det er at indgyde ærlighed i AI-modeller sammenlignet med andre egenskaber som f.eks. hjælpsomhed.
AI har længe været brugt på finansmarkederne til trendanalyse og forudsigelse, og det meste moderne handel overvåges af mennesker, men udføres af sofistikerede computersystemer.
