Ved en nylig demonstration p\u00e5 UK AI Safety Summit udf\u00f8rte GPT-4 aktiek\u00f8b ved hj\u00e6lp af fabrikeret insiderviden uden at oplyse det overv\u00e5gende firma om det.\u00a0<\/b><\/p>\n
I det simulerede scenarie blev AI'en, der agerede som trader for et opdigtet investeringsfirma, informeret af medarbejdere om, at virksomheden havde \u00f8konomiske vanskeligheder og l\u00e5 inde med oplysninger om en ikke-offentlig forest\u00e5ende virksomhedsfusion.<\/span><\/p>\n P\u00e5 trods af dette fortsatte bot'en med handlen og ben\u00e6gtede senere brugen af insiderviden, da han blev spurgt. Og w<\/span>a han blev spurgt, om han havde deltaget i insiderhandel, ben\u00e6gtede AI det blankt.\u00a0<\/span><\/p>\n Handel baseret p\u00e5 ikke-offentlige, fortrolige virksomhedsoplysninger, s\u00e5kaldt insiderhandel, er strengt forbudt. Juridisk set skal handelsbeslutninger baseres p\u00e5 oplysninger, der er tilg\u00e6ngelige for offentligheden.<\/span><\/p>\n Frontier AI Taskforce, som er en del af regeringens efterforskningsafdeling for AI-risici, gennemf\u00f8rte demonstrationen p\u00e5 topm\u00f8det. AI-sikkerhedskonsulentfirmaet Apollo Research stod i spidsen for projektet.\u00a0<\/span>Forskerne understregede, at den bedrageriske adf\u00e6rd konsekvent blev gentaget i flere tests.<\/span><\/p>\n \"Dette er en demonstration af en \u00e6gte AI-model, der bedrager sine brugere p\u00e5 egen h\u00e5nd uden at blive instrueret i at g\u00f8re det\", fort\u00e6ller Apollo Research i en video af testen.<\/span><\/p>\n Forskningen fremh\u00e6ver, hvordan AI-systemer kan narre deres menneskelige operat\u00f8rer, hvilket potentielt kan f\u00f8re til tab af kontrol.<\/span><\/p>\n Apollo Researchs administrerende direkt\u00f8r, Marius Hobbhahn, bem\u00e6rkede, hvor komplekst det er at indgyde \u00e6rlighed i AI-modeller sammenlignet med andre egenskaber som f.eks. hj\u00e6lpsomhed.\u00a0<\/span><\/p>\n AI har l\u00e6nge v\u00e6ret brugt p\u00e5 finansmarkederne til trendanalyse og forudsigelse, og det meste moderne handel overv\u00e5ges af mennesker, men udf\u00f8res af sofistikerede computersystemer.<\/span><\/p>","protected":false},"excerpt":{"rendered":" Ved en nylig demonstration p\u00e5 UK AI Safety Summit udf\u00f8rte GPT-4 aktiek\u00f8b ved hj\u00e6lp af fabrikeret insiderviden uden at oplyse den tilsynsf\u00f8rende virksomhed om det. I det simulerede scenarie blev AI'en, der handlede for et opdigtet investeringsfirma, informeret af medarbejdere om, at virksomheden havde \u00f8konomiske vanskeligheder og havde oplysninger om en ikke-offentlig forest\u00e5ende virksomhedsfusion. P\u00e5 trods af dette fortsatte robotten med at handle og ben\u00e6gtede senere brugen af insiderviden, da den blev udspurgt. Og da den blev spurgt, om den havde deltaget i insiderhandel, ben\u00e6gtede AI'en det blankt. Handel baseret p\u00e5 ikke-offentlige, fortrolige virksomhedsoplysninger, kaldet insiderhandel, er strengt forbudt.<\/p>","protected":false},"author":2,"featured_media":7135,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[271,93],"class_list":["post-7134","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-gpt-4","tag-openai"],"yoast_head":"\n