Italiens dataskyddsmyndighet Garante har uttryckt oro för att OpenAI:s ChatGPT kan strida mot EU:s allmänna dataskyddsförordning (GDPR).
Detta är en följd av en utredning som inleddes förra året efter en tillfälligt förbud mot ChatGPT i Italien. Granskningen visade på potentiella problem i samband med hanteringen av personuppgifter och frågor kring processer för åldersverifiering.
Den italienska dataskyddsmyndighetens utredning motiverades av flera faktorer, bland annat incidenter där ChatGPT-meddelanden och betalningsuppgifter oavsiktligt exponerades och bristande ålderskontroll för minderåriga.
Dessutom ifrågasatte myndigheten lagligheten i OpenAI:s datainsamlingsmetoder som används för att utbilda ChatGPT och slog larm om att AI:n ibland genererar felaktig information om enskilda personer.
AI-företag har varit under intensiv granskning för sina metoder för dataskrapning, med många stämningar om upphovsrätt pågår för närvarande.
Det finns också flera exempel på AI-"hallucinationer" som förtalar personer och ibland av misstag åtalar dem för brott som förskingring eller sexuella trakasserier. Stämningar för förtal har väckts mot AI-utvecklare men är för närvarande ofullständiga.
Som svar på dessa anklagelser har OpenAI bekräftat sitt åtagande att följa GDPR och andra integritetslagar, och betonat sitt engagemang för dataskydd och integritet.
OpenAI:s uttalande lyfte vidare fram sina ansträngningar för att minimera införandet av personuppgifter i sina utbildningsprocesser och systemets utformning för att avvisa förfrågningar om privat eller känslig information, och sade: "Vi anser att våra metoder överensstämmer med GDPR och andra integritetslagar, och vi vidtar ytterligare åtgärder för att skydda människors data och integritet."
Den globala granskningen av AI-investeringar
Samtidigt utreder den amerikanska federala handelskommissionen (FTC), under ledning av ordförande Lina Khan relationer mellan ledande AI-startupssom OpenAI, och teknikjättar som Microsoft, Amazon och Google.
Den här veckan har flera medborgarrättsgrupper och organisationer, som Mozilla Foundation, ifrågasatte Microsofts och OpenAI:s relationoch uppmanade Europeiska kommissionen att utreda dem för brott mot antitrustlagstiftningen.
FTC:s undersökningar syftar också till att bedöma om dessa partnerskap ger otillbörligt inflytande eller privilegierad tillgång till de större företagen, vilket undergräver rättvis konkurrens.
I takt med att dessa tekniker blir alltmer inbäddade i olika aspekter av samhället är behovet av ett regelverk som balanserar innovation med etiska överväganden, integritetsskydd och rättvisa på marknaden uppenbart. Det är fortfarande på gång.
Resultaten av dessa utredningar och regleringsinsatser kommer sannolikt att skapa viktiga prejudikat för styrningen av AI-teknik i framtiden och forma utvecklingen av AI och dess integrering i den globala digitala ekonomin.
