OpenAI har udnævnt den tidligere NSA-chef og pensionerede general Paul Nakasone til sin bestyrelse. Nakasones syn på efterretningsindsamling har vakt bekymring hos fortalere for borgerrettigheder.
OpenAI er blevet stærkt kritiseret for sin tilgang til AI-sikkerhed i kølvandet på kollaps af sit superalignment-team og udvandring af sikkerhedseksperter.
Det har siden etableret sin Sikkerhedsudvalgetsom vil nyde godt af Nakasones store ekspertise i bestræbelserne på at bruge AI til at bekæmpe cyberkriminalitet.
Bret Taylor, formand for OpenAI's bestyrelse, sagde: "Kunstig intelligens har potentiale til at have en enorm positiv indvirkning på menneskers liv, men den kan kun opfylde dette potentiale, hvis disse innovationer bygges og implementeres på en sikker måde. General Nakasones enestående erfaring inden for områder som cybersikkerhed vil hjælpe OpenAI med at nå sin mission om at sikre, at kunstig generel intelligens kommer hele menneskeheden til gode."
Bekymring for privatlivets fred
Nakasone har upåklagelige referencer, men hans syn på efterretningsindsamling bliver yderligere undersøgt i hans nye stilling.
Mens han var direktør for NSA, skrev han en kronik i Washington Post, hvor han støttede fornyelsen af paragraf 702 i Foreign Intelligence Surveillance Act.
Afsnit 702 fastlægger parametrene for indsamling af efterretninger om ikke-amerikanske personer, samtidig med at amerikanske borgeres privatliv beskyttes.
Selvom Section 702 er rettet mod ikke-amerikanske personer uden for USA, resulterer det ofte i tilfældig indsamling af kommunikation, der involverer amerikanske personer.
Kritikere hævder, at denne tilfældige indsamling kan føre til, at der indsamles store mængder data om amerikanske borgere uden en dommerkendelse.
Nakasone sagde: "Vi havde også brug for en fornuftig måde at arbejde med amerikanske teknologivirksomheder på, hvis tjenester i stigende grad blev udnyttet af terrorister og andre fjendtlige aktører i udlandet til at lægge planer mod os. Det sørgede Kongressen for i 2008 med oprettelsen af Section 702."
Og nu sidder han i bestyrelsen for en af disse virksomheder.
I 2023 udstedte Nakasone et direktiv til NSA's afdeling for signalefterretning, eller SIGINT, som er ansvarlig for hemmelig overvågning og dataindsamling i hele verden.
Direktivet sagde, at alle mennesker skal behandles med "værdighed og respekt", men fortsatte derefter med at skitsere, hvordan man kan udspionere dem.
Direktivet sagde, at "NSA kun bør foretage masseindsamling, når det er fastslået, at det er nødvendigt at foretage masseindsamling for at fremme en valideret efterretningsprioritet."
Da direktivet blev offentliggjort, sagde Evan Greer, direktør for den digitale rettighedsgruppe Fight for the Future, fortalte The Intercept"Det svarer til, at CIA udsendte en erklæring om, at de fremover kun vil waterboarde folk med værdighed og respekt. Masseovervågning er grundlæggende uforenelig med grundlæggende menneskerettigheder og demokrati."
OpenAI vil utvivlsomt drage fordel af Nakasones erfaring med at holde sine servere og vægte sikre mod nysgerrige blikke.
Men man må undre sig over, hvilken indflydelse dette træk kan have på ChatGPT-brugere, hvis en af Nakasones tidligere NSA-kolleger beder om en tjeneste.
