OpenAI har utsett den tidigare NSA-chefen och pensionerade generalen Paul Nakasone till styrelseledamot. Nakasones syn på underrättelseinhämtning har väckt oro hos förespråkare för medborgerliga fri- och rättigheter.
OpenAI har kritiserats hårt för sin inställning till AI-säkerhet i kölvattnet av kollaps av dess superalignment-team och utflyttning av säkerhetsexperter.
Bolaget har sedan dess etablerat sin Säkerhets- och skyddskommitténsom kommer att dra nytta av Nakasones betydande expertis i sina ansträngningar att använda AI för att bekämpa cyberbrottslighet.
Bret Taylor, ordförande för OpenAI: s styrelse, sa: "Artificiell intelligens har potential att ha enorma positiva effekter på människors liv, men den kan bara uppfylla denna potential om dessa innovationer byggs och distribueras på ett säkert sätt. General Nakasones oöverträffade erfarenhet inom områden som cybersäkerhet kommer att hjälpa OpenAI att uppnå sitt uppdrag att säkerställa att artificiell allmän intelligens gynnar hela mänskligheten."
Oro för den personliga integriteten
Nakasone har oklanderliga meriter, men hans åsikter om underrättelseinhämtning granskas extra noga i hans nya befattning.
När han var chef för NSA skrev han en debattartikel som publicerades i Washington Post där han stödde förnyelsen av avsnitt 702 i Foreign Intelligence Surveillance Act.
I avsnitt 702 fastställs parametrarna för att samla in underrättelser om personer utanför USA samtidigt som amerikanska medborgares integritet skyddas.
Även om Section 702 riktar sig mot icke-amerikanska personer utanför USA, leder den ofta till att kommunikation som rör amerikanska personer samlas in oavsiktligt.
Kritiker menar att denna tillfälliga insamling kan leda till att stora mängder uppgifter om amerikanska medborgare samlas in utan tillstånd.
Nakasone sade: "Vi behövde också ett förnuftigt sätt att arbeta med amerikanska teknikföretag vars tjänster i allt högre grad utnyttjades av terrorister och andra fientliga aktörer utomlands för att konspirera mot oss. Kongressen tillhandahöll just detta 2008 genom inrättandet av avsnitt 702."
Och nu sitter han i styrelsen för ett av dessa bolag.
År 2023 utfärdade Nakasone ett direktiv till NSA:s avdelning för signalspaning (SIGINT), som ansvarar för hemlig övervakning och datainsamling över hela världen.
Direktivet säger att alla människor ska behandlas med "värdighet och respekt", men fortsätter sedan med att beskriva hur man ska spionera på dem.
I direktivet står det att "NSA ska endast delta i massinsamling efter att ha fastställt att det är nödvändigt att delta i massinsamling för att främja en validerad underrättelseprioritering".
När direktivet offentliggjordes reagerade Evan Greer, chef för den digitala rättighetsgruppen Fight for the Future, berättade för The Intercept"Det här är som om CIA skulle gå ut med ett uttalande om att de i fortsättningen bara kommer att skendränka människor med värdighet och respekt. Massövervakning är i grunden oförenlig med grundläggande mänskliga rättigheter och demokrati."
OpenAI kommer utan tvekan att dra nytta av Nakasones erfarenhet av att hålla sina servrar och vikter säkra från nyfikna ögon.
Men du måste undra vilken inverkan detta drag kan ha på ChatGPT-användare om en av Nakasones tidigare NSA-kollegor kräver en tjänst.
