OpenAI har utnevnt tidligere NSA-sjef og pensjonert general Paul Nakasone til styremedlem. Nakasones syn på etterretningsinnsamling har vekket bekymring hos forkjemperne for borgerrettigheter.
OpenAI har blitt sterkt kritisert for sin tilnærming til AI-sikkerhet i kjølvannet av kollaps av superalignment-teamet og utvandring av sikkerhetseksperter.
Det har siden etablert sin egen Sikkerhets- og sikringskomiteen, som vil dra nytte av Nakasones betydelige ekspertise i arbeidet med å bruke kunstig intelligens til å bekjempe nettkriminalitet.
Bret Taylor, styreleder i OpenAI, sier: "Kunstig intelligens har potensial til å ha en enorm positiv innvirkning på menneskers liv, men dette potensialet kan bare innfris hvis disse innovasjonene bygges og tas i bruk på en sikker måte. General Nakasones enestående erfaring på områder som cybersikkerhet vil bidra til å veilede OpenAI i arbeidet med å oppnå målet om å sikre at kunstig intelligens kommer hele menneskeheten til gode."
Bekymringer knyttet til personvern
Nakasone har upåklagelige meritter, men hans syn på etterretningsinnhenting blir satt under ekstra lupen i hans nye stilling.
Mens han var direktør for NSA, skrev han en kronikk i Washington Post der han støttet fornyelsen av paragraf 702 i Foreign Intelligence Surveillance Act.
Paragraf 702 fastsetter rammene for innsamling av etterretning om personer utenfor USA, samtidig som personvernet til amerikanske borgere beskyttes.
Selv om Section 702 er rettet mot ikke-amerikanske personer utenfor USA, fører den ofte til tilfeldig innsamling av kommunikasjon som involverer amerikanske personer.
Kritikerne hevder at denne tilfeldige innsamlingen kan føre til at store mengder data om amerikanske borgere samles inn uten fullmakt.
Nakasone sa: "Vi trengte også en fornuftig måte å samarbeide med amerikanske teknologiselskaper på, hvis tjenester i økende grad ble utnyttet av terrorister og andre fiendtlige aktører i utlandet for å konspirere mot oss. Kongressen sørget for nettopp dette i 2008 med opprettelsen av Section 702."
Og nå sitter han i styret i et av disse selskapene.
I 2023 utstedte Nakasone et direktiv til NSAs avdeling for signaletterretning, eller SIGINT, som er ansvarlig for hemmelig overvåking og datainnsamling over hele verden.
Direktivet sa at alle mennesker skal behandles med "verdighet og respekt", men fortsatte deretter med å skissere hvordan de skal spioneres på.
I direktivet heter det at "NSA skal kun engasjere seg i masseinnsamling når det er fastslått at det er nødvendig å engasjere seg i masseinnsamling for å fremme en validert etterretningsprioritet".
Da direktivet ble offentliggjort, reagerte Evan Greer, direktør for den digitale rettighetsorganisasjonen Fight for the Future, fortalte The Intercept"Dette er som om CIA skulle gå ut med en erklæring om at de i fremtiden bare vil vanntorturere folk med verdighet og respekt. Masseovervåking er grunnleggende uforenlig med grunnleggende menneskerettigheter og demokrati."
OpenAI vil utvilsomt dra nytte av Nakasones erfaring med å beskytte serverne og vektene mot nysgjerrige blikk.
Men man kan jo lure på hvilken innvirkning dette trekket kan ha på ChatGPT-brukere hvis en av Nakasones tidligere NSA-kolleger ber om en tjeneste.
