Eric Schmidt, Googles VD från 2001 till 2011, ger ytterligare en orolig röst till debatten om AI:s påverkan.
Ännu en dag, ännu en röst som ger sig in i debatten om AI:s samhällseffekter. Den här gången är det Googles före detta VD Eric Schmidt på Wall Street Journals CEO Council Summit i London.
Schmidt sa att AI utgör en "existentiell risk". Han förtydligade sin tolkning av detta som "många, många, många, många, många människor skadas eller dödas".
Han gav åtminstone några detaljer om hur det skulle kunna ske: "Det finns scenarier, inte idag, men ganska snart, där dessa system kommer att kunna hitta nolldagarsutnyttjande i cyberfrågor eller upptäcka nya typer av biologi."
Zero-day exploits är programvarufel som utvecklare inte är medvetna om. Hackare kan använda AI för att testa svagheter i programvaran och ta sig in i nätverk, system och program innan ägarna hinner reagera.
En "AI-pakt" kan fylla i innan reglerna börjar gälla
Det var först i slutet av mars som 1.100 framstående teknik- och IT-ledare undertecknade ett öppet brev som förespråkar en 6-månaders paus i AI-utvecklingen. Undertecknare som representerade OpenAI och andra AI-företag lyste dock med sin frånvaro.
Även om regleringar som EU:s AI Act är på väg, talas det om att ingå informella avtal för att bromsa utvecklingen. Onder samma dag som Schmidt diskuterade AI träffade två EU-tjänstemän, Margrethe Vestager och Thierry Breton, Googles VD Sundar Pichai för att diskutera en potentiell AI-pakt.
Sundar och jag kom överens om att vi inte har råd att vänta tills AI-regleringen faktiskt blir tillämplig, och att arbeta tillsammans med alla AI-utvecklare för att redan nu utveckla en AI-pakt på frivillig basis före den lagstadgade tidsfristen", och Vestager sa att det inte fanns "någon tid att förlora".
Bra möte w. @sundarpichai. Vi behöver #AIAct så snart som möjligt. Men AI-tekniken utvecklas extremt snabbt. Därför behöver vi en frivillig överenskommelse om universella regler för #AI ...nu. Redan diskuterat på #G7 digital i Takakasi. Vi kommer att följa upp i #TTC nästa vecka. Ingen tid att förlora
- Margrethe Vestager (@vestager) 24 maj 2023
Schmidt om AI som ersätter jobb
Debatten på CEO Council Summit kom att handla om AI-relaterade förluster av arbetstillfällen.
"Här är fakta. Vi får inte tillräckligt många barn, och vi har inte fått tillräckligt många barn tillräckligt länge för att det ska uppstå en demografisk kris", sade han. Minskat barnafödande kan potentiellt leda till arbetskraftsbrist som AI kan avhjälpa.
Schmidt är inte den första teknikprofilen som uppmärksammar den potentiella demografiska kris som riskerar att uppstå på grund av sjunkande fertilitets- och födelsetal, särskilt i Europa, Japan och USA. År 2022 skrev Elon Musk kallas en underbefolkningskris "den absolut största faran som civilisationen står inför."
År 2022 kommer en MIT-studie Den åldrande befolkningen bidrog till ökad automatisering på grund av minskad arbetskraft i många sektorer, vilket visar på AI:s potential att fylla luckor på arbetsmarknaden.
Schmidt är möjligen något på spåren. I slutändan kan AI, snarare än att ersätta människor, lindra de ekonomiska effekterna av denna demografiska förändring.
Vad gäller det livshotande existentiella hotet? Det får vi vänta med att ta reda på.
