AI-säkerhetsaktivistgruppen PauseAI samordnade globala protester för att uppmana till en paus i utvecklingen av AI-modeller som är kraftfullare än GPT-4.
På måndagen samlades demonstranter i 14 städer runt om i världen, bland annat New York, London, Sydney och Sao Paulo, för att öka medvetenheten om potentiella risker med AI.
Det uttalade målet med protesten enligt PauseAI:s webbplats är att "övertyga de få mäktiga personer (ministrar) som kommer att besöka nästa AI Safety Summit (den 22 maj) om att vara de vuxna i rummet. Det är upp till oss att få dem att förstå att riskerna är för stora för att ignoreras, att de är de enda som har makten att åtgärda problemet."
Nu händer det. Vår andra internationella protest.https://t.co/FlF1y5jpO2 pic.twitter.com/RmOcRtbKiC
- PauseAI ⏸ (@PauseAI) 12 maj 2024
AI Seoul Summit, som äger rum den 21-22 maj, är en 6-månadersuppföljning av Toppmöte om AI-säkerhet i Storbritannien som hölls i november förra året. Den ursprungliga entusiasmen för internationellt samarbete om AI-säkerhet verkar ha avtagit, med flera deltagare drar sig ur det kommande toppmötet.
PauseAI är pragmatiskt och konstaterar att "vi inte kan förvänta oss att länder eller företag ska riskera sina konkurrensfördelar genom att pausa AI-träningskörningar under lång tid om inte andra länder eller företag gör detsamma. Det är därför vi behöver en global paus."
De vill att det främsta målet för det kommande toppmötet ska vara inrättandet av en internationell byrå för AI-säkerhet, liknande IAEA. Ironiskt nog är detta något som OpenAI VD OCH KONCERNCHEF Sam Altman föreslog också.
PauseAI:s protester med krav på stopp för mer avancerade modeller ägde rum samma dag som OpenAI frisläppt GPT-4o, den snabbare och kraftfullare iterationen av GPT-4-modellen.
Medan AI-fansen förundrades över GPT-4o:s nya möjligheter var PauseAI-demonstranterna mindre entusiastiska över den exponentiella tillväxten av nya AI-modeller.
Kommer sittstrejker, plakat och flygbladsutdelningar att räcka för att förmå världens ledare att vidta de meningsfulla åtgärder som PauseAI menar att mänskligheten behöver? Kan AI-utvecklingens obevekliga marsch stoppas tillräckligt länge för att säkerställa att AI-säkerhetsräcken finns på plats?
PauseAI tror att det är möjligt. I ett inlägg på X sa gruppen: "AGI är inte oundvikligt. Det kräver horder av ingenjörer med miljonlöner. Det kräver en fullt fungerande och obegränsad leveranskedja av den mest komplexa hårdvaran. Det kräver att vi alla tillåter dessa företag att spela med vår framtid."
Protester har varit effektiva för att få till stånd åtgärder mot GMO-livsmedel, kärnvapen och klimatförändringar. Men de inneboende farorna med dessa frågor är mer allmänt accepterade av världens ledare.
Argumenten om framtida säkerhetsproblem med AI måste konkurrera med den växande entusiasmen över de konkreta fördelar med AI som mänskligheten upplever just nu.
Kommer PauseAI:s demonstranter att uppnå sitt mål och förtjäna mänsklighetens tacksamhet? Kommer deras farhågor i slutändan att visa sig vara obefogade? Eller kommer de att vara de som till slut säger "Vad var det vi sa?"
