I ett tankeväckande anförande vid FN:s globala toppmöte "AI for Good" i Genève uttryckte den kände israeliske historikern och författaren Yuval Noah Harari sin oro över spridningen av "falska människor" i sociala medier...
Harari varnade för att skapandet och spridningen av dessa AI-botar, som utger sig för att vara riktiga människor för att skapa engagemang, om de inte kontrolleras kan leda till en kollaps i allmänhetens förtroende och äventyra demokratins grundvalar.
Som en motvikt föreslog Harari att vi inför stränga straffrättsliga påföljder för dem som skapar falska profiler, och betonade att situationen är akut och att forskning om AI-säkerhet måste prioriteras om vi ska kunna hålla den här tekniken under kontroll.
Den snabba uppkomsten av falska människor
Med framsteg inom AI-teknik, särskilt stora språkmodeller som ChatGPT, kan AI-botar inte bara förstärka mänskligt genererat innehåll utan också skapa sitt eget innehåll i stor skala.
I stor skala är nyckelordet här...
Föreställ dig en situation där sociala medieplattformar översvämmas av miljontals AI-botar - som alla kan producera innehåll som är överlägset den genomsnittliga människans.
Det här scenariot ser ut som om det vore hämtat direkt från Black Mirrors skrivrum, men det är onekligen ett troligt scenario i takt med att AI fortsätter att utvecklas.
Med miljontals AI-botar som postar tillsammans med riktiga människor skulle vi få en situation där "riktigt" och AI-baserat innehåll blir nästan omöjligt att skilja åt - vilket undergräver kulturen och den globala diskursen som helhet.
Denna förlust av kontroll över torget skulle också på sätt och vis ta bort själva kärnan i demokratin, demokratin för idéer och fritt tänkande.
Att värna demokratin + behovet av straffrättsliga konsekvenser:
Tillbaka till Harari, som gjorde en utmärkt poäng genom att dra en parallell till förfalskad valuta och hävdade att precis som regeringar har strikta regler för att skydda det finansiella systemet från falska pengar, bör liknande åtgärder genomföras för att skydda allmänhetens förtroende från falska människor.
Genom att ställa ansvariga individer till svars genom åtal kan vi förhindra att våra plattformar översvämmas av falska profiler.
Investera i AI-säkerhet + satsa på forskning
Harari betonade vikten av att göra betydande investeringar i AI-säkerhet. Han föreslog att företag enligt lag ska vara skyldiga att avsätta 20% av sina investeringsutgifter till att undersöka potentiella risker och utveckla strategier för att hantera dem på ett effektivt sätt.
Som ett erkännande av OpenAI, skaparen av ChatGPT, nämnde Harari deras åtagande att avsätta 20% av sin datorkraft till AI-säkerhet, genom att inrätta ett särskilt forskningsteam som syftar till att förstå och kontrollera AI och därmed förhindra att den blir oseriös.
Globalt samarbete
Harari fortsatte med att säga att en effektiv reglering av artificiell intelligens och datainsamling måste vara en världsomspännande insats. Han varnade för att utan internationellt samarbete riskerar världen att fragmenteras i sfärer av datainsamling som kontrolleras av ett fåtal utvalda nationer och företag.
För att förhindra en dystopisk framtid betonade Harari behovet av regler som prioriterar individuellt dataskydd, förhindrar manipulation av data, ökar tillsynen av både företag och regeringar och undviker att all data koncentreras till en enda enhet.
Slutsats - Bevara allmänhetens förtroende
Ökningen av AI-botar på sociala medier utgör ett betydande hot mot demokratiska samhällen, och Yuval Noah Harari har efterlyst straffrättsliga konsekvenser för de ansvariga samt ökade investeringar i AI-säkerhet.
Genom att införa stränga straff och omfattande regleringar kan samhällen skydda allmänhetens förtroende, bevara demokratiska värden och säkerställa att människor behåller kontrollen över det offentliga samtalet. Det är dags att agera nu för att säkra en säkrare och mer motståndskraftig framtid för vår ständigt föränderliga digitala värld.
