In een tot nadenken stemmende toespraak tijdens de wereldwijde VN-top "AI for Good" in Genève uitte de bekende Israëlische historicus en auteur Yuval Noah Harari zijn bezorgdheid over de verspreiding van "nepmensen" via sociale media...
Harari waarschuwde dat als er niets wordt gedaan, het creëren en verspreiden van deze AI-bots, die zich voordoen als echte mensen om betrokkenheid te kweken, kan leiden tot een ineenstorting van het vertrouwen van het publiek en de fundamenten van de democratie in gevaar kan brengen.
Als tegenwicht stelde Harari voor om strenge strafrechtelijke sancties in te voeren voor degenen die nepprofielen aanmaken. Hij benadrukte dat de situatie urgent is en dat onderzoek naar AI-veiligheid een prioriteit moet worden als we deze technologie onder controle willen houden.
De snelle opkomst van nepmensen
Dankzij de vooruitgang in AI-technologie, met name grote taalmodellen zoals ChatGPT, zijn AI-bots niet alleen in staat om door mensen gegenereerde content te versterken, maar ook om op grote schaal hun eigen content te creëren.
Op schaal is hier de sleutelzin...
Stel je een situatie voor waarin sociale mediaplatforms worden overspoeld met miljoenen AI-bots - die allemaal in staat zijn om content te produceren die superieur is aan die van de gemiddelde persoon.
Dit scenario lijkt zo uit de schrijfkamer van Black Mirror te komen, maar toch is het een ontegenzeggelijk waarschijnlijk scenario nu AI zich blijft ontwikkelen.
Met miljoenen AI-bots die naast echte mensen berichten plaatsen, zou er een situatie ontstaan waarin "echte" en op AI gebaseerde inhoud bijna niet meer van elkaar te onderscheiden is - waardoor de cultuur en het wereldwijde discours als geheel worden ondermijnd.
Dit verlies van controle over het stadsplein zou in zekere zin ook de essentie van democratie wegnemen, de democratie van ideeën en vrije gedachten.
Bescherming van de democratie + de noodzaak van strafrechtelijke gevolgen:
Terug naar Harari, hij maakte een uitstekend punt door een parallel te trekken met vals geld, door te stellen dat net zoals overheden strikte regels hebben om het financiële systeem te beschermen tegen vals geld, soortgelijke maatregelen zouden moeten worden geïmplementeerd om het vertrouwen van het publiek te beschermen tegen valse mensen.
Door verantwoordelijke personen strafrechtelijk aansprakelijk te stellen, kan worden voorkomen dat onze platforms worden overspoeld door nepprofielen.
Investeren in AI-veiligheid + toewijding aan onderzoek
Harari benadrukte het belang van aanzienlijke investeringen in AI-veiligheid. Hij stelde voor om bedrijven wettelijk te verplichten om 20% van hun investeringsuitgaven te besteden aan onderzoek naar potentiële risico's en het ontwikkelen van strategieën om deze effectief te beheren.
Harari erkende de inspanningen van OpenAI, de maker van ChatGPT, en noemde hun inzet om 20% van hun rekenkracht toe te wijzen aan AI-veiligheid, door een speciaal onderzoeksteam op te richten dat gericht is op het begrijpen en controleren van AI, om zo te voorkomen dat het kwaadwillig wordt.
Wereldwijde samenwerking
Harari vervolgde met te zeggen dat effectieve regulering van kunstmatige intelligentie en gegevensverzameling een wereldwijde inspanning moet zijn. Hij waarschuwde dat zonder internationale samenwerking de wereld gefragmenteerd dreigt te raken in gebieden van gegevensverzameling die gecontroleerd worden door een select aantal landen en bedrijven.
Om een dystopische toekomst te voorkomen, benadrukte Harari de noodzaak van regels die prioriteit geven aan de bescherming van individuele gegevens, die manipulatie van gegevens voorkomen, die het toezicht op zowel bedrijven als overheden vergroten en die de concentratie van alle gegevens in één entiteit voorkomen.
Conclusie - Het publieke vertrouwen behouden
De opkomst van AI-bots op sociale media vormt een grote bedreiging voor democratische samenlevingen en Yuval Noah Harari heeft opgeroepen tot strafrechtelijke gevolgen voor de verantwoordelijken en tot meer investeringen in AI-veiligheid.
Door strenge straffen op te leggen en uitgebreide regelgeving te implementeren, kunnen samenlevingen het vertrouwen van het publiek beschermen, democratische waarden behouden en ervoor zorgen dat mensen controle houden over de publieke conversatie. De tijd om te handelen is nu gekomen om een veiligere en meer veerkrachtige toekomst veilig te stellen voor onze steeds veranderende digitale wereld.
