Meta har annonceret planer om at fylde Facebook og Instagram med AI-genererede profiler og indhold.
Connor Hayes, Metas vicepræsident for produkter inden for generativ AI, skitserede virksomhedens vision: "Vi forventer, at disse AI'er med tiden faktisk vil eksistere på vores platforme, lidt på samme måde som konti gør."
Hayes tilføjede, at disse AI-enheder vil have "biografier og profilbilleder og være i stand til at generere og dele indhold drevet af AI på platformen."
Meta har allerede set hundredtusindvis af AI-figurer skabt gennem sine værktøjer siden lanceringen i USA i juli, selvom langt de fleste brugere ikke har offentliggjort deres kreationer.
Hayes bemærker, at det at gøre Metas apps "mere underholdende og engagerende" er en "prioritet" for de næste to år, med særligt fokus på at gøre AI-interaktioner mere sociale.
Metas bredere AI-planer er ambitiøse. Virksomheden er ved at udvikle værktøjer til at hjælpe brugerne med at skabe AI-assistenter, der kan svare på følgernes spørgsmål. I 2025 planlægger de at frigive software til generering af tekst til video, så skaberne kan indsætte sig selv i AI-genererede videoer.
Mark Zuckerberg afslørede også for nylig AI-avatarer, der er i stand til at gennemføre live videoopkald, mens de perfekt efterligner en skabers persona, fra deres talemønstre til deres ansigtsudtryk.
Dette er en del af et bredere industrielt skub i retning af AI-genereret indhold. Snapchat udgav værktøjer, der gør det muligt for skabere at designe 3D AI-figurer til augmented reality-formål og rapporterer en årlig stigning på 50% i antallet af brugere, der ser AI-genereret indhold.
I mellemtiden har ByteDance-ejede TikTok er pilot på "Symphony". en række værktøjer og applikationer, der gør det muligt for brands og skabere at bruge AI til reklameformål, som f.eks. at skabe AI-genererede avatarer og automatisere oversættelse af indhold.
AI-bots på sociale medier: Implikationerne
Brancheeksperter slår alarm om de psykologiske og sociale konsekvenser af at integrere sociale medier med AI-bots.
Becky Owen, global chief marketing and innovation officer hos Billion Dollar Boy og tidligere leder af Meta's creator innovations team, advarer om, at "uden robuste sikkerhedsforanstaltninger risikerer platforme at forstærke falske fortællinger gennem disse AI-drevne konti."
Hun understreger: "I modsætning til menneskelige skabere har disse AI-personaer ikke levede erfaringer, følelser eller den samme evne til at relatere."
Owen advarer desuden om, at AI-figurer kan oversvømme platforme med materiale af lav kvalitet, som underminerer skaberne og udhuler brugernes tillid.
Dette får ekstra vægt i betragtning af Metas historie med datamanipulation - især den Cambridge Analytica-skandalenhvor brugerdata blev udnyttet til at påvirke politiske holdninger.
I stedet for blot at høste brugerdata for at målrette indhold kan AI-enheder aktivt engagere sig i brugere, forme samtaler og påvirke meninger i realtid, alt imens de fremstår som autentiske menneskelige deltagere i online-diskursen.
Meta hævder at gennemføre beskyttelsesforanstaltninger, herunder obligatorisk mærkning af AI-genereret indhold, men kritikere hævder, at dette måske ikke er tilstrækkeligt til at forhindre erosion af autentisk menneskelig forbindelse.
Bots truer med at overtage dele af internettet
Ifølge forskning fra ImpervaI dag stammer næsten halvdelen af al internettrafik - 49,6% - fra ikke-menneskelige kilder.
Bad bots står allerede for 32% af webtrafikken, hvilket giver troværdighed til det, der engang blev afvist som en konspirationsteori: konceptet om et "dødt internet", hvor menneskelige stemmer i stigende grad overdøves af kunstige stemmer.
På et dybere plan signalerer dette endnu en udvikling i retning af et internetøkosystem formet af AI-systemer.
De filosofiske implikationer er svimlende. Vi bevæger os mod en verden, hvor vores online sociale cirkler kan omfatte enheder, der tænker og reagerer med overmenneskelige hastigheder, men som ikke har nogen ægte bevidsthed eller følelsesmæssig oplevelse.
AI-profiler vil dele "minder", som de aldrig har haft, udtrykke "følelser", som de ikke kan føle, og skabe "forbindelser" uden nogen form for ægte empati eller forståelse.
Ironisk nok kan de sociale medier, som oprindeligt blev skabt for at hjælpe mennesker med lettere at komme i kontakt med hinanden på tværs af store afstande, blive et sted, hvor menneskelig kontakt i stigende grad formidles og udvandes af kunstige enheder.
Spørgsmålet er ikke bare, om AI på overbevisende vis kan efterligne menneskelig interaktion, men om vi er forberedt på en verden, hvor digitale enheder bliver ligeværdige deltagere i vores online sociale rum.