Meta har kunngjort planer om å fylle Facebook og Instagram med AI-genererte profiler og innhold.
Connor Hayes, Metas visepresident for produkt for generativ AI, skisserte selskapets visjon: "Vi forventer at disse AI-ene over tid faktisk vil eksistere på plattformene våre, på samme måte som kontoer gjør."
Hayes la til at disse AI-enhetene vil ha "biografier og profilbilder og være i stand til å generere og dele innhold drevet av AI på plattformen".
Meta har allerede sett hundretusener av AI-figurer opprettet gjennom verktøyene sine siden lanseringen i USA i juli, selv om de aller fleste brukerne ikke har offentliggjort kreasjonene sine.
Hayes bemerker at det å gjøre Metas apper "mer underholdende og engasjerende" er en "prioritet" de neste to årene, med særlig fokus på å gjøre AI-interaksjoner mer sosiale.
Metas bredere AI-planer er ambisiøse. Selskapet utvikler verktøy for å hjelpe brukere med å lage AI-assistenter som kan svare på spørsmål fra følgere. I 2025 planlegger de å lansere programvare for tekst-til-video-generering som gjør det mulig for skaperne å sette seg selv inn i AI-genererte videoer.
Mark Zuckerberg avslørte også nylig AI-avatarer som er i stand til å gjennomføre direktesendte videosamtaler mens de etterligner en skapers personlighet perfekt, fra talemønster til ansiktsuttrykk.
Dette er en del av en bredere satsing på AI-generert innhold i bransjen. Snapchat lanserte verktøy som gjør det mulig for skapere å designe 3D AI-figurer for utvidet virkelighet, og rapporterer om en årlig økning på 50% i antall brukere som ser på AI-generert innhold.
I mellomtiden har ByteDance-eide TikTok er pilot for "Symphony". en serie verktøy og applikasjoner som gjør det mulig for varemerker og kreatører å bruke AI i reklameøyemed, for eksempel til å lage AI-genererte avatarer og automatisere oversettelse av innhold.
AI-roboter på sosiale medier: Konsekvensene av dette
Bransjeeksperter slår alarm om de psykologiske og sosiale konsekvensene av å bygge inn AI-roboter i sosiale medier.
Becky Owen, global markedsførings- og innovasjonssjef i Billion Dollar Boy og tidligere leder for Metas innovasjonsavdeling, advarer om at "uten robuste sikkerhetstiltak risikerer plattformene å forsterke falske narrativer gjennom disse AI-drevne kontoene".
Hun understreker: "I motsetning til menneskelige skapere har ikke disse AI-personaene levde erfaringer, følelser eller den samme evnen til å relatere seg til andre."
Owen advarer videre om at AI-tegn kan oversvømme plattformene med materiale av lav kvalitet, noe som undergraver skaperne og svekker brukernes tillit.
Dette blir ekstra viktig med tanke på Metas historie med datamanipulasjon - spesielt den Cambridge Analytica-skandalenhvor brukerdata ble utnyttet for å påvirke politiske meninger.
I stedet for bare å samle inn brukerdata for å målrette innhold, kan AI-enheter aktivt engasjere seg med brukerne, forme samtaler og påvirke meninger i sanntid, samtidig som de fremstår som autentiske menneskelige deltakere i nettdiskursen.
Meta hevder at de iverksetter beskyttende tiltak, blant annet obligatorisk merking av AI-generert innhold, men kritikere hevder at dette kanskje ikke er tilstrekkelig for å forhindre at den autentiske menneskelige kontakten svekkes.
Bots truer med å ta over deler av internett
Ifølge forskning fra ImpervaI dag stammer nesten halvparten av all internettrafikk - 49,6% - fra andre kilder enn mennesker.
Onde roboter står allerede for 32% av nettrafikken, noe som gir troverdighet til det som en gang ble avfeid som en konspirasjonsteori: konseptet om et "dødt internett" der menneskelige stemmer i stadig større grad overdøves av kunstige stemmer.
På et dypere plan signaliserer dette enda en utvikling mot et internett-økosystem formet av AI-systemer.
De filosofiske implikasjonene er svimlende. Vi beveger oss mot en verden der våre sosiale sirkler på nettet kan inkludere enheter som tenker og reagerer i overmenneskelige hastigheter, men som mangler ekte bevissthet eller følelsesmessig erfaring.
AI-profiler vil dele "minner" de aldri har hatt, uttrykke "følelser" de ikke kan føle, og skape "forbindelser" uten evne til ekte empati eller forståelse.
Ironisk nok kan sosiale medier, som opprinnelig ble skapt for å gjøre det lettere for mennesker å komme i kontakt med hverandre på tvers av store avstander, bli et sted der menneskelig kontakt i økende grad formidles og utvannes av kunstige enheter.
Spørsmålet er ikke bare om AI kan etterligne menneskelig interaksjon på en overbevisende måte, men om vi er forberedt på en verden der digitale enheter blir likeverdige deltakere i våre sosiale rom på nettet.
