Meta ha annunciato l'intenzione di popolare Facebook e Instagram con profili e contenuti generati dall'intelligenza artificiale.
Connor Hayes, vicepresidente di Meta per l'IA generativa, ha illustrato la visione dell'azienda: "Ci aspettiamo che queste IA esistano effettivamente, nel tempo, sulle nostre piattaforme, un po' come fanno i conti".
Hayes ha aggiunto che queste entità AI avranno "biografie e immagini di profilo e saranno in grado di generare e condividere contenuti alimentati dall'AI sulla piattaforma".
Meta ha già visto centinaia di migliaia di personaggi AI creati attraverso i suoi strumenti dal lancio negli Stati Uniti a luglio, anche se la maggior parte degli utenti non ha reso pubbliche le proprie creazioni.
Hayes osserva che rendere le app di Meta "più divertenti e coinvolgenti" è una "priorità" per i prossimi due anni, con particolare attenzione a rendere più sociali le interazioni con l'IA.
I piani più ampi di Meta in materia di intelligenza artificiale sono ambiziosi. L'azienda sta sviluppando strumenti per aiutare gli utenti a creare assistenti AI in grado di rispondere alle domande dei follower. Per il 2025, ha in programma di rilasciare un software per la generazione di testi e video che consenta ai creatori di inserirsi nei video generati dall'IA.
Mark Zuckerberg ha anche recentemente rivelato avatar AI in grado di condurre videochiamate in diretta imitando perfettamente la persona di un creatore, dal modo di parlare alle espressioni facciali.
Questo fa parte di una più ampia spinta del settore verso i contenuti generati dall'intelligenza artificiale. Snapchat ha rilasciato degli strumenti che permettono ai creatori di progettare Personaggi AI 3D per la realtà aumentata, registrando un aumento annuale di 50% di utenti che visualizzano contenuti generati dall'intelligenza artificiale.
Nel frattempo, ByteDance, di sua proprietà TikTok sta pilotando "Symphony". una serie di strumenti e applicazioni che consente a marchi e creatori di utilizzare l'intelligenza artificiale per scopi pubblicitari, come la creazione di avatar generati dall'intelligenza artificiale e l'automazione della traduzione dei contenuti.
I bot AI sui social media: Le implicazioni
Gli esperti del settore lanciano un allarme sulle implicazioni psicologiche e sociali dell'integrazione dei social media con i bot AI.
Becky Owen, global chief marketing and innovation officer di Billion Dollar Boy ed ex responsabile del team creator innovations di Meta, avverte che "senza solide tutele, le piattaforme rischiano di amplificare false narrazioni attraverso questi account guidati dall'AI".
Sottolinea: "A differenza dei creatori umani, questi personaggi dell'IA non hanno esperienze vissute, emozioni o la stessa capacità di relazionarsi".
Owen avverte inoltre che i personaggi dell'IA potrebbero inondare le piattaforme di materiale di bassa qualità che compromette i creatori ed erode la fiducia degli utenti.
Ciò assume un peso maggiore se si considera la storia di Meta in materia di manipolazione dei dati, in particolare per quanto riguarda la Scandalo Cambridge Analyticain cui i dati degli utenti sono stati sfruttati per influenzare le opinioni politiche.
Piuttosto che limitarsi a raccogliere i dati degli utenti per indirizzare i contenuti, le entità AI potrebbero impegnarsi attivamente con gli utenti, dare forma alle conversazioni e influenzare le opinioni in tempo reale, il tutto apparendo come autentici partecipanti umani al discorso online.
Meta sostiene di aver implementato misure di protezione, tra cui l'etichettatura obbligatoria dei contenuti generati dall'intelligenza artificiale, ma i critici sostengono che ciò potrebbe non essere sufficiente a prevenire l'erosione dell'autentica connessione umana.
I bot minacciano di conquistare parti di Internet
Secondo ricerca di ImpervaQuasi la metà di tutto il traffico internet - 49,6% - proviene oggi da fonti non umane.
I bot cattivi rappresentano già il 32% del traffico web, dando credito a quella che un tempo era stata liquidata come una teoria della cospirazione: il concetto di "internet morta", in cui le voci umane vengono sempre più spesso soffocate da quelle artificiali.
A un livello più profondo, questo segna un'ulteriore progressione verso un ecosistema internet plasmato da sistemi di intelligenza artificiale.
Le implicazioni filosofiche sono vertiginose. Stiamo andando verso un mondo in cui le nostre cerchie sociali online potrebbero includere entità che pensano e rispondono a velocità sovrumane, ma che non hanno una vera coscienza o esperienza emotiva.
I profili AI condivideranno "ricordi" che non hanno mai avuto, esprimeranno "sentimenti" che non possono provare e creeranno "connessioni" senza alcuna capacità di vera empatia o comprensione.
Ironia della sorte, i social media, originariamente creati per aiutare gli esseri umani a connettersi più facilmente attraverso grandi distanze, potrebbero diventare uno spazio in cui la connessione umana è sempre più mediata e diluita da entità artificiali.
La domanda non è semplicemente se l'IA sia in grado di imitare in modo convincente l'interazione umana, ma se siamo pronti per un mondo in cui le entità digitali diventano partecipanti alla pari nei nostri spazi sociali online.
