Volti rubati, vite rubate: la preoccupante tendenza dello sfruttamento tramite intelligenza artificiale
La maggior parte degli utenti dei social media si sarà imbattuta in un influencer che sembra un po'... strano.
Forse i loro tratti del viso sono un po' troppo simmetrici e le loro pose un po' troppo rigide. Con ogni probabilità, non state guardando un essere umano, ma un falso generato dall'intelligenza artificiale.
In alcuni casi, questi Influencer dell'IA sono ragionevolmente innocui: si tratta semplicemente di versioni digitali delle loro controparti reali, senza tentare apertamente di ingannare o manipolare.
Tuttavia, non è sempre così. È inquietante constatare che esiste una rete di account Instagram che utilizzano l'intelligenza artificiale per creare falsi influencer con sindrome di Down. L'obiettivo? Sfruttare una comunità vulnerabile per ottenere like, condivisioni e, in definitiva, denaro.
Ma l'inganno non finisce qui. Molti di questi account rimandano a siti web per adulti poco raccomandabili, dove i contenuti generati dall'intelligenza artificiale vengono monetizzati.
Visualizza questo post su Instagram
Purtroppo, questa è solo l'ultima evoluzione del fenomeno dello "sfruttamento tramite IA", in cui operatori senza scrupoli utilizzano l'apprendimento automatico per creare influencer falsi a scopo di lucro. Non si tratta solo di persone con sindrome di Down, ma anche di falsi modelli con amputazioni, vittime di ustioni e altre forme di pornografia generata dall'IA.
I modelli di immagini e video creati con l'intelligenza artificiale stanno raggiungendo un livello di realismo tale da renderli validi sostituti degli esseri umani. Questo sta avendo un impatto sull'industria della moda, dove le modelle reali rischiano di essere rimpiazzate dai cloni generati dall'IA.
Anche marchi noti come H&M si stanno avventurando in queste acque torbide. Il gigante del fast fashion recentemente ha annunciato una campagna caratterizzati da “gemelli digitali” generati dall’IA di modelli reali. Nel 2023, un’azienda chiamata lalaland.ai ha rilasciato strumenti per creazione di modelli di intelligenza artificiale per una quota di abbonamento.
Sebbene H&M insista sul fatto che le modelle mantengano il controllo sulla propria immagine digitale, molti nel settore sono scettici. Dopotutto, in un'epoca di riduzione dei costi e consolidamento, perché assumere talenti umani quando si può ottenere la licenza per un avatar digitale economico e infinitamente replicabile?
L'ultima, e più insidiosa, svolta riguarda la dignità e l'umanità fondamentali delle comunità emarginate.
Le persone con sindrome di Down – o con qualsiasi altra disabilità – non sono oggetti da manipolare a scopo di lucro.
Inoltre, la proliferazione di contenuti generati dall'intelligenza artificiale minaccia di erodere la fiducia del pubblico nei media in generale. Se non possiamo fidarci delle immagini che vediamo online, le fondamenta stesse del discorso digitale iniziano a vacillare.
Quindi, la prossima volta che scorri il tuo feed e un influencer ti sembra troppo bello per essere vero, fidati del tuo istinto.
