I ricercatori hanno scoperto che le persone sono generalmente incapaci di identificare i volti reali e quelli generati dall'intelligenza artificiale. I volti iperrealistici dell'IA vengono giudicati più spesso come reali rispetto ai volti umani veri e propri.
Lo studioIl progetto, condotto dall'Australian National University, prevedeva esperimenti per verificare se le persone fossero in grado di distinguere tra i volti umani e quelli generati dall'IA e quali caratteristiche portassero alle scelte fatte dalle persone.
Studi precedenti hanno dimostrato che i partecipanti erano in grado di individuare un volto AI non bianco in circa 50% delle volte. In questo studio più recente, a un gruppo di 124 adulti è stato mostrato un mix di 100 volti IA e 100 volti bianchi reali, chiedendo loro di identificare se fossero reali o meno.
Il Volti generati dall'intelligenza artificiale sono stati erroneamente identificati come umani il 65,9% delle volte, mentre i volti umani sono stati giudicati tali solo il 51,1% delle volte.
La co-autrice, la dottoressa Eva Krumhuber, ha dichiarato: "L'intelligenza artificiale ha raggiunto un livello di realismo sorprendente, e qui scopriamo che a volte può persino sembrare più reale della realtà - iperrealismo - così che possiamo essere facilmente ingannati nel pensare che un volto generato dall'IA sia reale".
Ai partecipanti è stato anche chiesto quanto fossero sicuri della loro valutazione. In un classico esempio di effetto Dunning-Kruger, i partecipanti che hanno commesso il maggior numero di errori erano i più sicuri di esprimere giudizi corretti.
Elizabeth Miller, coautrice dello studio e dottoranda presso l'Australian National University, ha dichiarato: "È preoccupante che le persone che pensavano che i volti dell'IA fossero reali il più delle volte erano paradossalmente le più sicure che i loro giudizi fossero corretti".
Come ve la sareste cavata nel test? Quali di questi sono reali e quali generati dall'intelligenza artificiale? Vi faremo sapere come ve la siete cavata più in basso.
I ricercatori hanno concluso che i volti generati dall'intelligenza artificiale non sono solo indistinguibili da quelli umani, ma presentano caratteristiche che ce li fanno sembrare ancora più reali. Hanno definito questa caratteristica dei volti AI iperrealismo.
I ricercatori hanno utilizzato StyleGAN2, una rete generativa avversaria (GAN), per generare i volti dell'intelligenza artificiale. StyleGAN2 è stato addestrato su un ampio set di volti umani, con circa 69% di bianchi e 31% di tutte le altre razze messe insieme.
I ricercatori hanno concluso che la sovrarappresentazione dei volti bianchi ha permesso al modello di generare volti che rappresentavano la media di tutte quelle caratteristiche in un modo che li faceva sembrare più umani dell'uomo.
Il documento conclude che questa distorsione nei set di dati di addestramento solleva questioni importanti. "Se i volti dell'intelligenza artificiale appaiono più realistici per i volti bianchi rispetto a quelli di altri gruppi, il loro utilizzo confonderà la percezione della razza con la percezione dell'essere 'umani'", si legge.
Se l'idea che un modello di IA ha di un volto umano è una media innaturale di tratti facciali bianchi, come farebbe a distinguere tra un vero umano di etnia diversa e un falso IA, se gli venisse chiesto di farlo?
L'autrice senior, la dottoressa Amy Dawel, ha dichiarato: "Se i volti bianchi dell'intelligenza artificiale vengono costantemente percepiti come più realistici, questa tecnologia potrebbe avere serie implicazioni per le persone di colore, rafforzando in ultima analisi i pregiudizi razziali online".
Quali sono le caratteristiche che hanno portato agli errori?
Ci devono essere alcune caratteristiche specifiche di un volto AI che ci fanno pensare che sia più umano di un vero volto umano. Nel secondo esperimento, a 610 partecipanti è stato chiesto di valutare i volti umani e quelli dell'intelligenza artificiale su una serie di 14 attributi, tra cui caratteristiche come l'attrattiva, il contatto visivo e l'espressività.
Combinando questi dati con quelli del primo esperimento, i ricercatori hanno potuto individuare quali sono gli elementi che rendono le persone più propense a identificare un volto come generato dall'IA o reale.
Hanno scoperto che l'iperrealismo dei volti dell'IA può essere attribuito al fatto che sono "significativamente più medi (meno distintivi), familiari e attraenti, e meno memorabili dei volti umani".
Il fatto che siamo così rapidi ad accettare che un volto AI sia reale dimostra quanto sia importante disporre di strumenti di rilevamento dei falsi AI.
I ricercatori hanno preso i dati relativi agli attributi percepiti dall'uomo e al modo in cui sono stati utilizzati correttamente e scorrettamente nell'identificare i volti dell'IA e hanno creato un modello di apprendimento automatico per individuare i volti dell'IA. Il modello è stato in grado di classificare accuratamente il tipo di volto con una precisione di 94%.
È improbabile che si possa sottoporre un volto al controllo di un'intelligenza artificiale ogni volta che se ne vede uno online. E i generatori di volti miglioreranno sempre di più nel battere i rilevatori di falsi.
Il Dr. Dawel ha riassunto la nostra migliore opzione di fronte a questa situazione: "Educare le persone sul realismo percepito dei volti dell'intelligenza artificiale potrebbe contribuire a rendere il pubblico adeguatamente scettico nei confronti delle immagini che vede online".
Se ci ricordiamo che siamo pessimi nell'individuare i falsi, forse saremo meno propensi a farci ingannare.
