Le recensioni false sono onnipresenti e inevitabili, ma non sono mai state così difficili da identificare.
Secondo alcune stime, 40% delle recensioni su Amazon sono falsema questo si estende anche a siti come Trustpilot, Tripadvisor e Google Reviews.
In aprile, La CNBC ha riportato che alcune recensioni di Amazon rivelano la loro origine iniziando il loro testo con "Come modello linguistico dell'IA...". Tuttavia, per la maggior parte, le recensioni false generate dall'IA sono difficili da identificare a occhio nudo.
Nel tentativo di reprimere le recensioni fraudolente, la Federal Trade Commission (FTC) ha recentemente discusso la definizione di regole per il divieto di recensioni false e a pagamento, con sanzioni severe per chiunque le violi.
Michael Atleson, avvocato presso la Division of Advertising Practices della FTC, ha dichiarato: "Non sappiamo - e non abbiamo modo di saperlo - in che misura i malintenzionati stiano effettivamente utilizzando questi strumenti e quanto possano essere generati da bot rispetto a quelli generati dall'uomo".
Tuttavia, ciò si basa sulla capacità di distinguere le recensioni false da quelle vere, cosa estremamente difficile ora che l'intelligenza artificiale è linguisticamente precisa e competente in una moltitudine di argomenti.
L'intelligenza artificiale sta aumentando le recensioni false
Secondo l'amministratore delegato Saoud Khalifah, Fakespot, una startup che utilizza l'intelligenza artificiale per individuare le recensioni fraudolente, ha registrato un aumento delle recensioni false generate dall'intelligenza artificiale. L'azienda sta investendo in tecniche volte a identificare le recensioni create da sistemi di intelligenza artificiale, come ChatGPT.
"La cosa molto diversa oggi è che le modelle hanno una conoscenza tale da poter scrivere di tutto", ha dichiarato Khalifah.
Un'altra questione è: chi può dire che qualcuno non stia usando l'IA per aiutarlo a scrivere una recensione autentica?
Le recensioni generate dall'intelligenza artificiale non sono strettamente contrarie alle politiche di Amazon. Secondo un portavoce dell'aziendaL'azienda consente ai clienti di pubblicare recensioni create dall'intelligenza artificiale, purché siano autentiche e rispettino le linee guida.
La domanda chiave è se l'intelligenza artificiale incaricata di rilevare le recensioni false sia in grado di superare in astuzia l'intelligenza artificiale che le genera. Saoud Khalifah di Fakespot ha notato che le prime recensioni false generate dall'IA individuate dalla sua azienda provenivano dall'India ed erano state create da "farm di recensioni false".
"È sicuramente un test difficile da superare per questi strumenti di rilevamento", ha dichiarato Bhuwan Dhingra, assistente alla cattedra di informatica della Duke University. "Perché se i modelli corrispondono esattamente al modo in cui gli esseri umani scrivono qualcosa, allora non si può davvero distinguere tra i due".
Ben Zhao, professore di informatica all'Università di Chicago, ha sostenuto che è "quasi impossibile" per l'IA catturare efficacemente le recensioni generate dall'IA.
"È una continua caccia al gatto e al topo, ma alla fine non c'è nulla di fondamentale che distingua un contenuto creato dall'IA", ha affermato.
Per ora, le recensioni false rimarranno parte dell'arredamento di Internet e probabilmente diventeranno sempre più difficili da distinguere da quelle vere, sia per gli esseri umani che per i sistemi avanzati di intelligenza artificiale incaricati di identificarle.
"È terrificante per i consumatori", ha dichiarato Teresa Murray, direttore dell'ufficio di vigilanza sui consumatori del Public Interest Research Group statunitense.
"L'intelligenza artificiale sta già aiutando le aziende disoneste a sputare migliaia di recensioni reali con un tono colloquiale nel giro di pochi secondi".
Sono finiti i giorni delle recensioni false scritte male. - preparatevi a recensioni dell'IA scritte con precisione che non potrete distinguere da quelle reali.
