OpenAI esita a rilasciare un rilevatore di testo ChatGPT accurato.
OpenAI afferma di aver sviluppato un metodo di watermarking che rileva con precisione il testo scritto da ChatGPT, ma sta ancora discutendo se rilasciarlo o meno.
Rilevare il testo generato dall'intelligenza artificiale è diventato sempre più difficile man mano che gli studenti di LLM diventano più bravi a scrivere i contenuti. Gli educatori devono affrontare una battaglia difficile per determinare se i loro studenti hanno completato i compiti da soli o se li hanno semplicemente fatti scrivere da ChatGPT.
In un post aggiornato sul blogOpenAI ha rivelato di aver "sviluppato un metodo di watermarking del testo che continuiamo a considerare nella ricerca di alternative".
L'azienda afferma che il metodo è altamente accurato e resistente a manomissioni localizzate come la parafrasi. Ammette però che non è infallibile. L'esecuzione del testo attraverso un sistema di traduzione o l'utilizzo di un altro LLM per riformulare il testo aggira l'efficacia del watermark.
Se si utilizza un modello AI per inserire un carattere speciale come un emoji tra ogni parola e poi si elimina il carattere, anche il watermark diventa inutile. Tuttavia, queste limitazioni tecniche non sono l'unico motivo per cui l'azienda non ha rilasciato la funzione.
ChatGPT è stato uno strumento di scrittura particolarmente utile per i non madrelingua inglesi. OpenAI afferma che la sua ricerca dimostra che il rilascio dello strumento di watermarking potrebbe avere un impatto sproporzionato su gruppi come questi e stigmatizzare il loro uso dell'IA come utile strumento di scrittura.
Alternative di metadati di testo
Gli ingegneri di OpenAI stanno lavorando su come utilizzare i metadati come metodo di provenienza del testo al posto del watermarking. Le immagini generate da DALL-E 3 hanno già C2PA metadati.
OpenAI afferma che è troppo presto per dire quanto sia efficace l'aggiunta di metadati al testo generato dall'intelligenza artificiale, ma presenta alcuni potenziali vantaggi. Ad esempio, i metadati sono firmati crittograficamente, quindi non c'è il rischio di falsi positivi.
Il problema dell'uso dei metadati è che possono essere facilmente rimossi. OpenAI non ha spiegato come i metadati verrebbero applicati al testo, ma rimuovere i metadati C2PA dalle immagini generate dall'intelligenza artificiale è estremamente semplice.
Alcune piattaforme di social media eliminano i metadati quando vengono caricate le immagini e basta fare uno screenshot dell'immagine per aggirare il C2PA. Simili soluzioni saranno efficaci con il testo generato dall'intelligenza artificiale con metadati aggiunti?
Se ChatGPT generasse del testo e vi aggiungesse dei metadati, potreste fare uno screenshot del testo, caricarlo su ChatGPT e fargli convertire l'immagine in testo. Addio metadati.
Un male per gli affari
L'altro motivo per cui OpenAI potrebbe esitare a rilasciare lo strumento è che rileva solo il testo generato da ChatGPT. Se gli utenti sanno che i loro contenuti generati dall'AI saranno facilmente individuati, passeranno rapidamente da ChatGPT a un'altra piattaforma.
Il Wall Street Journal segnalato che lo strumento di OpenAI era pronto per essere rilasciato da un anno ed era 99% efficace. Il rapporto dice: "Nel tentativo di decidere cosa fare, i dipendenti di OpenAI hanno vacillato tra l'impegno dichiarato della startup per la trasparenza e il loro desiderio di attrarre e mantenere gli utenti".
Un sondaggio globale commissionato da OpenAI ha mostrato che l'idea di uno strumento di rilevamento dell'intelligenza artificiale era sostenuta con un margine di 4 a 1. Tuttavia, un sondaggio interno ha rilevato che quasi un terzo degli utenti di ChatGPT sarebbe scoraggiato da un rilevatore di testi con intelligenza artificiale.
Gli utenti vogliono che i contenuti generati dall'intelligenza artificiale siano facili da individuare, a patto che non si tratti di contenuti generati da loro stessi.
