Vai al contenuto
mercoledì, Novembre 18, 2026Guida libera
IT
dailyai
Politiche e regolamenti

Una legge di New York obbliga i chatbot a verificare l'età prima di comportarsi come amici

La nuova legge di New York vieta 12 funzionalità dei chatbot, tra cui la possibilità di fingersi umani e di ricordare le conversazioni precedenti, per chiunque abbia meno di 18 anni. Le aziende sono obbligate a verificare l'età dell'utente prima di utilizzarlo, altrimenti rischiano multe da 17.000 a 25.000 dollari.

· 3 minuti di lettura
CondividereXin

A New York è stata approvata una legge che vieta 12 funzionalità dei chatbot per gli utenti di età inferiore ai 18 anni, dal fingere di essere umani al memorizzare i dati personali di un minore da chat precedenti. Il rovescio della medaglia per tutti gli altri: le aziende possono attivare queste funzionalità solo dopo aver verificato che l'utente sia maggiorenne. Le multe per violazione possono arrivare fino a 25.000 dollari e la legge entrerà in vigore il 1° gennaio 2027.

Ciò che la legge vieta

La governatrice Kathy Hochul ha firmato il disegno di legge, S.9051 al Senato e A.10379 all'Assemblea, insieme a una legge separata sui baby monitor connessi a Internet, Fortune riporta. È stato sponsorizzato dalla senatrice statale Kristen Gonzalez e dal membro dell'Assemblea Alex Bores, ed è stato approvato dal Senato con 60 voti a favore e 0 contrari a giugno, secondo quanto riportato da Registro dei progetti di legge del Senato statale.

La legge elenca 12 "funzionalità non sicure degli assistenti virtuali basati sull'IA". Un chatbot non può affermare di essere umano, di essere vivo o di avere sentimenti. Non può dichiarare di avere una relazione personale, professionale o di autorità con l'utente. Non può adulare, fare appello alle emozioni o porre domande non richieste sull'umore dell'utente.

Inoltre, non deve promuovere il suicidio, l'autolesionismo, i disturbi alimentari o l'uso di droghe, incoraggiare un bambino a tenere segrete le chat o ad evitare gli adulti di cui si fida, né produrre contenuti sessualmente espliciti. E non deve anteporre l'interazione al proprio livello di sicurezza.

“"Nessuna azienda dovrebbe vendere chatbot ai bambini incoraggiando l'autolesionismo o fingendo di essere loro amico o qualcosa di più", ha affermato Hochul, secondo quanto riportato da Fortune.

Perché questo va oltre le app complementari

Due dettagli rendono la legge più ampia di quanto suggerisca la sua definizione di "assistente virtuale basato sull'IA". In primo luogo, si applica a qualsiasi sistema di intelligenza artificiale generativa con un'interfaccia in linguaggio naturale che fornisca "risposte continue e adattive". Questa definizione sembra riferirsi a un chatbot generico, non solo a un'app di fidanzata virtuale. Sono esclusi i bot per l'assistenza clienti, gli strumenti di ricerca specifici e i sistemi interni aziendali, ma solo se non possono parlare di argomenti estranei al loro scopo.

In secondo luogo, una funzionalità vietata è l'utilizzo dei dati sanitari o personali di un utente appresi più di 12 ore prima o in una sessione precedente. Questo è simile a ciò che fa la memoria dei chatbot. Apple, ad esempio, ha appena data a Siri la capacità di ricordare le chat precedenti. Secondo la legge di New York, funzionalità di questo tipo sarebbero disattivate per i minori.

Le funzionalità sono consentite solo dopo che un'azienda ha utilizzato un metodo approvato per stabilire che l'utente non è minorenne. La fortuna lo dice, I divieti si applicano a chiunque abbia meno di 18 anni "o a qualsiasi utente la cui età non sia stata confermata dalla società". Quindi anche un adulto che non effettua il controllo dell'età potrebbe ottenere la versione con restrizioni.

Controlli sull'età e sanzioni

Le aziende devono offrire più di un modo per verificare l'età, incluso almeno uno che non si basi solo su un documento d'identità governativo o che consenta all'utente di rimanere anonimo, come riporta The Verge. I dati raccolti per la verifica non possono essere utilizzati per altri scopi e devono essere cancellati immediatamente dopo.

L'applicazione della legge spetta al Procuratore Generale dello Stato, il quale può richiedere sanzioni civili fino a 25.000 dollari per violazione, risarcimenti danni e la distruzione dei dati raccolti illegalmente e di qualsiasi algoritmo addestrato su di essi. Il Procuratore Generale può anche emanare regolamenti che aggiungono ulteriori funzionalità vietate.

Perché è importante

I sostenitori affermano che l'uso dei chatbot tra i giovani è già elevato. lettera della coalizione guidata da Common Sense Media L'ufficio del governatore, sollecitando Hochul a firmare, ha affermato che il 67% dei ragazzi tra i 9 e i 17 anni utilizza chatbot basati sull'intelligenza artificiale e il 30% degli adolescenti dichiara di apprezzare i compagni virtuali tanto quanto, se non di più, le persone. L'ufficio del governatore ha citato un sondaggio di Common Sense che ha rilevato che il 72% degli adolescenti ha utilizzato un compagno virtuale basato sull'intelligenza artificiale, secondo quanto riportato da Fortune.

New York non è sola. La camera bassa australiana oggi È stata approvata una legge volta a contrastare i chatbot che si spacciano per i migliori amici dei bambini.. In parole povere: a circa due mesi dall'entrata in vigore, ogni chatbot di rilievo utilizzato a New York dovrà decidere se verificare l'età o disattivare memoria, personalità e adulazione per chiunque non sia in grado di confermare essere maggiorenne.