Les politiciens sont généralement les sujets non autorisés des deepfakes, mais le maire de New York, Eric Adams, utilise cette technologie alimentée par l'IA pour atteindre les habitants de sa ville.
Afin d'atteindre un public plus large, Adams a utilisé l'IA pour créer des enregistrements audio de lui-même dans des langues allant du yiddish au mandarin. Ce son est ensuite utilisé pour passer des appels automatisés aux habitants de la ville afin de les informer d'événements tels que des salons de l'emploi ou des concerts.
L'aspect pratique de la démarche est évident, mais elle soulève également des questions d'ordre éthique.
Les gens m'arrêtent tout le temps dans la rue et me disent : "Je ne savais pas que vous parliez mandarin". Les robocalls que nous utilisons utilisent différentes langues pour s'adresser directement à la diversité des New-Yorkais", a déclaré M. Adams.
Le problème est qu'Adams ne parle pas ces langues et que les robocalls n'informent pas le destinataire que la voix qu'il entend a été générée par l'IA. Adams trompe-t-il son électorat ou fait-il preuve d'ingéniosité et d'efficacité ?
Le directeur exécutif du Surveillance Technology Oversight Project, Albert Fox Cahn, n'est pas favorable à l'utilisation de l'IA par le maire.
"C'est profondément contraire à l'éthique, surtout aux frais du contribuable. Utiliser l'IA pour convaincre les New-Yorkais qu'il parle des langues qu'il ne parle pas est profondément orwellien. Oui, nous avons besoin d'annonces dans toutes les langues maternelles des New-Yorkais, mais ces fausses annonces ne sont qu'un projet de vanité effrayant", a déclaré M. Cahn.
Est-ce un peu effrayant ? La ville a téléchargé l'un des appels téléphoniques espagnols sur YouTube, à vous de juger.
Adams estime que la fin justifie les moyens, mais reconnaît que "nous devons nous préoccuper des abus, mais nous voulons une utilisation appropriée".
Cette initiative soulève également des questions d'ordre politique et éthique. Le robocall d'Adams pourrait-il inciter un hispanophone à voter pour lui s'il pense que le maire parle sa langue ?
M. Adams a mentionné les faux appels téléphoniques lors d'une conférence de presse sur la nouvelle politique de la ville en matière de sécurité. Plan d'action pour l'intelligence artificielle.
Le plan d'action présente le calendrier des projets et les aspirations pour une utilisation sûre de l'IA afin de servir plus efficacement les 8 millions d'habitants de la ville.
"Je suis fier de présenter un plan qui trouvera un équilibre essentiel dans le débat mondial sur l'IA - un plan qui permettra aux agences municipales de déployer des technologies qui peuvent améliorer la vie des gens tout en les protégeant contre celles qui peuvent nuire", a déclaré M. Adams.
L'un des derniers exemples d'utilisation de l'IA par la ville est le Chatbot MyCity, qui répond aux questions relatives à l'enregistrement des entreprises et à la réglementation.
L'approche avant-gardiste d'Adams en matière d'IA est louable, même si elle s'accompagne d'initiatives discutables comme les faux appels téléphoniques.
Doublant ses "deepfakes", Adams a déclaré : "Est-ce bien ou mal d'un point de vue éthique ? J'ai une chose à faire, je dois diriger une ville et je dois pouvoir parler aux gens dans une langue qu'ils comprennent... à tous, tout ce que je peux dire, c'est ni hao".
