Un professeur de gymnastique arrêté pour avoir cloné la voix du directeur de l'école à l'aide d'une IA

26 avril 2024

  • Un directeur sportif d'un lycée de Baltimore a été arrêté après avoir prétendument cloné la voix du principal.
  • L'enregistrement audio raciste a conduit le directeur de l'école à perdre son emploi avant qu'il ne soit confirmé qu'il s'agissait d'un faux.
  • Cet incident illustre la facilité avec laquelle il est possible de fabriquer des contrefaçons d'IA dangereuses et la difficulté de les détecter.

Un directeur sportif d'un lycée de Baltimore a été arrêté jeudi après que la police a déclaré qu'il aurait utilisé l'IA pour créer un faux clip audio du directeur de l'école.

En janvier, nous avons rapporté sur le clip audio censé être un enregistrement du principal du lycée de Pikesville, Eric Eiswert, faisant des commentaires racistes et antisémites sur le personnel et les élèves.

À l'époque, Eiswert a nié l'authenticité de l'enregistrement, et certains ont affirmé que le clip était un faux de l'IA.

Le clip audio, largement diffusé, a conduit Eiswert à perdre temporairement son emploi, le temps d'enquêter sur l'authenticité de l'enregistrement. Les réactions négatives des enseignants, des élèves et d'autres membres de la communauté qui croyaient que le clip était authentique ont bouleversé la vie d'Eiswert.

Si vous écoutez le clip audio, vous comprendrez aisément pourquoi les gens ont cru à son authenticité.

 

Voir ce message sur Instagram

 

Un post partagé par @murder_ink_bmore

Les experts ont maintenant conclu que l'audio était un faux provenant d'une IA, en se basant sur le ton plat de l'audio, l'absence de bruits de respiration cohérents ou de pauses, et des bruits de fond inhabituellement propres.

Dazhon Darien, l'ancien directeur sportif du lycée de Pikesville, aurait falsifié l'IA en représailles à l'ouverture par Eiswert d'une enquête sur son utilisation abusive des fonds de l'école.

Dazhon Darien a été arrêté et inculpé de perturbation du fonctionnement de l'école, de vol, de représailles contre un témoin et de harcèlement. L'acte d'accusation indique que Darien a utilisé les ordinateurs de l'école "pour accéder à des informations sur des sites Internet". OpenAI et les services Microsoft Bing Chat".

La liste des chefs d'accusation ne mentionnait pas une chose qui pourrait bientôt devenir un crime : l'utilisation de l'intelligence artificielle pour imiter la voix d'une personne.

Des projets de loi comme le Loi sur l'interdiction des contrefaçons et la loi sur la lutte contre la fraude à l'AI ont été déposées dans le cadre de la loi sur la lutte contre la fraude à l'AI. US Le Congrès n'a pas encore adopté de loi à ce sujet. Ainsi, lorsque Darien a utilisé l'IA pour créer un faux clip audio non consensuel de la voix d'Eiswert, il ne s'agissait techniquement pas d'un délit.

Le fait qu'il ait fallu des semaines à un expert pour confirmer que le clip audio était un faux montre à quel point la société et les autorités ne sont pas préparées à faire face aux nouveaux problèmes posés par l'IA générative.

La facilité avec laquelle ces faux peuvent être produits aggrave le problème. Si un professeur de gymnastique peut fabriquer un faux passable, imaginez ce que des acteurs malveillants plus compétents sur le plan technique pourraient réaliser.

En l'absence d'un moyen facile d'identifier les faux sons et les fausses vidéos, notre meilleure défense peut être de supposer que les choses sont fausses jusqu'à ce qu'elles soient confirmées comme étant réelles.

Rejoindre l'avenir


SOUSCRIRE AUJOURD'HUI

Clair, concis, complet. Maîtrisez les développements de l'IA avec DailyAI

Eugène van der Watt

Eugene a une formation d'ingénieur en électronique et adore tout ce qui touche à la technologie. Lorsqu'il fait une pause dans sa consommation d'informations sur l'IA, vous le trouverez à la table de snooker.

×

PDF GRATUIT EXCLUSIF
Gardez une longueur d'avance avec DailyAI

Inscrivez-vous à notre newsletter hebdomadaire et recevez un accès exclusif au dernier eBook de DailyAI : 'Mastering AI Tools : Your 2024 Guide to Enhanced Productivity" (Maîtriser les outils de l'IA : votre guide 2024 pour une meilleure productivité).

*En vous abonnant à notre lettre d'information, vous acceptez nos conditions d'utilisation. Politique de confidentialité et notre Conditions générales d'utilisation