Un directeur sportif d'un lycée de Baltimore a été arrêté jeudi après que la police a déclaré qu'il aurait utilisé l'IA pour créer un faux clip audio du directeur de l'école.
En janvier, nous avons rapporté sur le clip audio censé être un enregistrement du principal du lycée de Pikesville, Eric Eiswert, faisant des commentaires racistes et antisémites sur le personnel et les élèves.
À l'époque, Eiswert a nié l'authenticité de l'enregistrement, et certains ont affirmé que le clip était un faux de l'IA.
Le clip audio, largement diffusé, a conduit Eiswert à perdre temporairement son emploi, le temps d'enquêter sur l'authenticité de l'enregistrement. Les réactions négatives des enseignants, des élèves et d'autres membres de la communauté qui croyaient que le clip était authentique ont bouleversé la vie d'Eiswert.
Si vous écoutez le clip audio, vous comprendrez aisément pourquoi les gens ont cru à son authenticité.
Voir ce message sur Instagram
Les experts ont maintenant conclu que l'audio était un faux provenant d'une IA, en se basant sur le ton plat de l'audio, l'absence de bruits de respiration cohérents ou de pauses, et des bruits de fond inhabituellement propres.
Dazhon Darien, l'ancien directeur sportif du lycée de Pikesville, aurait falsifié l'IA en représailles à l'ouverture par Eiswert d'une enquête sur son utilisation abusive des fonds de l'école.
Dazhon Darien a été arrêté et inculpé de perturbation du fonctionnement de l'école, de vol, de représailles contre un témoin et de harcèlement. L'acte d'accusation indique que Darien a utilisé les ordinateurs de l'école "pour accéder à des informations sur des sites Internet". OpenAI et les services Microsoft Bing Chat".
La liste des chefs d'accusation ne mentionnait pas une chose qui pourrait bientôt devenir un crime : l'utilisation de l'intelligence artificielle pour imiter la voix d'une personne.
Des projets de loi comme le Loi sur l'interdiction des contrefaçons et la loi sur la lutte contre la fraude à l'AI ont été déposées dans le cadre de la loi sur la lutte contre la fraude à l'AI. US Le Congrès n'a pas encore adopté de loi à ce sujet. Ainsi, lorsque Darien a utilisé l'IA pour créer un faux clip audio non consensuel de la voix d'Eiswert, il ne s'agissait techniquement pas d'un délit.
Le fait qu'il ait fallu des semaines à un expert pour confirmer que le clip audio était un faux montre à quel point la société et les autorités ne sont pas préparées à faire face aux nouveaux problèmes posés par l'IA générative.
La facilité avec laquelle ces faux peuvent être produits aggrave le problème. Si un professeur de gymnastique peut fabriquer un faux passable, imaginez ce que des acteurs malveillants plus compétents sur le plan technique pourraient réaliser.
En l'absence d'un moyen facile d'identifier les faux sons et les fausses vidéos, notre meilleure défense peut être de supposer que les choses sont fausses jusqu'à ce qu'elles soient confirmées comme étant réelles.
