Een atletiekdirecteur van een middelbare school in Baltimore is donderdag gearresteerd nadat de politie had gezegd dat hij AI had gebruikt om een nep-audioclip van de directeur van de school te maken.
In januari, rapporteerden we over de audioclip die een opname zou zijn van de directeur van Pikesville High, Eric Eiswert, die racistische en antisemitische opmerkingen maakt over personeel en leerlingen.
Destijds ontkende Eiswert de echtheid van de audio en werd beweerd dat de clip nep was.
De breed gedeelde audioclip leidde ertoe dat Eiswert tijdelijk zijn baan verloor terwijl de echtheid van de audio werd onderzocht. Het verzet van leraren, leerlingen en anderen in de gemeenschap die geloofden dat de clip echt was, veranderde het leven van Eiswert.
Als je naar het geluidsfragment luistert, is het makkelijk te begrijpen waarom mensen geloofden dat het echt was.
Bekijk dit bericht op Instagram
Experts hebben nu geconcludeerd dat de audio een vervalsing van AI was op basis van de vlakke toon van de audio, het ontbreken van consistente ademhalingsgeluiden of pauzes en ongewoon schone achtergrondgeluiden.
Er wordt beweerd dat Dazhon Darien, voormalig atletiekdirecteur van Pikesville High, de AI vervalste als vergelding voor het feit dat Eiswert een onderzoek startte naar zijn misbruik van schoolfondsen.
Dazhon Darien is gearresteerd en aangeklaagd voor het verstoren van de schoolactiviteiten, diefstal, het vergelden van een getuige en stalking. De aanklacht vermeldde dat Darien de computers van de school had gebruikt "om toegang te krijgen tot OpenAI tools en Microsoft Bing Chat-diensten."
Afwezig op de lijst van aanklachten was iets dat binnenkort misschien een misdaad wordt: AI gebruiken om iemands stem te vervalsen.
Rekeningen zoals de Geen nepwet en de No AI Fraud Act zijn ingediend in de US Congres, maar moeten nog worden aangenomen. Dus toen Darien AI gebruikte om een niet-vrijwillige valse audioclip van Eiswerts stem te maken, was dat technisch gezien geen misdaad.
Het feit dat het weken duurde voordat een expert uiteindelijk kon bevestigen dat de audioclip vals was, laat zien hoe onvoorbereid de maatschappij en de autoriteiten zijn op nieuwe problemen die generatieve AI met zich meebrengt.
Het gemak waarmee deze vervalsingen gefabriceerd kunnen worden maakt het probleem nog groter. Als een gymleraar al een redelijke vervalsing kan maken, stel je dan eens voor wat technisch vaardigere slechte acteurs kunnen bereiken.
Bij gebrek aan een gemakkelijke manier om valse audio en video te identificeren, is onze beste verdediging misschien wel om aan te nemen dat dingen nep zijn totdat wordt bevestigd dat ze echt zijn.
