Gymleraar gearresteerd voor AI-kloon van stem directeur

26 april 2024
  • Een atletiekdirecteur van een middelbare school in Baltimore is gearresteerd nadat hij de stem van de directeur had gekloond
  • De racistische geluidsopname leidde ertoe dat de directeur zijn baan verloor voordat bevestigd werd dat het om een vervalsing van AI ging.
  • Het incident illustreert hoe gemakkelijk gevaarlijke AI-vervalsingen kunnen worden gemaakt en hoe moeilijk ze te detecteren zijn.

Een atletiekdirecteur van een middelbare school in Baltimore is donderdag gearresteerd nadat de politie had gezegd dat hij AI had gebruikt om een nep-audioclip van de directeur van de school te maken.

In januari, rapporteerden we over de audioclip die een opname zou zijn van de directeur van Pikesville High, Eric Eiswert, die racistische en antisemitische opmerkingen maakt over personeel en leerlingen.

Destijds ontkende Eiswert de echtheid van de audio en werd beweerd dat de clip nep was.

De breed gedeelde audioclip leidde ertoe dat Eiswert tijdelijk zijn baan verloor terwijl de echtheid van de audio werd onderzocht. Het verzet van leraren, leerlingen en anderen in de gemeenschap die geloofden dat de clip echt was, veranderde het leven van Eiswert.

Als je naar het geluidsfragment luistert, is het makkelijk te begrijpen waarom mensen geloofden dat het echt was.

 

Bekijk dit bericht op Instagram

 

Een bericht gedeeld door @murder_ink_bmore

Experts hebben nu geconcludeerd dat de audio een vervalsing van AI was op basis van de vlakke toon van de audio, het ontbreken van consistente ademhalingsgeluiden of pauzes en ongewoon schone achtergrondgeluiden.

Er wordt beweerd dat Dazhon Darien, voormalig atletiekdirecteur van Pikesville High, de AI vervalste als vergelding voor het feit dat Eiswert een onderzoek startte naar zijn misbruik van schoolfondsen.

Dazhon Darien is gearresteerd en aangeklaagd voor het verstoren van de schoolactiviteiten, diefstal, het vergelden van een getuige en stalking. De aanklacht vermeldde dat Darien de computers van de school had gebruikt "om toegang te krijgen tot OpenAI tools en Microsoft Bing Chat-diensten."

Afwezig op de lijst van aanklachten was iets dat binnenkort misschien een misdaad wordt: AI gebruiken om iemands stem te vervalsen.

Rekeningen zoals de Geen nepwet en de No AI Fraud Act zijn ingediend in de US Congres, maar moeten nog worden aangenomen. Dus toen Darien AI gebruikte om een niet-vrijwillige valse audioclip van Eiswerts stem te maken, was dat technisch gezien geen misdaad.

Het feit dat het weken duurde voordat een expert uiteindelijk kon bevestigen dat de audioclip vals was, laat zien hoe onvoorbereid de maatschappij en de autoriteiten zijn op nieuwe problemen die generatieve AI met zich meebrengt.

Het gemak waarmee deze vervalsingen gefabriceerd kunnen worden maakt het probleem nog groter. Als een gymleraar al een redelijke vervalsing kan maken, stel je dan eens voor wat technisch vaardigere slechte acteurs kunnen bereiken.

Bij gebrek aan een gemakkelijke manier om valse audio en video te identificeren, is onze beste verdediging misschien wel om aan te nemen dat dingen nep zijn totdat wordt bevestigd dat ze echt zijn.

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Eugene van der Watt

Eugene heeft een achtergrond in elektrotechniek en houdt van alles wat met techniek te maken heeft. Als hij even pauzeert van het consumeren van AI-nieuws, kun je hem aan de snookertafel vinden.

×

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden