Federala åklagare har åtalat en "musiker" i North Carolina för att ha orkestrerat ett avancerat bedrägeri på $10 miljoner med hjälp av AI-genererad musik.
Michael Smith, 52, greps på onsdagen anklagad för bedrägeri, konspiration till bedrägeri och konspiration till penningtvätt.
Åklagarna hävdar att Smith använde AI-teknik för att skapa hundratusentals falska låtar av icke-existerande band och sedan använde robotar för att strömma dessa låtar miljontals gånger på populära plattformar som Spotify, Apple Music och Amazon Music.
"Genom sitt fräcka bedrägeri stal Smith miljoner i royalties som borde ha betalats till musiker, låtskrivare och andra rättighetsinnehavare vars låtar strömmades på ett legitimt sätt." sa US Advokat Damian Williams.
Enligt åtalet (ett formellt juridiskt dokument som har offentliggjorts efter att ursprungligen ha hållits konfidentiellt) pågick Smiths verksamhet i sju år. Den innebar att tusentals falska streamingkonton skapades med hjälp av köpta e-postadresser.
Smith ska även ha utvecklat programvara för att spela sin AI-genererade musik på repeat från flera olika datorer, för att efterlikna individuella lyssnare från olika platser.
För att undvika upptäckt distribuerade han enligt uppgift falsk streamingaktivitet över en rad falska låtar och genererade noggrant unika namn för AI-skapade artister och spår.
Några av dessa udda och absurda namn var band som "Callous Post" och "Calorie Screams", med låttitlar som "Zygotic Washstands" och "Zymotechnical". Jag undrar vilken prompt han använde för att generera dem?
Systemet visade sig vara exceptionellt lukrativt. I ett mejl som skickades tidigare i år skröt Smith om att han nått 4 miljarder streams och $12 miljoner i royalties sedan 2019.
Åklagare hävdar att Smith i juni 2019 tjänade cirka $110 000 per månad och delade en del med icke namngivna medkonspiratörer.
Ur ett AI-perspektiv är det oklart exakt hur dessa låtar genererades med AI redan 2019, eftersom det inte fanns så många högkvalitativa verktyg för det då som det finns nu. Idag finns verktyg som Udio, Suno, etc, skulle förmodligen göra en sådan bluff ännu enklare att genomföra.
Vi bör påpeka att botting-system har plågat streamingplattformar i årtionden, med artister, skivbolag och bedragare som försöker spela på systemet.
Spotify, Apple Music och andra plattformar har länge varit bekämpa falska strömmar, använda AI för att analysera och stoppa bot-aktivitet.
AI-genererad musik är vanligt förekommande på Spotify, och man skulle kunna tro att plattformen skulle börja ägna mer uppmärksamhet åt sin ursprung och avsikter nu.
Det som gör Smiths fall anmärkningsvärt är dock kombinationen av storskalig botting med AI-genererat innehåll.
Det var smart. Men till slut kom lagens långa arm ikapp.
Musik- och AI-branscherna är i konflikt med varandra
AI och de kreativa branscherna har i stort sett blandats som olja och vatten. Även om de inte blandas naturligt har deras kombination skapat ett flyktigt hopkok fullt av potential och risker.
För bara några månader sedan meddelade världens tre största skivbolag lämnat in federala stämningsansökningar mot text-till-ljud-plattformarna Suno och Udio för "massintrång i upphovsrättsligt skyddade ljudinspelningar".
Recording Industry Association of America (RIAA), som representerar Universal Music Group, Sony Music Entertainment och Warner Records, hävdar att det finns starka bevis för att Suno och Udio använde upphovsrättsskyddad musik utan tillstånd för att träna sina AI-modeller.
På samma sätt kommer i april 2024 över 200 framstående konstnärerdäribland Billie Eilish, Nicki Minaj och Jon Bon Jovi, lovade att bekämpa AI-musik.
AI:s integrering i musiken ses inte av alla som ett hot. Vissa ser det som en demokratiserande kraft som gör det möjligt för producenter att experimentera med olika format utan den mänskliga manipulation som är involverad i traditionella skivsigneringsprocesser.
Hur kommer musiker som kämpar för att tjäna pengar på sitt ofta generöst begåvade arbete på streamingplattformar att känna sig om detta?
Att använda AI för att manipulera algoritmerna hos plattformar som ofta kritiseras för att underbetala artister kan verka som ett brott utan offer för vissa. Oärlig manipulation av streamingsiffror får dock djupa konsekvenser.
Många artister känner sig lurade av streamingplattformarna, men bedrägliga metoder som de som påstås i Smith-fallet skadar sannolikt hela musikens ekosystem.
De kan späda ut legitima strömmar, snedvrida upptäcktsalgoritmer, undergräva förtroendet och förmodligen göra det svårare för ärliga artister att lyckas.
Det är ännu en gräns där artister och plattformar kommer att behöva kämpa för att säkerställa ett rättvist och transparent ekosystem. Artister riskerar att hamna på efterkälken.
