Apple verwijdert door AI gegenereerd nieuws van zijn apparaten na felle kritiek.

Apple heeft zijn AI-nieuwsfunctie Apple Intelligence stopgezet nadat deze verhalen verzon en echte krantenkoppen verdraaide tot fictie. 

De AI-nieuwsdienst van Apple was bedoeld om het leven makkelijker te maken door nieuwsberichten van meerdere bronnen samen te vatten. In plaats daarvan creëerde het chaos door nepnieuws te verspreiden, vaak onder de naam van vertrouwde media. 

Hier ging het helemaal mis:

• Met behulp van het BBC-logo, een verhaal verzonnen Er werd beweerd dat tennisster Rafael Nadal uit de kast was gekomen als homoseksueel, waarbij een verhaal over een Braziliaanse speler volledig verkeerd werd begrepen.
• Het was een voorbarige aankondiging dat tienerdartspeler Luke Littler het PDC Wereldkampioenschap had gewonnen – nog voordat hij in de finale had gespeeld.
• Een nog ernstiger blunder was de verspreiding van een valse BBC-waarschuwing waarin werd beweerd dat Luigi Mangione, die ervan wordt beschuldigd UnitedHealthcare-CEO Brian Thompson te hebben vermoord, zelfmoord had gepleegd.
• Het systeem stempelde de naam van The New York Times op een document. volledig verzonnen verhaal over de arrestatie van de Israëlische premier Benjamin Netanyahu.

De BBC, woedend dat haar naam werd gekoppeld aan nepverhalen, diende uiteindelijk een formele klacht in. Persorganisaties sloten zich hierbij aan, zoals... Reporters zonder Grenzen, die waarschuwde dat het toestaan van AI om het nieuws te herschrijven het recht van het publiek op accurate informatie in gevaar brengt.

De Nationale Unie van Journalisten Ook werd opgeroepen om de functie te verwijderen, omdat lezers volgens hen niet hoeven te gissen of wat ze lezen wel echt is.

Onderzoek Eerder onderzoek heeft aangetoond dat zelfs wanneer mensen ontdekken dat door AI gegenereerde media nep zijn, dit toch een psychologische 'afdruk' achterlaat die daarna blijft bestaan. 

Apple Intelligentie – dat een reeks AI-gestuurde functies bood, waaronder AI-nieuws – was een van de belangrijkste kenmerken van de nieuwe iPhone 16-serie.

Apple is een bedrijf dat trots is op zijn verfijnde producten die 'gewoon werken' – het is zeldzaam dat Apple hierop terugkomt – dus hadden ze hier kennelijk weinig keus.

Dat gezegd hebbende, zijn ze niet de enigen die zich schuldig maken aan AI-blunders. Nog niet zo lang geleden vertelden de door AI gegenereerde zoekresultaten van Google mensen dat ze stenen konden eten en Doe lijm op de pizza. 

Apple is van plan de functie nieuw leven in te blazen met waarschuwingslabels en een speciale opmaak om aan te geven wanneer AI de samenvattingen maakt. 

Moeten lezers verschillende lettertypen en labels ontcijferen om te weten of ze wel echt nieuws lezen? En hier is een radicaal idee: ze zouden gewoon de nieuwskop zelf kunnen blijven weergeven?

Dit alles laat zien dat, naarmate AI steeds meer doordringt in elk aspect van ons digitale leven, sommige dingen – zoals het ontvangen van accurate nieuwsfeiten – simpelweg te belangrijk zijn om verkeerd te worden begrepen.

Een flinke koerswijziging van Apple, maar waarschijnlijk niet de laatste in zijn soort.