Apple tar bort AI-genererade nyheter från sina enheter efter kritik

Apple har tagit bort sin AI-nyhetsfunktion Apple Intelligence efter att den fabricerat nyheter och förvrängt verkliga rubriker till fiktion. 

Apples AI-nyheter var tänkta att göra livet enklare genom att sammanfatta nyhetsvarningar från flera källor. Istället skapade de kaos genom att sprida falska nyheter, ofta under betrodda medievarumärken. 

Här gick allt fel:

• Med hjälp av BBC:s logotyp uppfann en berättelse att påstå att tennisstjärnan Rafael Nadal hade kommit ut som homosexuell, vilket helt missförstod historien om en brasiliansk spelare.
• Det blev ett försprång genom att tillkännagivandet att den tonårige dartspelaren Luke Littler hade vunnit PDC-världsmästerskapet – innan han ens hade spelat finalen.
• I ett allvarligare misstag skapade det en falsk BBC-varning som påstod att Luigi Mangione, som anklagas för att ha dödat UnitedHealthcares VD Brian Thompson, hade tagit sitt eget liv.
• Systemet stämplade The New York Times namn på en helt påhittad historia om att Israels premiärminister Benjamin Netanyahu arresterats.

BBC, som blev ilskad över att se sitt namn kopplat till falska nyheter, lämnade så småningom in ett formellt klagomål. Pressgrupper anslöt sig, till exempel Reportrar utan gränser, som varnade för att om man låter AI omskriva nyheterna äventyrar man allmänhetens rätt till korrekt information.

Den Nationella journalistförbundet krävde också att funktionen skulle tas bort och sa att läsarna inte ska behöva gissa om det de läser är verkligt.

Forskning har tidigare visat att även när människor får veta att AI-skapad media är fejk, lämnar det fortfarande ett psykologiskt "märke" som kvarstår efteråt. 

Apple Intelligens – som erbjöd en rad AI-drivna funktioner inklusive AI-nyheter – var en av huvudfunktionerna i den nya iPhone 16-serien.

Apple är ett företag som är stolta över sina polerade produkter som "bara fungerar" – det är sällsynt att Apple backar – så de hade uppenbarligen inget annat val här.

Med det sagt är de inte ensamma när det gäller AI-misstag. För inte så länge sedan berättade Googles AI-genererade söksammanfattningar för folk att de kunde äta stenar och sätta lim på pizzan. 

Apple planerar att återuppliva funktionen med varningsetiketter och speciell formatering som visar när AI skapar sammanfattningarna. 

Borde läsare behöva avkoda olika typsnitt och etiketter bara för att veta om de läser riktiga nyheter? Och här är en radikal idé – de skulle kunna fortsätta visa själva nyhetsrubriken?

Allt visar att, i takt med att AI fortsätter att sippra in i varje hörn av våra digitala liv, är vissa saker – som att ta emot korrekta nyhetsfakta – helt enkelt för viktiga för att bli fel.

En stor helomvändning från Apple, men förmodligen inte den sista vi får se av sitt slag.