Apple entfernt KI-generierte Nachrichten nach Kritik von seinen Geräten

Apple hat seinen KI-Nachrichtendienst Apple Intelligence eingestellt, nachdem dieser Geschichten erfunden und echte Schlagzeilen zu Fiktion verdreht hatte. 

Apples KI-gestützte Nachrichtenfunktion sollte das Leben erleichtern, indem sie Nachrichten aus verschiedenen Quellen zusammenfasst. Stattdessen stiftete sie Chaos, indem sie Falschmeldungen verbreitete, oft unter dem Namen vertrauenswürdiger Medien. 

Hier ging alles schief:

• Unter Verwendung des BBC-Logos erfand eine Geschichte Die Behauptung, Tennisstar Rafael Nadal habe sich als schwul geoutet, zeugt von einem völligen Missverständnis bezüglich einer Geschichte über einen brasilianischen Spieler.
• Der Sender handelte voreilig, indem er verkündete, dass der jugendliche Dartspieler Luke Littler die PDC-Weltmeisterschaft gewonnen habe – noch bevor er überhaupt im Finale gespielt hatte.
• Ein noch schwerwiegenderer Fehler war die Erstellung einer gefälschten BBC-Meldung, in der behauptet wurde, Luigi Mangione, der beschuldigt wird, den UnitedHealthcare-Chef Brian Thompson getötet zu haben, habe Selbstmord begangen.
• Das System stempelte den Namen der New York Times auf ein komplett erfundene Geschichte über die Verhaftung des israelischen Premierministers Benjamin Netanjahu.

Die BBC, verärgert darüber, dass ihr Name mit Falschmeldungen in Verbindung gebracht wurde, reichte schließlich eine offizielle Beschwerde ein. Presseverbände schlossen sich dem an, wie beispielsweise … Reporter ohne Grenzen, der davor warnte, dass die Umschreibung von Nachrichten durch KI das Recht der Öffentlichkeit auf korrekte Informationen gefährdet.

Die Nationale Journalistenvereinigung forderte außerdem die Abschaffung dieser Funktion und argumentierte, dass Leser nicht raten müssten, ob das, was sie lesen, real ist.

Forschung Frühere Studien haben gezeigt, dass selbst wenn Menschen erfahren, dass von KI erstellte Medien gefälscht sind, dies dennoch eine psychologische ‘Spur’ hinterlässt, die auch danach noch anhält. 

Apple Geheimdienst – das eine Reihe von KI-gestützten Funktionen, darunter KI-Nachrichten, bot – war eines der Hauptmerkmale der neuen iPhone 16-Reihe.

Apple ist ein Unternehmen, das stolz auf seine ausgereiften Produkte ist, die einfach funktionieren – es kommt selten vor, dass Apple einen Rückzieher macht – daher hatten sie hier offensichtlich kaum eine andere Wahl.

Allerdings stehen sie mit ihren KI-Fehlern nicht allein da. Noch vor nicht allzu langer Zeit teilte Googles KI-generierte Suchzusammenfassung den Nutzern mit, dass sie Steine essen könnten und Kleber auf die Pizza geben. 

Apple plant, die Funktion mit Warnhinweisen und spezieller Formatierung wiederzubeleben, um anzuzeigen, wann die Zusammenfassungen von KI erstellt wurden. 

Müssen Leser wirklich verschiedene Schriftarten und Beschriftungen entschlüsseln müssen, nur um zu wissen, ob sie echte Nachrichten lesen? Und hier eine radikale Idee: Man könnte doch einfach die Nachrichtenüberschrift selbst anzeigen?

Das alles zeigt, dass, da KI immer mehr in alle Bereiche unseres digitalen Lebens vordringt, manche Dinge – wie der Erhalt korrekter Nachrichtenfakten – einfach zu wichtig sind, um Fehler zu machen.

Eine große Kehrtwende von Apple, aber wahrscheinlich nicht die letzte dieser Art.