In einer nachdenklich stimmenden Rede auf dem UN-Gipfel "AI for Good" in Genf äußerte der renommierte israelische Historiker und Autor Yuval Noah Harari seine Besorgnis über die Verbreitung von "Fake-Menschen" in den sozialen Medien...
Harari warnte, dass die Schaffung und Verbreitung dieser KI-Bots, die sich als echte Menschen ausgeben, um Engagement zu fördern, zu einem Zusammenbruch des öffentlichen Vertrauens führen und die Grundlagen der Demokratie gefährden könnten, wenn sie nicht kontrolliert werden.
Als Gegengewicht schlug Harari vor, strenge strafrechtliche Sanktionen für diejenigen einzuführen, die gefälschte Profile erstellen. Er betonte, dass die Situation dringend ist und die KI-Sicherheitsforschung eine Priorität werden muss, wenn wir hoffen, diese Technologie unter Kontrolle zu halten.
Das rasante Auftauchen von Fake-Menschen
Mit den Fortschritten in der KI-Technologie, insbesondere mit großen Sprachmodellen wie ChatGPT, sind KI-Bots nicht nur in der Lage, von Menschen erstellte Inhalte zu verstärken, sondern auch ihre eigenen Inhalte in großem Umfang zu erstellen.
Größenordnung ist hier der Schlüsselbegriff...
Stellen Sie sich eine Situation vor, in der soziale Medienplattformen mit Millionen von KI-Bots überschwemmt werden, die alle in der Lage sind, Inhalte zu produzieren, die denen des Durchschnittsmenschen überlegen sind.
Dieses Szenario scheint direkt aus dem Schreibraum von Black Mirror zu stammen, ist aber angesichts der fortschreitenden Entwicklung der KI ein unbestreitbar wahrscheinliches Szenario.
Mit Millionen von KI-Bots, die neben echten Menschen posten, hätten wir eine Situation, in der "echte" und KI-basierte Inhalte fast nicht mehr zu unterscheiden wären - und damit die Kultur und den globalen Diskurs insgesamt untergraben würden.
Dieser Verlust der Kontrolle über den Stadtplatz würde in gewisser Weise auch dem Wesen der Demokratie, der Demokratie der Ideen und des freien Denkens, den Boden entziehen.
Sicherung der Demokratie + Die Notwendigkeit strafrechtlicher Konsequenzen:
Zurück zu Harari: Er hat eine hervorragende Parallele zu Falschgeld gezogen und argumentiert, dass Regierungen strenge Regeln haben, um das Finanzsystem vor gefälschtem Geld zu schützen, und dass ähnliche Maßnahmen ergriffen werden sollten, um das öffentliche Vertrauen vor gefälschten Menschen zu schützen.
Indem wir die Verantwortlichen durch Strafanzeigen zur Rechenschaft ziehen, können wir verhindern, dass unsere Plattformen von gefälschten Profilen überschwemmt werden.
Investitionen in die KI-Sicherheit + Engagement für die Forschung
Harari betonte, wie wichtig es ist, erhebliche Investitionen in die KI-Sicherheit zu tätigen. Er schlug vor, dass Unternehmen gesetzlich verpflichtet werden sollten, 20% ihrer Investitionsausgaben für die Erforschung potenzieller Risiken und die Entwicklung von Strategien zu deren wirksamer Bewältigung aufzuwenden.
Harari würdigte die Bemühungen von OpenAI, dem Erfinder von ChatGPT, und erwähnte, dass das Unternehmen 20% seiner Rechenleistung für die Sicherheit von KI zur Verfügung stellt und ein spezielles Forschungsteam einrichtet, das sich mit dem Verständnis und der Kontrolle von KI befasst, um zu verhindern, dass sie abtrünnig wird.
Globale Zusammenarbeit
Harari sagte weiter, dass eine wirksame Regulierung der künstlichen Intelligenz und der Datenerfassung eine weltweite Anstrengung sein müsse. Er warnte, dass die Welt ohne internationale Zusammenarbeit Gefahr läuft, in Sphären der Datenerfassung aufgesplittert zu werden, die von einigen wenigen Nationen und Unternehmen kontrolliert werden.
Um eine dystopische Zukunft zu verhindern, betonte Harari die Notwendigkeit von Regeln, die den Schutz individueller Daten in den Vordergrund stellen, Datenmanipulationen verhindern, die Aufsicht sowohl über Unternehmen als auch über Regierungen verstärken und die Konzentration aller Daten in einer einzigen Instanz verhindern.
Schlussfolgerung - Erhaltung des öffentlichen Vertrauens
Das Aufkommen von KI-Bots in sozialen Medien stellt eine erhebliche Bedrohung für demokratische Gesellschaften dar. Yuval Noah Harari fordert daher strafrechtliche Konsequenzen für die Verantwortlichen sowie verstärkte Investitionen in die KI-Sicherheit.
Durch die Verhängung strenger Strafen und die Umsetzung umfassender Vorschriften können die Gesellschaften das öffentliche Vertrauen schützen, die demokratischen Werte bewahren und sicherstellen, dass die Menschen die Kontrolle über das öffentliche Gespräch behalten. Es ist jetzt an der Zeit zu handeln, um eine sicherere und widerstandsfähigere Zukunft für unsere sich ständig verändernde digitale Welt zu sichern.
