Neugier treibt die technologische Forschung und Entwicklung an, aber verstärkt sie auch die Risiken der KI selbst? Und was geschieht, wenn KI eine eigene Neugier entwickelt?
Von Sam Jeans • 11 Minuten Lesezeit
Letzte Woche trafen sich führende KI-Wissenschaftler in Peking zum zweiten Internationalen Dialog über KI-Sicherheit, um sich auf ‘rote Linien’ für die KI-Entwicklung zu einigen, um Risiken zu minimieren…
Von Eugene van der Watt • 3 Minuten Lesezeit
Ein von der US-Regierung in Auftrag gegebener Bericht besagt, dass neue Sicherheitsmaßnahmen und Richtlinien für KI erforderlich sind, um eine “bedrohende Gefahr für die Menschheit” abzuwenden. Der Bericht, der…
Von Eugene van der Watt • 3 Minuten Lesezeit
Forscher entwickelten einen Jailbreak-Angriff namens ArtPrompt, der ASCII-Art nutzt, um die Sicherheitsvorkehrungen eines LLM zu umgehen. Falls Sie sich noch an die Zeit erinnern, als Computer noch keine Grafiken verarbeiten konnten,…
Von Eugene van der Watt • 2 Minuten Lesezeit
Nutzer von Copilot berichteten von beunruhigenden Interaktionen mit Microsofts KI-Assistenten, die auf Anfragen folgten, in denen der Chatbot als “SupremacyAGI” bezeichnet wurde. Copilot könnte einfach…
Von Eugene van der Watt • 2 Minuten Lesezeit
IBM Security veröffentlichte auf seinem Security Intelligence Blog eine Studie, die zeigt, wie KI-Stimmenklone in ein Live-Gespräch eingeschleust werden können, ohne dass die Teilnehmer es bemerken…
Von Eugene van der Watt • 2 Minuten Lesezeit
Forscher des National Research Council Canada führten Experimente mit vier großen Bild-Sprach-Modellen (LVLM) durch, um zu prüfen, ob diese rassistische und geschlechtsspezifische Verzerrungen aufweisen. KI-Modelle…
Von Eugene van der Watt • 4 Minuten Lesezeit
Laut einer neuen Studie neigen KI-Chatbots, insbesondere solche von OpenAI, dazu, aggressive Taktiken anzuwenden, darunter auch den Einsatz von Atomwaffen. Die Studie wurde durchgeführt…
Von Sam Jeans • 4 Minuten Lesezeit
Die Denkfabrik RAND veröffentlichte im Oktober einen Bericht, in dem es hieß, KI “könnte” beim Bau einer Biowaffe helfen, und veröffentlichte dann einen Folgebericht, in dem es hieß…
Von Eugene van der Watt • 2 Minuten Lesezeit
Gefälschte, KI-generierte Stimmen sorgten kürzlich wegen eines automatisierten Anrufs im Namen von Biden für Schlagzeilen, doch auch normale Bürger sind betroffen, da die Technologie immer zugänglicher und schwieriger zu handhaben wird…
Von Eugene van der Watt • 3 Minuten Lesezeit
