Herzlich willkommen zu unserer wöchentlichen Übersicht über handwerklich hergestellte KI-Nachrichten.
Diese Woche haben wir herausgefunden, dass KI nicht beim Bau von Biowaffen helfen kann, oder vielleicht doch.
Tay Tays Armee von Swifties bekämpfte gefälschte KI-Pornos.
Und durch die KI haben wir noch weniger Vertrauen in die Politiker, als wir es ohnehin schon hatten.
Schauen wir genauer hin.
Schnelles Unrecht
Taylor Swift wurde zur Zielscheibe von explizite AI tief gefälschte Bilder diese Woche. Die verständliche Empörung, die sich daraufhin einstellte, richtete sich auch gegen Plattformen wie X, die sich gegen diese Art von Inhalten offenbar nicht wehren können.
Die Reaktionen sowohl der Industrie als auch der Öffentlichkeit waren heftig. Taylors Armee von Swifties ging in den vollen Sherlock-Holmes-Modus über. Sie spürten auf und den Mann, der angeblich hinter den Bildern steckt, mit einem Doxx versehen nachdem er selbstbewusst behauptet hatte: "Sie werden mich nie finden."
Es ist einfach zu einfach für jeden, diese Art von Bildern mit Hilfe von KI zu erstellen. Mit InstantID ist es jetzt viel einfacher geworden. Das Modell ermöglicht es KI-Bildgeneratoren, Reproduktionen aus einem einzigen Bild des Gesichts einer Person zu erstellen.
Die InstantID-Forschungsarbeit wurde vor dem Swiftgate-Drama veröffentlicht, aber raten Sie mal, wessen Gesicht die Forscher als Beispiel verwendet haben.
Unglaublich
Es ist offiziell, wir können unseren Augen und Ohren nicht mehr trauen. Sams Zusammenstellung der politischen Fälschungen die wir in den letzten Monaten beobachtet haben, verdeutlichen die Fortschritte in Bezug auf Umfang und Fähigkeiten, die KI den Betrügern ermöglicht.
KI-Klone von Stimmen haben sich dramatisch verbessert. Wir sind von roboterhaften monotonen Versuchen zur vollständigen Imitation von Tonfall und Emotionen übergegangen. Das gefälschte George-Carlin-Comedy-Video auf YouTube war ein gutes Beispiel dafür.
Carlins Nachlass ist nun Klage gegen die Macher der AI-Fake-Comedy-Show mit einigen überraschenden Eingeständnissen der Personen, die hinter dem Video stehen.
Gefälschte Audiodateien sind immer leichter herzustellen und schwerer zu erkennen. Die Demokratisierung dieser KI-Tools bedeutet, dass auch der einfache Mann auf der Straße zur Zielscheibe wird. Ein Schuldirektor aus Baltimore sagt, dass die Stimme in einer beleidigenden Audioaufnahme nicht seine eigene war, sondern eine KI-Fälschung. Urteilen Sie selbst.
Mein erster Gedanke war: "Er lügt", aber dann habe ich gesehen, was ein Audioforensiker zu dem Clip gesagt hat.
Offen und geschlossen
Was verbirgt sich hinter einem Namen? Das "Open" in OpenAI scheint nicht mehr das zu bedeuten, was es einmal war. OpenAIs Abweichen von seinem Namensvetter und Gründungsprinzipien ist eine interessante Lektüre.
Das Unternehmen behauptet, es sei immer noch transparent, solange Sie keine Fragen zu seinen Finanzberichten, Modell-Trainingsdaten, Interessenkonflikten, warum es Altman gefeuert hat... Sie verstehen schon.
wie das Jahr 2024 aussehen wird pic.twitter.com/bvgBFSAW4H
- kache (yacine) (KING OF DING) (@yacineMTB) 31. Januar 2024
OpenAI hat offen über seine Ambitionen gesprochen, seine eigenen KI-Chips zu produzieren. Altman still und leise ist nach Südkorea geflogen mit Samsung und einigen anderen Chip-Herstellern zu sprechen, um Hilfe zu bekommen.
Die undurchsichtigen Operationen von OpenAI entsprechen vielleicht eher der Geheimniskrämerei der Führer weiter nördlich von Seoul.
Ein Bericht, der die Dynamik der Nordkoreas wiederauflebende KI-Industrie zeigt, dass die künstliche Intelligenz dort eine größere Rolle spielt, als einige vielleicht gedacht haben. Ich vermute, Kim Jong Un ist ein großer Fan der Open-Source-Strategie von Meta.
Die Regierung Biden jetzt verpflichtet Cloud-Unternehmen, ausländische Nutzer zu melden. Wenn Sie ein Informatiker in Nordkorea sind, sollten Sie ein anständiges VPN verwenden, wenn Sie sich mit AWS verbinden.
GPT-4 wird schlau
Wenn Sie GPT-4 bitten, Ihnen beim Brainstorming zu helfen, wird es bei einigen der Ideen, die es liefert, etwas repetitiv. Die Forscher kamen auf einige clevere prompte technische Strategien, die dies beheben können.
Wenn Sie auf der Suche nach kreativen Einträgen für Ihren Lebenslauf sind, kann ChatGPT auch dabei helfen. Es hat sich herausgestellt, dass KI von vielen Bewerbern genutzt wird, und Personalverantwortliche fördern es.
Diese Woche haben wir noch etwas anderes entdeckt, was GPT-4 gut kann. Die Forscher fanden heraus, dass GPT-4 mit den Fachärzten übereinstimmt Empfohlene Behandlungen für Schlaganfallopfer.
Patienten, die an Lähmungen oder ALS leiden, könnten bald von einem weiteren der zahlreichen Projekte von Elon Musk profitieren. Musk gab bekannt, dass Neuralink seine Erstes Gehirnimplantat bei einem Menschen.
Dies könnte schließlich eine direkte Kommunikation zwischen dem Gehirn und Geräten wie Handys oder Computern ermöglichen. Erleben wir das Prequel zu The Matrix?
Musk hat auch versucht, die $6 Milliarden, um sein KI-Projekt xAI auf die nächste Stufe zu heben. Schauen Sie sich an, was dieser Mann bisher getan hat, und dann geben Sie ihm einfach das Geld. Wann schläft dieser Mann?
Sicherheit geht vor
Die RAND Corporation wurde im Oktober für einen Bericht kritisiert, in dem es hieß, dass LLMs den Bösewichten bei der Herstellung einer Biowaffe helfen könnten. Ihr neuester Bericht sagt das ist vielleicht doch nicht wahr. Und dann führte OpenAI eine eigene Studie durch, die zu dem Schluss kam, dass eine spezielle Version von GPT-4 könnte den Bösewichten ein wenig helfen.
Eine sehr reale Gefahr könnte von KI-Agenten ausgehen, die ohne Aufsicht auf das Internet losgelassen werden. Die Forscher skizzierten die potenziellen Gefahren und schlugen drei Dinge vor, die dazu beitragen könnten Verbesserung der Sichtbarkeit von KI-Agenten, um sie sicherer zu machen.
Ist es Ihre Superkraft, die Fehler anderer Leute aufzuzeigen? Das CDAO und das Verteidigungsministerium organisieren Veranstaltungen zur Ermittlung von Verzerrungen in Sprachmodellen. Sie bezahlen Sie sogar Prämien für das Aufspüren von Bias-Fehlern.
KI in der EU
Die kommende EU AI Act Gipfel 2024 wird nächste Woche eröffnet. Das Gipfeltreffen ist eine ideale Gelegenheit, um Vorschläge zur KI-Regulierung zu erörtern und sich mit dem EU-KI-Gesetz und seinen globalen Auswirkungen auseinanderzusetzen.
Einige Bürgerrechtsgruppen fordern die EU auf Sonde OpenAI und Microsoft. Der große Batzen Geld, den Microsoft in OpenAI investiert hat, wirft Fragen nach den Auswirkungen auf den Wettbewerb im KI-Sektor auf.
Es dürfte schwer sein, dagegen zu argumentieren, denn Microsoft wird voraussichtlich seine bestes vierteljährliches Umsatzwachstum seit zwei Jahren. Vieles davon ist das Ergebnis von KI-Entwicklungen, an denen OpenAI beteiligt war.
Die italienische Datenschutzbehörde hat die Datenschutzbedenken wegen ChatGPTs Pannen mit persönlichen Informationen und die Folgen von verleumderischen Halluzinationen.
Weitere Nachrichten...
Hier sind einige andere klickwürdige AI-Geschichten, die uns diese Woche gefallen haben:
- Die U.S. National Science Foundation hat den Nationale Forschungsressource für künstliche Intelligenz (NAIRR)-Pilotprogramm.
- KI-Unternehmen müssen beginnen Berichterstattung über ihre Sicherheitstests an die US-Regierung. Nicht alle halten dies für eine gute Idee.
"Alle Ihre Modelle gehören uns."
Dies ist das Endspiel der massiven Lobbyarbeit für die Vereinnahmung der Regulierung durch diejenigen, die "KI-Sicherheit als Dienstleistung" verkaufen wollen.
Modelle sollten frei von Genehmigungen sein, damit Innovation gedeihen kann. Dies ist eine Form der Besteuerung neuronaler Netze und wird sich negativ auswirken. pic.twitter.com/wpP7zwMCv3
- Beff Jezos - e/acc ⏩ (@BasedBeffJezos) 1. Februar 2024
- Ein ehemaliges Vorstandsmitglied ist kritisch gegenüber dem Risiko in Verbindung mit der derzeitigen Struktur des OpenAI-Vorstands und der Macht, die dieser ausübt.
- Meta ist frei Code Llama Das KI-Programmierwerkzeug schließt die Lücke mit GPT-4.
- OpenAI und Common Sense Media arbeiten zusammen zum Schutz von Jugendlichen vor KI-Schäden und -Missbrauch.
Und das war's dann auch schon.
An die Swifties unter unseren Zuhörern: Wir hoffen, Sie haben sich von der traumatischen Woche erholt. Habt ihr auf X gestöbert, als ihr die AI-Bilder zufällig entdeckt habt? Oder mussten Sie sich anstrengen, um sie online zu finden?
Ich glaube nicht, dass jemand mit meinem Gesicht gefälschte Nacktfotos macht, aber ich werde vielleicht vorsichtiger sein, wem ich in Zukunft eine Sprachnachricht schicke. Das Klonen von KI-Stimmen wird immer verrückter.
Haben Sie sich für die Neuralink-Studie angemeldet? Würden Sie sich von Elon Musk einen Chip in Ihr Gehirn einsetzen lassen? Musk hat es geschafft, ein paar SpaceX-Raketen in die Luft zu jagen, bevor er es richtig gemacht hat. Ich denke, ich warte, bis sie die Fehler ausgemerzt haben.
Lassen Sie uns wissen, was Sie denken, und schicken Sie uns Links zu interessanten KI-Geschichten, die wir vielleicht verpasst haben.
