Välkommen till veckans sammanfattning av hantverksmässiga handgjorda AI-nyheter.
Den här veckan fick vi reda på att AI trots allt inte kan hjälpa dig att bygga ett biovapen, eller kanske kan det.
Tay Tays armé av Swifties bekämpade falsk AI-porr.
Och AI gjorde att vi litade ännu mindre på politiker än vad vi redan gjorde.
Låt oss gräva i det.
Snabb orättvisa
Taylor Swift fann sig själv som måltavla för explicit AI djupa falska bilder den här veckan. Den förståeliga upprördhet som följde riktades också mot plattformar som X som inte verkade ha något försvar mot den här typen av innehåll.
Reaktionerna var omfattande, både från branschen och från allmänheten. Taylors armé av Swifties gick in i fullt Sherlock Holmes-läge. De spårade upp och doxxade den man som påstods ligga bakom bilderna efter att han självsäkert hävdat: "De kommer aldrig att hitta mig."
Det är helt enkelt för enkelt för vem som helst att skapa den här typen av bilder med hjälp av AI. Med InstantID blev det just mycket enklare. Modellen gör det möjligt för AI-bildgeneratorer att skapa reproduktioner från en enda bild av en persons ansikte.
Forskningsrapporten om InstantID publicerades före Swiftgate-dramat, men gissa vems ansikte forskarna använde som exempel.
Otroligt
Nu är det officiellt, vi kan inte tro våra ögon och öron längre. Sams sammanställning av de politiska djupförfalskningarna som vi har sett under de senaste månaderna visar på den utveckling i både skala och kapacitet som AI ger bedragare.
AI-kloner av röster har förbättrats dramatiskt. Vi har gått från robotiserade monotona försök till fullskalig imitation av ton och känsla. Den falska George Carlin-komedivideon på YouTube var ett bra exempel på detta.
Carlins dödsbo är nu stämmer skaparna av AI:s falska komediserie med några överraskande erkännanden av personerna bakom videon.
Det blir allt lättare att göra djupt falska ljud och allt svårare att upptäcka dem. Demokratiseringen av dessa AI-verktyg innebär att den vanliga mannen på gatan befinner sig som ett mål. En rektor i Baltimore säger att rösten i en stötande ljudinspelning inte var hans utan en AI-fejk. Du är domaren.
Min första instinkt var: "Han ljuger", men sedan såg jag vad en ljudteknisk expert sa om klippet.
Öppet och stängt
Vad är det i ett namn? "Open" i OpenAI verkar inte längre betyda vad det en gång gjorde. OpenAI:s avvikelse från sin namne och grundprinciper är intressant läsning.
Företaget hävdar att det fortfarande är transparent, så länge du inte ställer frågor om dess finansiella rapporter, modellutbildningsdata, policy för intressekonflikter, varför de avskedade Altman, ... Du får bilden.
hur 2024 kommer att se ut pic.twitter.com/bvgBFSAW4H
- kache (yacine) (KING OF DING) (@yacineMTB) 31 januari 2024
Något som OpenAI har varit uppriktiga med är ambitionerna att tillverka egna AI-chip. Altman säger tyst flög iväg till Sydkorea att prata med Samsung och några andra chiptillverkare för att få hjälp med detta.
OpenAI:s ogenomskinliga verksamhet kan vara mer i linje med den hemlighetsfulla karaktären hos ledare längre norr om Seoul.
En rapport som avslöjade dynamiken i Nordkoreas återuppståndna AI-industri visar att AI spelar en större roll där än vad vissa kanske har trott. Jag gissar att Kim Jong Un är ett stort fan av Metas strategi för öppen källkod.
Biden-administrationen nu kräver att molnföretag rapporterar utländska användare. Om du är en datavetare i Nordkorea kanske du vill använda ett bra VPN när du ansluter till AWS.
GPT-4 blir smartare
Om du ber GPT-4 att hjälpa dig att brainstorma blir det lite repetitivt med några av de idéer det kommer upp med. Forskare kom med några smarta snabba tekniska strategier som kan åtgärda det.
Om du letar efter några kreativa poster att lägga till i ditt CV kan ChatGPT hjälpa dig med det också. Det visar sig att AI används i stor utsträckning av arbetssökande, och anställande chefer uppmuntrar det.
Den här veckan upptäckte vi något annat som GPT-4 var bra på. Forskare fann att GPT-4 höll med expertläkare om rekommenderade behandlingar för strokepatienter.
Patienter som lider av förlamning eller ALS kan snart dra nytta av ytterligare ett av Elon Musks många projekt. Musk meddelade att Neuralink slutfört sin första hjärnimplantatet i en människa.
Detta skulle så småningom kunna möjliggöra direkt kommunikation mellan hjärnan och enheter som mobiltelefoner eller datorer. Lever vi i föregångaren till The Matrix?
Musk har också försökt att höja $6 miljarder för att ta sitt AI-projekt xAI till nästa nivå. Ta en titt på vad den här mannen har gjort hittills och ge honom sedan bara pengarna. När sover den här killen?
Säkerheten först
RAND Corporation fick mycket kritik för en rapport från oktober som sa att LLM "kan" hjälpa skurkar att göra ett biovapen. Deras senaste rapport säger det kanske inte är sant trots allt. Och sedan gjorde OpenAI en egen studie som drog slutsatsen att en specialversion av GPT-4 kan hjälpa skurkarna lite.
En mycket verklig fara kan komma från AI-agenter som släpps lösa på internet utan övervakning. Forskare beskrev de potentiella farorna och föreslog tre saker som skulle kunna öka insynen i AI-agenter för att göra dem säkrare.
Är din superkraft att peka ut andras misstag? CDAO och DoD anordnar evenemang för att identifiera partiskhet i språkmodeller. De kommer till och med att betala dig belöningar för att upptäcka buggar med partiskhet.
AI i EU
Den kommande EU:s toppmöte om AI-lagen 2024 inleds nästa vecka. Toppmötet kommer att vara ett perfekt tillfälle att diskutera förslag till AI-reglering och sätta sig in i EU:s AI Act och dess globala konsekvenser.
Vissa medborgarrättsgrupper uppmanar EU att sond OpenAI och Microsoft. Den stora summa pengar som Microsoft investerade i OpenAI väcker frågor om hur konkurrensen inom AI-sektorn kommer att påverkas.
Det kan vara svårt att argumentera mot det, eftersom Microsoft förväntas publicera sin bästa kvartalsvisa omsättningstillväxten på två år. En stor del av detta beror på AI-utveckling som OpenAI har hjälpt företaget att göra.
Italiens dataskyddsmyndighet har höjt oro för datasekretess över ChatGPT:s misstag med personlig information och konsekvenserna av kränkande hallucinationer.
Andra nyheter...
Här är några andra klickvärda AI-berättelser som vi gillade den här veckan:
- Den amerikanska National Science Foundation lanserade Nationell resurs för forskning om artificiell intelligens (NAIRR) pilotprogram.
- AI-företag kommer att behöva börja rapportera sina säkerhetstester till USA:s regering. Alla håller inte med om att detta är en bra idé.
"Alla dina modeller tillhör oss."
Detta är slutspelet för de stora lobbyinsatserna för att få till stånd en reglering av dem som vill sälja "AI-säkerhet som en tjänst".
Modeller bör vara tillståndslösa för att innovation ska kunna blomstra. Detta är en form av beskattning av neurala nät och kommer att vara en nettodekalering. pic.twitter.com/wpP7zwMCv3
- Beff Jezos - e/acc ⏩ (@BasedBeffJezos) 1 februari 2024
- En före detta styrelseledamot är kritisk till risken förknippade med OpenAI:s nuvarande styrelsestruktur och den makt den har.
- Meta är gratis Kod Llama AI-programmeringsverktyget tar upp kampen med GPT-4
- OpenAI och Common Sense Media i samarbete för att skydda tonåringar från skador och missbruk av AI.
Och det var allt.
Till Swifties i vår publik hoppas vi att ni har återhämtat er från den traumatiska veckan. Surfa du på X när du upptäckte AI-bilderna oavsiktligt? Eller fick du jobba hårt för att hitta dem på nätet?
Jag tror inte att någon kommer att göra falska nakenbilder med mitt ansikte, men jag kanske är mer försiktig med vem jag skickar ett röstmeddelande till i framtiden. AI-röstkloning börjar bli galen.
Har du anmält dig till Neuralink-testet? Skulle du låta Elon Musk sätta ett chip i din hjärna? Musk lyckades spränga några SpaceX-raketer innan han fick det rätt. Jag tror att jag väntar tills de har rett ut buggarna.
Låt oss veta vad du tycker, och skicka oss länkar till saftiga AI-berättelser som vi kan ha missat.
