DAI#10 - Hackspettar, Robocalls och förgiftade AI-data

Välkommen till veckans nyhetssammanställning som är särskilt utformad för icke-kiselbaserade fans av AI.

Den här veckan fick AI en borgmästare att tala i tungor.

Ett tvådagars toppmöte och $10m hoppas kunna lösa AI-säkerhet.

Och ChatGPT gör vad du än ber om, bara du visar rätt bilder.

Ring inte oss, AI kommer att ringa dig

Om du tyckte att robocalls var dåliga förut, tänk dig hur de skulle kunna vara med en gnutta AI. FCC försöker komma fram till vad man ska göra åt det.

Under tiden använde borgmästaren i New York City just deepfake-teknik för att robocalla stadsbor på en massa språk som han inte talar. Byråkratisk effektivitet till slut, eller bara läskigt?

Polisen i Idaho håller människorna där "säkrare" genom att använda AI-teknik som kan låsa upp och hämta data från din telefon på distans. De vill inte säga exakt hur det fungerar, men de svär på att det är lagligt.

Att använda AI i den offentliga sektorn skulle göra köerna kortare och hjälpa människor att få tillgång till tjänster på ett mer effektivt sätt. Bevis på AI-missbruk, fördomar och dysfunktionalitet inom den offentliga sektorn i Storbritannien är toppen av isberget.

AI: 'Jag ser här att det står att du är bulgarisk. Du måste begå bedrägeri. Avslås!

via GIPHY

Den brittiska regeringen offentliggjorde schema för AI Safety Summit som kommer att hållas den 1-2 november.

De släppte också en rapport som kommer att fungera som ett diskussionsunderlag för det två dagar långa toppmötet. I rapporten listas potentiella AI-risker och domedagsscenarier som man förväntar sig från konspirationsteoretiker, så det är en ögonöppnare att se det i ett regeringsdokument.

För att hjälpa till att göra sitt för saken lanserade Big Tech AI-företag AI:s säkerhetsfond och hade en runda för att lägga en ynka $10m i kassan.

DeepMinds VD sa att AI-riskerna är jämförbara med klimatkrisen. Med hänvisning till kärnkraftsolyckan i Tjernobyl sa han: "Vi vet ännu inte hur en 'AI-katastrof' skulle kunna se ut."

Ett tvådagars toppmöte och $10m är myran på spåret som försöker stoppa AI-godståget.

Visa mig pengarna

Teknikindustrin har tagit fram en del fantastiska AI-produkter, men kan de faktiskt tjäna några pengar från dem? Den summa pengar som det kostar att driva ChatGPT eller Co-Pilot varje dag får en att tappa hakan.

Investerare tycker uppenbarligen att det finns pengar att tjäna. Apple höjde just sin årliga investeringar i generativ AI till $1 miljarder som försöker komma ikapp efter en långsam start i AI-racet.

Dess nya iPhone är lite lätt på AI-funktioner jämfört med Googles Pixel 8-telefonersom har avancerade AI-bildredigeringsfunktioner.

Investerade du i Nvidia innan dess aktiekurs fyrdubblades under det senaste året? Tja, om du vill fira med en fest på en Airbnb-uthyrning så AI kan sätta käppar i hjulet för dessa planer.

Mo-lägen, mo-problem

Multimodal och generativ AI-kapacitet fortsätter att förbättras exponentiellt. AI kan nu skapa en 3D-miljö från en enkel textfrågamen den används också för att skapa deepfake-bilder av sexuella övergrepp mot barn.

GPT-4:s visionfunktionalitet gör fantastiska saker med bildanalys, men denna förmåga gör den också sårbar för attacker. När det gäller att jailbreaka modellen, en bild säger verkligen mer än tusen ord.

Är du en konstnär eller fotograf som är trött på att AI-modeller river av ditt arbete? Tja, nu kan du använda en dataförgiftningsverktyg kallat Nightshade för att förvirra AI-bildgeneratorer.

Det har sin del av utmaningarna, men GPT-4V är verkligen fantastiskt. Kolla in det här exemplet och berätta sedan igen hur ChatGPT bara är bra på att förutsäga nästa ord.

AI i framkant

Att köra större AI-modeller på batteridrivna enheter kan hända tidigare än du tror. IBM tillkännagav sin prototyp NorthPole chip som utlovar mycket snabbare AI-processering med låg energiåtgång. Företagets nya metod för chiparkitektur kan komma att förändra spelplanen.

Att köra AI på kanten kommer att vara ett stort lyft för våra eventuella robotöverherrar. Meta tillkännagav Habitat 3.0, en Plattform för utbildning av AI-robotar som lär robotar hur de ska hjälpa till i hemmet tusentals gånger snabbare än med träning i verkligheten.

Låt det gå som det går

Även om det var tänkt att träda i kraft först i november, meddelade den amerikanska regeringen att dess Exportförbud för AI-hårdvara kommer att träda i kraft omedelbart. Förvänta dig att en hälsosam svartabörshandel med Nvidia-chips kommer att fortsätta.

Kina har lagrat AI-chips och kastar pengar på AI-utveckling. En kinesisk startup vid namn Zhipu säkrade 2,5 miljarder yuan ($340 miljoner) i finansiering. Det finns några överraskande namn bland sina investerare.

Hittade ChatGPT på något när du bad den att beskriva en bild? Kinesisk forskning kan hjälpa till att lösa hallucinationsproblemet. Woodpecker är ett förvånansvärt enkelt open source-lösning som skulle kunna göra multimodala modeller som GPT-4V mycket bättre.

AI snabbar upp forskningen

Forskningsrapporter måste granskas av kollegor, men de som gör det är ofta för upptagna med att skriva sina egna rapporter. ChatGPT är förvånansvärt bra på att göra ännu en annan människas jobb.

AI hjälper också läkare att snabbt ta reda på vad som är fel på dig. Forskare kunde använda AI för att diagnostisera diabetes genom att analysera en 6 till 10 sekunder lång röstinspelning av en patient.

Alla de fantastiska saker som AI-modeller kan göra drivs av data. Ny forskning om AI-datauppsättningar avslöjar systematiska etiska och juridiska frågor som är baksidan av AI-myntet.

Andra nyheter...

Det fanns massor av andra klickvärda AI-nyheter den här veckan. Här är några av våra favoriter:

• John Stewarts show på Apple TV ställdes in på grund av hans kommentarer om AI och Kina.
• LLM:er är förvånansvärt dåliga på matematik. Dessa forskare tog Llama 2 och gjorde LLEMMA, en LLM med fokus på matematik.
• Vi väntar alla på att GPT-5 ska släppas men Bill Gates säger kommer det inte att vara mycket bättre än GPT-4. Har du en touch av OpenAI-avund där Bill?

• AI är inte bra för miljön, men det kan göra roliga deepfakes av miljöaktivister.

Det galna är att AI är det värsta det någonsin kommer att vara just nu ... 🤨#HowDareYou #GretaThunberg #AI 1TP5Redigerad #Climatkrisen pic.twitter.com/mkEz25E0gp

- Mrgunsngear (@Mrgunsngear) 23 oktober 2023

Och det var allt.

Om du bor i New York skulle vi gärna vilja veta om du fick ett robotsamtal från borgmästaren och hur det lät.

Skulle du vara ok med en AI-robot som gör dina hushållssysslor? Eller kommer du att avvakta med det köpet för att se om AI Safety Summit hittar ett sätt att undvika att vi av misstag bygger Skynet först?

Om jag hade en extra $75k tror jag att jag skulle ta risken och köpa en Boston Dynamics Spot robodog.

Om du tycker att vi har missat en bra AI-nyhet får du gärna berätta det för oss.