DAI#59 - API:er, döda räkningar och NVIDIA öppnar upp

Välkommen till vår veckovisa sammanställning av AI-nyheter skapade av människor.

Den här veckan delade OpenAI ut API-godis.

Kaliforniens lagförslag om AI-säkerhet gick i stöpet.

Och NVIDIA överraskade oss med en kraftfull öppen modell.

Låt oss gräva i det.

Här kommer agenterna

OpenAI tillkännagav inte några nya modeller (eller Sora) vid sitt Dev Day-evenemang, men utvecklare var glada över nya API-funktioner. Realtime API kommer att förändra spelplanen för att skapa smartare applikationer som talar med användare och till och med fungerar som agenter.

Demot var riktigt häftigt.

Det har förekommit rykten om att OpenAI skulle gå den "vinstdrivande" vägen och tilldela Sam Altman miljarder dollar i eget kapital men Altman avfärdade dessa. Trots detta är företaget på väg mot mer investeringar och de förväntar sig en viss avkastning för sina kontanter.

Apple har integrerat OpenAI:s modeller i sina enheter, men hoppade av den senaste finansieringsrundan för OpenAI som förväntas inbringa cirka $6,5 miljarder kronor.

Vi är inte säkra på varför Apple inte vill ha en bit av OpenAI-kakan, men det kan ha något att göra med nya utvecklingar med sin Apple Intelligens. Eller kanske är det relaterat till Sam Altmans krav på exklusivitet.

Säg att du inte har någon vallgrav utan att säga att du inte har någon vallgrav. pic.twitter.com/3I18MosvOg

- Pedro Domingos (@pmddomingos) 3 oktober 2024

Dödsstraff

Gavin Newsom var tvungen att välja mellan att sätta en säkerhetsbegränsning på AI-utvecklare eller låta dem köra på för fullt. I slutändan.., beslutade han att lägga in sitt veto mot Kaliforniens lagförslag SB 1047 om AI-säkerhet och gav några intressanta skäl till varför.

Är vi verkligen framme vid en punkt där vi står inför verkliga AI-risker än?

Det eskalerade snabbt https://t.co/xhZCITRJjE pic.twitter.com/aLZn4blS8G

- AI Notkilleveryoneism Memes ⏸️ (@AISafetyMemes) 30 september 2024

Newsom har undertecknat en rad AI-lagförslag under den senaste månaden som rör deepfakes, AI-vattenmärkning, barns säkerhet, artisters AI-rättigheter och felaktig valinformation. Förra veckan undertecknade han AB 2013 som verkligen kommer att skaka om saker och ting för LLM-skapares.

Lagförslaget säger att på eller före den 1 januari 2026 måste utvecklare tillhandahålla en sammanfattning på hög nivå av träningsdatasetet för alla modeller som gjorts från och med den 1 januari 2022 om modellen görs tillgänglig i Kalifornien. Några av dessa krav kan lufta några smutsiga hemligheter.

Fler EU-regler för AI

EU är uppenbarligen mycket mer angeläget om AI-säkerhet än resten av världen. Antingen det eller så tycker de bara om att skriva och anta lagstiftning. Den här veckan kickstartade de en projekt för att skriva en AI-regelbok att försöka hitta en balans mellan innovation och säkerhet.

När du ser vem som leder den säkerhetstekniska gruppen har du en god uppfattning om vilket håll de kommer att luta sig åt.

Modeller för flytande foundation

Det var Transformer-modellerna som gav oss ChatGPT, men på senare tid har det diskuterats om de kommer att klara av att leverera nästa steg inom AI. Ett företag som heter Liquid AI skakar upp saker med sin Modeller för flytande foundation (LFM).

Det här är inte typiska generativa AI:er. LFM:er är särskilt optimerade för att hantera data med längre kontext, vilket gör dem idealiska för uppgifter där man måste hantera sekventiell data som text, ljud eller video.

LFM:erna uppnår imponerande prestanda med en mycket mindre modell, mindre minne och färre beräkningar.

NVIDIA öppnar upp

Nvidia har just släppt en game-changer: en AI-modell med öppen källkod som går head-to-head med stora aktörer som OpenAI och Google. Deras nya NVLM 1.0-serie, som leds av flaggskeppsparametern 72B NVLM-D-72B, briljerar i både syn- och språkuppgifter samtidigt som den förbättrar kapaciteten för enbart text.

Med öppna vikter och NVIDIA:s löfte om att släppa koden blir det allt svårare att motivera att betala för proprietära modeller för många användningsfall.

Säg bara vet

En ny studie visar att de senaste stora språkmodellerna (LLM) är mindre benägna att erkänna när de inte vet svaret på en användares fråga. När användarna ställer en fråga till dessa modeller är det mer sannolikt att de hittar på något än att de erkänner att de inte vet svaret.

Studien belyser behovet av en grundläggande förändring i utformningen och utvecklingen av AI för allmänna ändamål, särskilt när det används i områden med höga insatser. Forskarna försöker fortfarande förstå varför AI-modeller är så angelägna om att vara oss till lags i stället för att säga: "Tyvärr, jag vet inte svaret.

AI inuti

Det verkar som om alla sätter en "AI"-etikett på sina produkter för att locka till sig kunder. Här är några AI-drivna verktyg som faktiskt är värda att kolla in.

Bluedot: Spela in, transkribera och sammanfatta dina möten med AI-genererade anteckningar utan en bot.

Vägledning: Guidde förvandlar dina arbetsflöden till steg-för-steg-videoguider, kompletta med AI-genererade voiceovers och proffsiga bilder, allt med bara några klick.

Andra nyheter...

Här är några andra klickvärda AI-berättelser som vi gillade den här veckan:

• Metas AI-drivna smarta glasögon höjs oro för integritet och användardata.
• AI-verktyg är avslöjar besvärliga företagshemligheter.
• MIT gör en genombrott inom robotteknik för att hantera kaos i verkliga livet.
• LinkedIn står inför juridiska komplikationer över sin AI-integration.
• Anthropic anställer OpenAI:s medgrundare Durk Kingma.
• Y Combinator kritiseras efter att ha stöttat en AI-startup som medger att det i princip klonade ett annat AI-startup.

Och det var allt.

Om du bor i Kalifornien skulle vi gärna vilja veta hur du känner för SB 1047 som får veto. Är det en missad möjlighet för AI-säkerhet eller ett positivt steg som kommer att se oss få AGI snart? Med kraftfulla modeller med öppen källkod som NVIDIA:s nya bombshell kommer det ändå att bli svårare att reglera LLM:er.

OpenAI:s Realtime API var höjdpunkten den här veckan. Även om du inte är en utvecklare är utsikterna att interagera med smartare kundtjänstrobotar som pratar med dig ganska coola. Såvida du inte arbetar som kundtjänstmedarbetare och vill behålla ditt jobb, vill säga.

Låt oss veta vad du tycker, följ oss på Xoch skicka oss länkar till coola AI-grejer som vi kanske har missat.