DAI#40 - Imitation, OpenAI-drama og AI-sikkerhedsforvirring

24. maj 2024

Velkommen til denne uges oversigt over menneskeskabte AI-nyheder.

I denne uge fornærmede AI en skuespillerinde og mistede sin stemme.

Sony ønsker ikke, at AI skal lytte til deres musik.

Og vi kigger ind i den "sorte boks" for at afkode AI-sindet.

Lad os se nærmere på det.

Vis dit arbejde

Hvis et AI-system altid gav dig det rigtige svar, men du ikke forstod, hvordan det fungerede, ville det så betyde noget? Selv de ingeniører, der skaber LLM'er, forstår ikke helt, hvordan de fungerer.

Sam Jeans udforsker Anthropics forsøg på at ændre på det, da dets forskere kigger ind i den "sorte boks" for at afkode AI-sindet. Hvad fandt de ud af?

Jeg er målløs

Scarlett Johansson sagde, at hun var chokeret over at høre, at GPT-4os sultne "Sky"-stemme lød uhyggeligt meget som hendes.

Sam Altman siger, at hans anmodning om at bruge hendes stemme, Johanssons afslag, hans tweet med henvisning til filmen "Her" og Sky, der lyder som Johansson, alt sammen er et rent tilfælde.

Hvad synes du om det? Dette X-indlæg opsummerede debatten på en god måde.

Mens den debat fortsætter, er der stadig det lille spørgsmål om at sikre, at AI ikke ødelægger os alle.

Det bliver mere og mere klart, at Ilya Sutskever og Jan Leike fra OpenAI's "superalignment"-team måske har forladt virksomheden på grund af sikkerhedsproblemer. Hvad var det, de så?

Sæbeopera-dramaet på OpenAI fortsætter, da det rejser flere spørgsmål om Altmans lederskab.

Du kan ikke røre ved dette

Den Sony Music Group har advaret 700 virksomheder herunder Google, Microsoft og OpenAI, at deres musik og andet indhold er forbudt for AI-træning.

Sony: "Vi tror, at I har brugt vores musik. Har I det?
AI-virksomhed: "Det ville vi aldrig gøre".
Sony: "Må vi tage et kig på jeres træningsdata?
AI-virksomhed: 'Ummm....'

Jeg tænkte, at det ville være passende at lade Suno har et skamløst forsøg på at opsummere situationen. Det er forfærdeligt. Jeg elsker det.

De bedste billed-, video- eller musikgeneratorer er næsten helt sikkert trænet på ophavsretligt beskyttede data. Men behøver det at være sådan?

Forskere ved University of Texas fandt en måde at træne en model til at skabe billeder uden at 'se' ophavsretligt beskyttet arbejde.

AI dyb forfalskning af rally

Bollywood-film er måske nok en af Indiens største industrier, men politisk AI dybe forfalskninger som en tjeneste er en voksende tendens med landets valg i fuld gang.

Grænsen mellem kreative politiske budskaber og farlig AI-genereret misinformation er ved at blive udvisket med potentielt alvorlige konsekvenser til følge.

Skaberne af de førende AI-modeller siger, at de har indført sikkerhedsforanstaltninger for at forhindre misbrug af deres værktøjer, men det ser ikke ud til at fungere særlig godt.

En undersøgelse fra den britiske regering viste, at alle 5 LLM'er, som forskerne testede, var "Meget sårbar" over for "basale" jailbreaks.

Dit job på autopilot

Microsoft afslørede flere AI-drevne værktøjer til arbejdsautomatisering på sit Build-event. Med opgraderinger til Copilot og AI-agenter nu er i stand til at klare hverdagens opgaver, vil din chef måske undre sig over, om han stadig har brug for, at du møder ind på mandag.

Førende AI-virksomheder er blevet enige om en ny en række frivillige sikkerhedsforpligtelser forud for det todages AI-topmøde i Seoul. Måske kunne de blive enige om at finansiere en universel basisindkomst (UBI) fra deres overskud for at erstatte arbejdernes lønninger.

Tilhængerne af e/acc vil fortælle dig, at vi ikke behøver at bekymre os om AI-sikkerhed, men Google er tydeligvis mere end en smule nervøs. Virksomheden har netop offentliggjort sin Ramme for grænsesikkerhed for at afbøde forventede "alvorlige" AI-risici.

De hypotetiske scenarier, som dokumentet beskriver, er skræmmende. Googles indrømmelse af, at der er farer, som de ikke kan forudse, er endnu mere skræmmende.

Yann LeCun er ikke enig.

Talende AI

Sam Jeans havde en Fascinerende diskussion med Chris Benjaminsenmedstifter og Director of Channels hos FRVR, en platform, der bruger generativ AI til at skabe spil ud fra naturligt sprog.

Sam forsøgte sig med at lave 2 spil og demonstrerede, hvor enkel processen er.

Vil du prøve at lave dit eget spil? Du kan få adgang til FRVR.ai's offentlige beta og begynde at skabe dine helt egne spil. gratis her.

AI-begivenheder

I denne uge er 14. årlige City Week-konference i London var vært for over 1.000 beslutningstagere på topniveau fra finansielle institutioner verden over for at diskutere, hvordan teknologi som AI transformerer finansbranchen.

Enterprise Generative AI Summit på vestkysten i Silicon Valley, Californien, udforskede AI-praktikere, dataforskere og virksomhedsledere, hvordan organisationer kan integrere generative AI-funktioner i deres organisationer.

Hvis du overvejer en rejse til Mellemøsten, er her en god grund til at booke din billet. Den COMEX Global Technology Show 2024 finder sted i næste uge og giver et spændende indblik i en fremtid, der er formet af AI, VR og blockchain.

Andre nyheder...

Her er nogle andre klikværdige AI-historier, som vi nød i denne uge:

Og så er det slut.

Synes du, Sky lyder som Scarlett Johansson? Jeg er sikker på, at Altman ønskede det, men jeg kan ikke rigtig høre det. Jeg håber, de bringer Sky tilbage.

Jeg kunne godt tænke mig at vide, hvad OpenAI arbejder på, som fik deres superalignment-team til at springe fra. Det må være ret imponerende. Og skræmmende.

Har du prøvet kræfter med Lav dit eget AI-spil? Vi vil meget gerne prøve det. Send os et link, og fortæl os, om vi er gået glip af interessante AI-nyheder.

Deltag i fremtiden


TILMELD DIG I DAG

Klar, kortfattet, omfattende. Få styr på AI-udviklingen med DailyAI

Eugene van der Watt

Eugene har en baggrund som elektronikingeniør og elsker alt, hvad der har med teknologi at gøre. Når han tager en pause fra at læse AI-nyheder, kan du finde ham ved snookerbordet.

Ingen kategorier fundet.
×

GRATIS PDF EKSKLUSIVT
Vær på forkant med DailyAI

Tilmeld dig vores ugentlige nyhedsbrev og få eksklusiv adgang til DailyAI's seneste e-bog: 'Mastering AI Tools: Din 2024-guide til forbedret produktivitet'.

*Ved at tilmelde dig vores nyhedsbrev accepterer du vores Politik for beskyttelse af personlige oplysninger og vores Vilkår og betingelser