Velkommen til ukens oppsummering av håndverksmessige AI-nyheter.
Denne uken fant vi ut at AI ikke kan hjelpe deg med å bygge et biovåpen likevel, eller kanskje den kan det.
Tay Tays hær av Swifties kjempet mot falsk AI-porno.
Og kunstig intelligens fikk oss til å stole enda mindre på politikerne enn vi allerede gjorde.
La oss grave oss ned i det.
Rask urettferdighet
Taylor Swift ble utsatt for en rekke eksplisitt AI dype falske bilder denne uken. Den forståelige forargelsen som fulgte, var også rettet mot plattformer som X, som ikke så ut til å ha noe forsvar mot denne typen innhold.
Reaksjonene var mange, både i bransjen og blant publikum. Taylors hær av Swifties gikk inn i full Sherlock Holmes-modus. De sporet opp og doxxet fyren som angivelig sto bak bildene etter at han selvsikkert hevdet: "De vil aldri finne meg."
Det er rett og slett for enkelt for hvem som helst å lage slike bilder ved hjelp av kunstig intelligens. Med InstantID ble det nettopp mye enklere. Modellen gjør det mulig for AI-bildegeneratorer å lage reproduksjoner fra ett enkelt bilde av en persons ansikt.
InstantID-forskningsartikkelen ble publisert før Swiftgate-dramaet, men gjett hvem forskerne brukte som eksempel.
Utrolig
Det er offisielt, vi kan ikke tro våre egne øyne og ører lenger. Sams samling av de politiske dypforfalskningene vi har sett de siste månedene, viser utviklingen i både omfang og kapasitet som kunstig intelligens gir svindlere.
AI-kloninger av stemmer har blitt dramatisk mye bedre. Vi har gått fra monotone robotforsøk til fullskala imitasjon av tonefall og følelser. Den falske George Carlin-komedievideoen på YouTube var et godt eksempel på dette.
Carlins eiendom er nå saksøker skaperne av det falske AI-komedieshowet med noen overraskende innrømmelser fra folkene bak videoen.
Det blir stadig lettere å lage falsk lyd og vanskeligere å oppdage den. Demokratiseringen av disse AI-verktøyene betyr at den vanlige mannen i gata blir et mål. En rektor i Baltimore sier at stemmen i et krenkende lydopptak ikke var hans, men en AI-falsk. Det er opp til deg å bedømme.
Min første tanke var: "Han lyver", men så så jeg hva en lydteknisk ekspert sa om klippet.
Åpen og lukket
Hva ligger i et navn? "Open" i OpenAI ser ikke ut til å bety det det en gang gjorde. OpenAIs avdrift fra sin navnebror og grunnleggende prinsipper er interessant lesning.
Selskapet hevder at det fortsatt er transparent, så lenge du ikke stiller spørsmål om regnskapene, modellopplæringsdata, retningslinjer for interessekonflikter, hvorfor de sparket Altman, ... Du skjønner tegninga.
hvordan 2024 kommer til å bli pic.twitter.com/bvgBFSAW4H
- kache (yacine) (KING OF DING) (@yacineMTB) 31. januar 2024
Noe OpenAI har vært åpen om, er ambisjonene om å produsere sine egne AI-brikker. Altman har i det stille fløy til Sør-Korea å chatte med Samsung og noen andre brikkeprodusenter for å få hjelp med dette.
OpenAIs ugjennomsiktige virksomhet er kanskje mer i tråd med den hemmelighetsfulle naturen til ledere lenger nord for Seoul.
En rapport som avdekket dynamikken i Nord-Koreas AI-industri gjenoppstår viser at AI spiller en større rolle der enn noen kanskje har trodd. Jeg tipper Kim Jong Un er en stor tilhenger av Metas strategi med åpen kildekode.
Biden-administrasjonen har nå krever at skyselskaper rapporterer utenlandske brukere. Hvis du er informatiker i Nord-Korea, kan det være lurt å bruke et godt VPN når du kobler deg til AWS.
GPT-4 blir smart
Hvis du ber GPT-4 om å hjelpe deg med idémyldring, blir det litt repeterende med noen av ideene den kommer opp med. Forskerne kom opp med noen smarte raske tekniske strategier som kan fikse det.
Hvis du er på utkikk etter noen kreative bidrag til CV-en din, kan ChatGPT hjelpe deg med det også. Det viser seg at AI er mye brukt av jobbsøkere, og ansettelsesansvarlige oppfordrer til det.
Denne uken oppdaget vi noe annet som GPT-4 var god til. Forskere fant ut at GPT-4 var enig med ekspertleger om anbefalte behandlinger for slagrammede.
Pasienter som lider av lammelser eller ALS kan snart dra nytte av et annet av Elon Musks mange prosjekter. Musk kunngjorde at Neuralink fullførte sin første hjerneimplantat i et menneske.
Dette kan etter hvert muliggjøre direkte kommunikasjon mellom hjernen og enheter som mobiltelefoner eller datamaskiner. Er vi i ferd med å oppleve forløperen til The Matrix?
Musk har også forsøkt å skaffe $6 milliarder kroner for å ta AI-prosjektet xAI til neste nivå. Se på hva denne mannen har gjort så langt, og gi ham pengene. Når sover denne fyren?
Sikkerhet først
RAND Corporation fikk mye kritikk for en rapport fra oktober som sa at LLM-er "kan" hjelpe skurker med å lage et biovåpen. Deres siste rapport sier Det er kanskje ikke sant likevel.. Og så gjorde OpenAI en egen studie som konkluderte med at en spesialversjon av GPT-4 kan hjelpe skurkene litt.
En svært reell fare kan komme fra AI-agenter som slippes løs på internett uten tilsyn. Forskerne skisserte de potensielle farene og foreslo tre ting som kunne øke synligheten til AI-agenter for å gjøre dem tryggere.
Er din superkraft å påpeke andres feil? CDAO og DoD arrangerer arrangementer for å identifisere skjevheter i språkmodeller. De vil til og med betale deg dusør for å oppdage skjevheter.
AI i EU
Den kommende EUs AI Act-toppmøte 2024 starter neste uke. Toppmøtet vil være en ideell anledning til å diskutere forslag til AI-regulering og sette seg inn i EUs AI Act og dens globale konsekvenser.
Noen borgerrettighetsgrupper ber EU om å sonde OpenAI og Microsoft. Den store pengesummen Microsoft har investert i OpenAI, reiser spørsmål om hvordan dette vil påvirke konkurransen innen AI-sektoren.
Det kan være vanskelig å argumentere mot det, ettersom Microsoft forventes å legge ut sin beste kvartalsvise omsetningsvekst på to år. Mye av dette skyldes utviklingen av kunstig intelligens som OpenAI har bidratt til.
Italias databeskyttelsesmyndighet har hevet bekymring for personvernet på grunn av ChatGPTs tabber med personlig informasjon og konsekvensene av ærekrenkende hallusinasjoner.
Andre nyheter...
Her er noen andre klikkverdige AI-historier vi likte denne uken:
- U.S. National Science Foundation lanserte den Nasjonal forskningsressurs for kunstig intelligens (NAIRR) pilotprogram.
- AI-selskaper må begynne å rapportere sine sikkerhetstester til den amerikanske regjeringen. Ikke alle er enige i at dette er en god idé.
"Alle modellene dine tilhører oss."
Dette er sluttspillet for den kraftige lobbyvirksomheten for å få gjennomslag for regelverket fra dem som ønsker å selge "AI-sikkerhet som en tjeneste".
Modeller bør være tillatelsesfrie for at innovasjon skal kunne blomstre. Dette er en form for beskatning av nevrale nett, og vil være en netto nedgang. pic.twitter.com/wpP7zwMCv3
- Beff Jezos - e/acc ⏩ (@BasedBeffJezos) 1. februar 2024
- Et tidligere styremedlem er kritisk til risikoen knyttet til OpenAIs nåværende styrestruktur og den makten den innehar.
- Meta er gratis Kode Llama AI-programmeringsverktøyet tetter gapet med GPT-4.
- OpenAI og Common Sense Media inngår samarbeid for å beskytte tenåringer mot skader og misbruk av AI.
Og det var alt.
Til Swifties i publikum, vi håper du har kommet deg etter den traumatiske uken. Var du inne på X da du fikk øye på AI-bildene ved et uhell? Eller måtte du jobbe hardt for å finne dem på nettet?
Jeg tror ikke noen kommer til å lage falske nakenbilder av ansiktet mitt, men jeg kommer kanskje til å være mer forsiktig med hvem jeg sender stemmebeskjeder til i fremtiden. AI-stemmekloning begynner å bli galskap.
Har du meldt deg på Neuralink-prøveperioden? Ville du latt Elon Musk sette en chip i hjernen din? Musk klarte å sprenge noen SpaceX-raketter før han fikk det til. Jeg tror jeg venter til de har rettet opp feilene.
La oss få vite hva du synes, og send oss gjerne lenker til saftige AI-historier vi kan ha gått glipp av.
