Welkom bij de samenvatting van de beste verzameling handgemaakt AI-nieuws van deze week.
Deze week dronken wereldleiders veel thee en praatten ze over AI-veiligheid.
De president van de VS heeft een uitvoerend bevel over AI uitgevaardigd dat misschien nooit in werking zal treden.
En de toekomst van ongereguleerde AI-ontwikkeling zou wel eens op volle zee kunnen liggen.
Laten we ons erin verdiepen.
Een beetje minder conversatie, een beetje meer actie, alstublieft
De UK AI Safety Summit is deze week van start gegaan met de vrijgave van de "Bletchley Declaration". waarbij met name China zich aansloot bij de lijst van ondertekenaars.
Tot nu toe lijkt de top op veel gepraat met weinig concreet beleid. Als je een snelle inhaalslag wilt maken, lees dan Sam's geweldige een samenvatting van de eerste dag.
Er werd wel gesproken over mogelijke catastrofale toekomstige risico's, maar Nick Clegg zegt We moeten ons nu richten op de risico's die AI met zich meebrengt.
De TL;DR-versie van de top is: 'Laten we allemaal proberen veilig te zijn terwijl we met AI spelen. Tot over 6 maanden voor een nieuw AI-veiligheidsgesprek in Zuid-Korea.
Blijkbaar hebben de technische vaardigheden van UK PM Rishi Sunak niet veel mensen vertrouwen gegeven.
Vermoedelijk heeft degene die hem heeft geleerd hoe hij een contactloze bankpas moet gebruiken, hem ook AI moeten uitleggen. Ik vermoed dat bij die uitleg krijttekeningen moesten worden gebruikt. pic.twitter.com/0BZq6Wflx9
- Lucie (@ByrneLuc) 26 oktober 2023
Is de Executive Order dood in het water?
Na speculaties en geruchten in de aanloop naar de grote dagheeft de Amerikaanse regering eindelijk Uitvoeringsbevel van president Biden over AI vrijgegeven. Het is een enorm document en de uitsplitsing van het uitvoeringsbevel roept een aantal interessante vragen op.
Het is ook interessant om te zien welke AI-veiligheidseisen uit de eisen zijn weggelaten. Het is in ieder geval een begin. Nu is het alleen nog zaak om het Amerikaanse Congres zo ver te krijgen dat ze het er allemaal over eens worden om het in wetgeving om te zetten.
De gemiddelde leeftijd in de Senaat is 64, dus verwacht geen snelle consensus over een document van 100 pagina's dat het heeft over floating point rekencijfers en AI-modelgewichten.
Als de AI-regels je allemaal een beetje te veel worden, kun je overwegen om naar open zee te gaan. Del Complex zegt dat zijn diepzee platform AI computerplatforms kunnen helpen om AI-toezicht te ontwijken. Is hun bewering feit of fictie? Jij beslist.
Big Tech stapt op
Terwijl overheden de AI-veiligheid vertragen, boeken Big Tech AI-bedrijven sneller vooruitgang bij het definiëren van AI-veiligheidsstandaarden. MLCommons en enkele grote namen in AI zullen AI-veiligheidsbenchmarks ontwikkelen zodat we een getal kunnen plakken op hoe veilig de verschillende modellen zijn.
Kan het vrijgeven van LLM-gewichten leiden tot de volgende pandemie? Als je voor open source bent, dan zal dit onderzoek je doen roepen 'Leugens! Als je denkt dat het open source maken van LLM's een slecht idee is, zul je zelfvoldaan zeggen: 'Ik zei het toch.
Zijn AI-risico's overhyped? Misschien. Maar voor het geval dat, OpenAI stelde zijn "paraatheidsteam" samen om met de existentiële risico's van AI om te gaan. De aankondiging komt op het moment dat het bedrijf zichzelf omvormt tot een AGI-gericht bedrijf.
De nieuwste ontwikkelingen in het maken van AI denkt en spreekt op een mensachtige manier kan een teken zijn dat AGI niet ver weg is.
AI voor mij, maar niet voor jou
De westers georiënteerde aard van datasets die worden gebruikt om AI te trainen, heeft geleid tot een nieuwe golf van digitaal kolonialisme. De mensen die veel van het vuile werk met AI opknappen, worden niet goed bediend door de technologie.
Het gaat momenteel niet goed in het Midden-Oosten en AI helpt daar niet bij. Diepe vervalsingen zijn gebruikt aan beide kanten van het Israëlisch-Palestijnse conflict met verwoestende gevolgen.
Deze ontwikkelingen hebben duidelijk gemaakt hoe belangrijk geloofwaardige verslaggeving is. Deze week Leica onthult zijn anti-AI camera om deepfakes te bestrijden. Zal het genoeg zijn om mensen ervan te overtuigen dat ze hun ogen toch kunnen vertrouwen?
Het klopt niet
Je zou denken dat ChatGPT goed is in wiskunde, maar dat is het niet. Als je hoopt om ChatGPT verzorgt uw boekhouding dan zullen deze resultaten je daar misschien nog eens over laten nadenken.
De accountants bij Microsoft waren een gelukkig stel toen de financiële resultaten eerste kwartaal overtroffen verwachtingen analisten. Deze door AI gegenereerde peiling Het feit dat Microsoft een artikel in de Guardian plaatste, temperde de stemming wel.
Google ziet blijkbaar ook een pot met goud aan het einde van de AI-regenboog. Het is van plan om $2B investeren in AI-startup Anthropic toe te voegen aan de $4B die Amazon er al in heeft gestopt. Kunnen we Claude 3 binnenkort verwachten?
ChatGPT heeft net een paar nieuwe functies toegevoegd aan ChatGPT Plus. De nieuwe functies zijn geweldig, maar hebben een deuk hebben geslagen in de activiteiten van veel AI-startups.
Kopieer dat
De juridische gevechten tussen AI-bedrijven en eigenaars van auteursrechten gaan door. Deze week lachte OpenAI als de artiesten die het bedrijf aanklagen verloren hun eerste ronde in één rechtszaak.
Je vraagt je af hoe sommige juridische argumenten van de aanklagers verder zijn gekomen dan de eerste versie. En de reden waarom twee van de drie eisers zich terugtrokken uit de zaak is lachwekkend.
De acteurs die deel uitmaken van het acteursgilde SAG-AFTRA zijn nog steeds bezorgd dat AI hen zal klonen en vervangen. De staking duurt nu al meer dan 109 dagen. met weinig teken van ophouden.
Ander nieuws...
Wij scannen heel veel AI-koppen zodat jij dat niet hoeft te doen. Hier zijn nog een paar AI-verhalen die de moeite waard waren om op te klikken.
- Deze jonge verslaggevers hebben geweldig werk geleverd. een frisse kijk op AI in het onderwijs.
- Ilya Sutskever, OpenAI's hoofdwetenschapper deelt zijn hoop en angsten voor de toekomst van AI.
- De nieuwe AI-adviesorgaan wil AI inzetten voor het algemeen belang. Omdat ze zo goed zijn in het oplossen van wereldwijde problemen, toch?
- Boston Dynamics gaf zijn ChatGPT-geïnfundeerde robothond met Brits accent. Maakte het accent Spot dreigender of minder dreigend?
- Google's AlphaFold zijn net een stuk beter geworden in het ontdekken van medicijnen.
- Scarlett Johansson klaagt een maker van een app aan voor het klonen van haar stem.
En dat is alles.
Voel jij je veiliger in de wetenschap dat wereldleiders elke 6 maanden samenkomen om te praten over AI-veiligheid? Elon Musk vatte het goed samen toen hij zei: "Hoop op het beste, maar bereid je voor op het ergste."
Denk je dat Del Complex echt is, of gewoon een heel ingewikkelde truc om merch te verkopen? Mijn hoofd zegt 'nep', maar mijn hart zegt: 'Bouw het alsjeblieft!
We zijn nog steeds niet zeker of open source modellen ons zullen redden of verdoemen. Als je goede argumenten hebt, stuur ze ons dan toe.
En, zoals altijd, als we een geweldig verhaal gemist hebben, of als je gewoon even gedag wilt zeggen, dan horen we dat graag van je.
