DAI#30 - AI-jets, vertrouwenskwesties en bedreigingen op uitstervenniveau

15 maart 2024

Welkom bij de samenvatting van deze week van door mensen gegenereerd AI-nieuws.

Deze week heeft AI ons vertrouwen ondermijnd, hoewel we er geen genoeg van kunnen krijgen.

Acteurs, programmeurs en gevechtspiloten kunnen hun baan verliezen aan AI.

En wetenschappers zweren dat ze AI niet zullen gebruiken om slechte eiwitten te maken.

Laten we ons erin verdiepen.

Vertrouw maar controleer

Het vertrouwen van de samenleving in AI blijft afnemen, zelfs terwijl het gebruik van generatieve AI-tools in een razend tempo toeneemt. Waarom zijn we zo bereid om een technologie te adopteren ondanks onze angsten over hoe deze onze toekomst zal vormgeven? Wat zit er achter het wantrouwen en kan het worden opgelost?

Sam's verkenning van de dissonantie van het groeiende wantrouwen in generatieve AI en het stijgende aantal gebruikers helpt ons eerlijk te kijken naar onze conflictueuze relatie met AI.

Een van de redenen voor AI-scepticisme is de alarmerende visie die door sommige sectoren van de industrie wordt verkondigd. Een rapport in opdracht van de Amerikaanse overheid zegt AI vormt een bedreiging "op het niveau van uitsterven" voor onze soort.

Het rapport beveelt aan om open-source modellen te verbieden, zelfs als voorstanders van open AI het rapport afdoen als slechte wetenschappelijke angstzaaierij.

Het AI-nieuws was een beetje licht in de afdeling AI-fakery deze week. Kate Middleton, prinses van Wales, werd getroffen door een controverse over nepafbeeldingen over haar overenthousiaste bewerking van een foto van haar en de kinderen.

De verontwaardiging van de media over een bewerkte foto van een beroemdheid is een beetje hypocriet, maar misschien is het goed dat de samenleving steeds gevoeliger wordt voor wat echt is en wat niet. Vooruitgang?

AI-banen tegenaanval

De game-industrie heeft AI snel overgenomen, maar acteurs en stemacteurs zijn niet blij met de gang van zaken. SAG-AFTRA zegt nu dat het "50-50 of meer waarschijnlijk" is dat staking over onderhandelingen videogames.

Het spelen van een vluchtsimulatiespel kan binnenkort het dichtst in de buurt komen van het echte werk voor gevechtspiloten, nu het vooruitzicht van AI die hen vervangt werkelijkheid wordt. Het Pentagon is van plan om de eerste van 1.000 AI-gestuurde minispookvliegtuigen gebouwd in de komende maanden.

Zwermen autonome straaljagers bewapend met raketten en bestuurd door een AI die geneigd is tot hallucinaties. Wat kan er misgaan?

Emad Mostaque, CEO van Stability AI, deed de wenkbrauwen fronsen toen hij zei dat er de komende jaren geen menselijke programmeurs meer nodig zouden zijn. Het lijkt er steeds meer op dat zijn gewaagde bewering uitkomt.

Deze week kondigde Cognition AI Devin, een autonome AI-softwareontwikkelaar die hele codeerprojecten kan voltooien op basis van tekstaanwijzingen. Devin kan zelfs autonoom andere AI-modellen opzetten en afstemmen.

Misschien moet Mostaque's bewering worden verduidelijkt. Binnenkort zullen er geen mensen meer nodig zijn die code kunnen schrijven, maar tools zoals Devin zullen iedereen in staat stellen om een programmeur te zijn.

Als je een werkloze acteur, gevechtspiloot of programmeur bent die op zoek is naar een baan in AI, dan zijn hier een paar van de beste universiteiten om AI te studeren in 2024.

Veiligheid eerst

AI-tools zoals AlphaFold van DeepMind hebben het ontwerp van nieuwe eiwitten versneld. Hoe zorgen we ervoor dat deze tools niet worden gebruikt om nieuwe eiwitten te maken die voor kwaadaardige doeleinden kunnen worden gebruikt?

Onderzoekers hebben een set van vrijwillige veiligheidsregels voor AI-eiwitontwerp en DNA-synthesemet een aantal bekende namen die het steunen.

Een van de verplichtingen is om alleen DNA synthese laboratoria te gebruiken die controleren of het eiwit gevaarlijk is voordat ze het maken. Betekent dit dat sommige labs dat niet doen? Welke laboratoria denk je dat de slechteriken waarschijnlijk zullen gebruiken?

via GIPHY

Een team onderzoekers heeft een benchmark ontwikkeld om te meten hoe groot de kans is dat een LLM een slechte actor helpt bij het maken van een bom of biowapen. Hun nieuwe techniek helpt het AI-model gevaarlijke kennis af te leren met behoud van de goede dingen. Nou ja, bijna dan.

Uitgelijnde modellen zullen je verzoek om hulp bij het maken van een bom beleefd afwijzen. Als je gebruik ASCII-kunst om de stoute woorden te maken en een slimme prompttechniek kun je deze vangrails gemakkelijk omzeilen.

Hartvormige AI

Onderzoekers gebruikten AI om hoe genetica de morfologie van iemands hart beïnvloedt. Het maken van 3D-kaarten van het hart en het koppelen daarvan aan genetica zal een belangrijke hulp zijn voor cardiologen.

Mayo Clinic-onderzoekers ontwikkelen "Hypothesegestuurde AI voor oncologie. De nieuwe aanpak gaat verder dan eenvoudige analyse van big data door hypotheses te genereren die vervolgens kunnen worden gevalideerd op basis van domeinkennis.

Dit kan van groot belang zijn voor het testen van medische hypotheses en het voorspellen en verklaren hoe patiënten zullen reageren op kankerbehandelingen.

Ander nieuws...

Hier zijn enkele andere klikkende AI-verhalen die we deze week leuk vonden:

En dat is alles.

Vertrouw je AI meer of minder naarmate het een groter onderdeel van je dagelijks leven wordt? Een meer sceptische benadering is waarschijnlijk een veiligere gok, maar de doemdenkers worden een beetje vermoeiend.

Wat vind je ervan dat AI-gecertificeerde straaljagers het overnemen van menselijke piloten? Ik ben benieuwd naar de wendbaarheid van deze machines, maar het idee van een AI-glitch in combinatie met raketten is zenuwslopend.

Ik ben een beetje teleurgesteld dat het enige AI-nepnieuws dat we deze week kregen het koninklijke "Jerseygate" was, maar ik denk dat we dit als vooruitgang moeten zien. Ik weet zeker dat de normale service volgende week weer wordt hervat als de verkiezingen beginnen.

Laat ons weten welke AI-ontwikkelingen je deze week zijn opgevallen en stuur ons alsjeblieft links naar interessant AI-nieuws of -onderzoek dat we misschien hebben gemist.

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Eugene van der Watt

Eugene heeft een achtergrond in elektrotechniek en houdt van alles wat met techniek te maken heeft. Als hij even pauzeert van het consumeren van AI-nieuws, kun je hem aan de snookertafel vinden.

×

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden