AI-onderzoek wordt aangewakkerd door het streven naar steeds geavanceerdere technologie, waaronder het trainen van systemen om te denken en zich te gedragen als mensen.
Het einddoel? Wie zal het zeggen. Het doel voor nu? Het creëren van autonome, algemene AI-agenten die een breed scala aan taken kunnen uitvoeren.
Dit concept wordt meestal kunstmatige algemene intelligentie (AGI) of superintelligentie genoemd.
Het is een uitdaging om precies aan te geven wat AGI inhoudt omdat er vrijwel geen consensus is over wat 'intelligentie' is, of wanneer en hoe kunstmatige systemen dit kunnen bereiken.
Sceptici geloven zelfs dat AI, in zijn huidige staat, nooit echt algemene intelligentie kan verkrijgen.
Professor Tony Prescott en Dr. Stuart Wilson van de Universiteit van Sheffield beschreven generatieve taalmodellenzoals ChatGPT, als inherent beperkt omdat ze "ontlichaamd" zijn en geen zintuiglijke waarneming of basis in de natuurlijke wereld hebben.
Meta's hoofd AI-wetenschapper, Yann LeCun, zei dat zelfs de intelligentie van een huiskat oneindig veel geavanceerder is dan de beste AI-systemen van vandaag.
"Maar waarom zijn die systemen niet zo slim als een kat?" LeCun vroeg op de World Government Summit in Dubai.
"Een kat kan onthouden, kan de fysieke wereld begrijpen, kan complexe acties plannen, kan op een bepaald niveau redeneren - eigenlijk veel beter dan de grootste LLM's. Dat vertelt je dat we conceptueel iets missen om machines zo intelligent te krijgen als dieren en mensen. Dat vertelt je dat we conceptueel iets groots missen om machines zo intelligent te krijgen als dieren en mensen."
Hoewel deze vaardigheden misschien niet nodig zijn om AGI te bereiken, is men het er wel over eens dat om complexe AI-systemen van het lab naar de echte wereld te brengen, gedrag moet worden aangenomen dat lijkt op het gedrag dat in natuurlijke organismen wordt waargenomen.
Hoe kan dit worden bereikt? Eén benadering is om elementen van cognitie te ontleden en uit te zoeken hoe AI-systemen deze kunnen nabootsen.
Een eerder artikel van DailyAI onderzocht nieuwsgierigheid en het vermogen om organismen naar nieuwe ervaringen en doelen te leiden, waardoor de collectieve evolutie van de natuurlijke wereld wordt gevoed.
Maar er is nog een andere emotie - een ander essentieel onderdeel van ons bestaan - waarvan AGI zou kunnen profiteren. En dat is angst.
Hoe AI kan leren van biologische angst
Angst is allesbehalve een zwakte of een gebrek, maar een van de krachtigste middelen van de evolutie om organismen veilig te houden.
De amygdala is de centrale structuur die angst regelt bij gewervelde dieren. Bij mensen is het een kleine, amandelvormige structuur die zich diep in de temporale kwabben van de hersenen bevindt.
De amygdala, die vaak het "angstcentrum" wordt genoemd, fungeert als een systeem voor vroegtijdige waarschuwing, waarbij binnenkomende zintuiglijke informatie voortdurend wordt gescand op mogelijke bedreigingen.
Als er een bedreiging wordt waargenomen - of het nu de plotselinge slinger is van een remmende auto voor ons of een verschuivende schaduw in de duisternis - komt de amygdala in actie, waardoor een reeks fysiologische en gedragsveranderingen in gang wordt gezet die zijn geoptimaliseerd voor een snelle defensieve reactie:
- Hartslag en bloeddruk stijgen, waardoor het lichaam klaar is voor "vechten of vluchten".
- De aandacht vernauwt zich en verscherpt zich, hij richt zich op de bron van het gevaar
- Reflexen versnellen, spieren klaarmaken voor uitwijkmanoeuvres in een fractie van een seconde
- Cognitieve verwerking verschuift naar een snelle, intuïtieve, "beter veilig dan sorry" modus
Deze reactie is geen eenvoudige reflex, maar een zeer adaptieve, contextgevoelige reeks veranderingen die het gedrag flexibel aanpast aan de aard en ernst van de bedreiging.
Het is ook uitzonderlijk snel. We worden ons ongeveer 300-400 milliseconden na de eerste detectie bewust van een bedreiging.
Bovendien werkt de amygdala niet geïsoleerd. Het is nauw verbonden met andere belangrijke hersengebieden die betrokken zijn bij perceptie, geheugen, redeneren en actie.
Waarom angst goed kan zijn voor AI
Waarom doet angst er eigenlijk toe in de context van AI?
In biologische systemen dient angst als een cruciaal mechanisme voor snelle detectie en reactie op bedreigingen. Door dit systeem na te bootsen in AI kunnen we mogelijk robuustere en beter aanpasbare kunstmatige systemen maken.
Dit is vooral relevant voor autonome systemen die interactie hebben met de echte wereld. Een goed voorbeeld: ondanks de explosieve groei van AI-intelligentie in de afgelopen jaren, schieten bestuurderloze auto's nog steeds tekort op het gebied van veiligheid en betrouwbaarheid.
Toezichthouders onderzoeken tal van dodelijke incidenten met zelfrijdende auto's, waaronder Tesla-modellen met Autopilot en Full Self-Driving-functies.
In een gesprek met de Guardian in 2022 zei Matthew Avery, directeur onderzoek bij Thatcham Research, uitgelegd waarom bestuurderloze auto's zo uitdagend zijn geweest om te verfijnen:
"Nummer één is dat dit moeilijker is dan fabrikanten zich realiseerden", zegt Avery.
Avery schat dat ongeveer 80% van de autonome rijfuncties bestaat uit relatief eenvoudige taken zoals het volgen van de rijstrook en het ontwijken van obstakels.
De volgende acties zijn echter veel uitdagender. "De laatste 10% is echt moeilijk," benadrukt Avery, "zoals wanneer je een koe midden op de weg hebt staan die niet wil bewegen."
Natuurlijk, koeien zijn op zich niet angstaanjagend. Maar elke geconcentreerde bestuurder zou waarschijnlijk zijn kansen om te stoppen schatten als hij er met hoge snelheid op af raast.
Het vermogen van een AI-systeem om een koe nauwkeurig te identificeren en de juiste beslissingen te nemen, is sterk afhankelijk van de basisopleiding met relevante gegevens.
Deze initiële training is echter niet altijd voldoende om gevaar af te wenden, vooral wanneer de AI onbekende objecten of scenario's tegenkomt (zogenaamde "edge cases").
Om dit aan te pakken, verwerken geavanceerde AI-systemen gegevens in real-time en leren ze voortdurend, waardoor ze zich kunnen aanpassen en hun besluitvormingsvaardigheden na verloop van tijd kunnen verbeteren.
Toch is dit nog ver verwijderd van de diep geïntegreerde, intuïtieve waarschuwingssystemen van de natuur. Een menselijke bestuurder kan instinctief remmen bij de suggestie van een obstakel, zelfs voordat hij volledig heeft verwerkt wat het is.
Cruciaal is ook dat natuurlijke, op angst gebaseerde reacties zich in hoge mate kunnen aanpassen en goed generaliseren naar nieuwe situaties. Een AI-systeem dat getraind is met een nieuw angst-achtig mechanisme zou beter in staat kunnen zijn om te gaan met onvoorziene scenario's dan een systeem dat gebruik maakt van traditionele reinforcement learning (RL) technieken.
Er is een voorbehoud bij dit alles: mensen nemen ook niet altijd de juiste beslissingen. Dat verandert niets aan het vertrouwen dat nodig is om autonome voertuigen veilig massaal uit te rollen. Mensen tolereren menselijke fouten omdat ze ermee vertrouwd zijn, maar kijken sceptisch naar machinefouten.
Je zou kunnen zeggen dat het een geval is van "beter de duivel die je kent dan de duivel die je niet kent". Om een wijdverspreide acceptatie voor autonome voertuigen te krijgen, moeten fabrikanten aantonen dat ze betrouwbaar zijn en net zo veilig met fouten om kunnen gaan als mensen.
AI-systemen doordrenken met een dieper gevoel van angst zou een alternatieve, snellere en efficiëntere manier kunnen zijn om dit te bereiken dan traditionele methoden.
Angst deconstrueren: inzichten van de fruitvlieg
We zijn nog ver verwijderd van de ontwikkeling van kunstmatige systemen die de geïntegreerde, gespecialiseerde neurale gebieden in biologische hersenen nabootsen. Maar dat betekent niet dat we die mechanismen niet op andere manieren kunnen modelleren.
Laten we dus eens uitzoomen van de amygdala en kijken hoe ongewervelde dieren - kleine insecten bijvoorbeeld - angst detecteren en verwerken.
Hoewel ze geen structuur hebben die direct analoog is aan de amygdala, betekent dat niet dat ze geen schakelingen hebben die een soortgelijk doel bereiken.
Recente studies naar de angstreacties van Drosophila melanogaster, de gewone fruitvlieg, leverde intrigerende inzichten op in de fundamentele bouwstenen van primitieve emotie.
In een experiment uitgevoerd bij Caltech in 2015, hebben onderzoekers onder leiding van David Anderson blootgesteld aan een schaduw die ontworpen is om een naderend roofdier na te bootsen.
Met behulp van hogesnelheidscamera's en machine vision algoritmes analyseerden ze nauwgezet het gedrag van de vliegen, op zoek naar tekenen van wat Anderson "emotieprimitieven" noemt - de basiscomponenten van een emotionele toestand.
Opmerkelijk genoeg vertoonden de vliegen een reeks gedragingen die sterk leken op de angstreacties bij zoogdieren.
Toen de schaduw verscheen, bevroren de vliegen op hun plaats en hun vleugels hingen in een hoek om zich voor te bereiden op een snelle ontsnapping.
Toen de dreiging aanhield, sloegen sommige vliegen op de vlucht en vlogen met hoge snelheid weg van de schaduw. Anderen bleven langere tijd staan, wat duidt op een verhoogde staat van opwinding en waakzaamheid.
Cruciaal was dat deze reacties geen reflexen waren die automatisch werden geactiveerd door de visuele stimulus. In plaats daarvan leken ze een blijvende interne toestand te weerspiegelen, een soort "vliegangst" die aanhield zelfs nadat de dreiging was geweken.
Dit bleek uit het feit dat de vliegen 'verhoogd defensief gedrag kan worden uitgelokt door een andere stimulus (een pufje lucht), zelfs minuten na de eerste schaduw blootstelling.
Bovendien was de intensiteit en duur van de angstreactie evenredig met het niveau van de dreiging. Vliegen die werden blootgesteld aan meerdere schaduwpresentaties vertoonden progressief sterker en langduriger defensief gedrag, wat wijst op een soort "leren van angst" waardoor ze hun reactie konden afstemmen op de ernst en frequentie van het gevaar.
Anderson en zijn team stellen dat deze bevindingen suggereren dat de bouwstenen van emotionele toestanden - persistentie, schaalbaarheid en generalisatie - zelfs in de eenvoudigste wezens aanwezig zijn.
Als we kunnen decoderen hoe eenvoudigere organismen zoals fruitvliegen bedreigingen verwerken en erop reageren, kunnen we mogelijk de kernprincipes van adaptief gedrag dat zichzelf in stand houdt eruit halen.
Primitieve vormen van angst zouden kunnen worden toegepast om AI-systemen te ontwikkelen die robuuster en veiliger zijn en beter zijn afgestemd op echte risico's en uitdagingen.
AI doordrenken met angstcircuits
Het is een geweldige theorie, maar kan AI in de praktijk worden doordrenkt met een authentieke, functionele vorm van 'angst'?
Een intrigerende onderzoek precies dat onderzocht met als doel de veiligheid van bestuurderloze auto's en andere autonome systemen te verbeteren.
"Fear-Neuro-Inspired Reinforcement Learning voor veilig autonoom rijden," geleid door Chen Lv aan de Nanyang Technological University in Singapore, ontwikkelden een FNI-RL-kader (fear-neuro-inspired reinforcement learning) om de prestaties van bestuurderloze auto's te verbeteren.
Door AI-systemen te bouwen die de subtiele signalen en patronen kunnen herkennen en erop kunnen reageren die mensen aanzetten tot defensief rijden - wat ze "angstneuronen" noemen - kunnen we misschien zelfrijdende auto's maken die de weg op gaan met de intuïtieve voorzichtigheid en risicogevoeligheid die ze nodig hebben.
Het FNI-RL raamwerk vertaalt de belangrijkste principes van het angstcircuit in de hersenen naar een computationeel model van dreigingsgevoelig rijden, waardoor een autonoom voertuig in realtime adaptieve verdedigingsstrategieën kan leren en inzetten.
Het bestaat uit drie belangrijke onderdelen die gemodelleerd zijn naar de kernelementen van de neurale angstreactie:
- Een "angstmodel" dat leert om rijsituaties die duiden op een verhoogd botsingsrisico te herkennen en te beoordelen, waarbij het een rol speelt die vergelijkbaar is met de functies van de amygdala om bedreigingen op te sporen.
- Een "tegenstrijdige verbeeldingsmodule" die mentaal gevaarlijke scenario's simuleert, waardoor het systeem veilig defensieve manoeuvres kan "oefenen" zonder gevolgen in de echte wereld - een vorm van risicoloos leren die doet denken aan de mentale repetitiecapaciteiten van menselijke bestuurders.
- Een "angstbeperkte" besluitvormingsmotor die potentiële acties niet alleen afweegt op basis van hun onmiddellijk verwachte beloningen (bijv. vooruitgang naar een bestemming), maar ook op basis van hun ingeschatte risiconiveau zoals ingeschat door het angstmodel en de tegenstrijdige verbeeldingscomponenten. Dit weerspiegelt de rol van de amygdala in het flexibel sturen van gedrag op basis van een voortdurende berekening van bedreiging en veiligheid.
Om dit systeem op de proef te stellen, testten de onderzoekers het in een reeks high-fidelity rijsimulaties met uitdagende, veiligheidskritische scenario's:
- Plotseling afsnijden en uitwijken door agressieve bestuurders
- Wispelturige voetgangers die tegen het verkeer in lopen
- Scherpe bochten en blinde hoeken met beperkt zicht
- Gladde wegen en slechte weersomstandigheden
In al deze tests lieten de met FNI-RL uitgeruste voertuigen opmerkelijke veiligheidsprestaties zien, waarbij ze consequent beter presteerden dan menselijke bestuurders en traditionele technieken voor het leren van versterking (RL) om botsingen te vermijden en defensieve rijvaardigheden te oefenen.
In een opvallend voorbeeld navigeerde het FNI-RL-systeem met succes door een plotselinge, snelle verkeersfusie met een succespercentage van 90%, vergeleken met slechts 60% voor een geavanceerde RL-baseline.
Het heeft zelfs de veiligheid verbeterd zonder aan rijprestaties of passagierscomfort in te boeten.
In andere tests onderzochten de onderzoekers het vermogen van het FNI-RL-systeem om defensieve strategieën te leren en te generaliseren in verschillende rijomgevingen.
In een simulatie van een druk kruispunt in de stad leerde de AI in slechts een paar tests de herkenningstekenen van een roekeloze bestuurder - plotseling van rijstrook veranderen, agressief optrekken - en paste hij preventief zijn eigen gedrag aan om een grotere afstand te nemen.
Opmerkelijk genoeg was het systeem vervolgens in staat om deze aangeleerde voorzichtigheid over te brengen naar een nieuw snelwegscenario, waarbij het automatisch gevaarlijke inrijmanoeuvres registreerde en daarop reageerde met ontwijkende maatregelen.
Dit toont het potentieel aan van neuraal geïnspireerde emotionele intelligentie om de veiligheid en robuustheid van autonome rijsystemen te verbeteren.
Door voertuigen te voorzien van een "digitale amygdala" die afgestemd is op de viscerale signalen van risico's op de weg, kunnen we misschien zelfrijdende auto's maken die de uitdagingen van de open weg kunnen navigeren met een vloeiend, proactief defensief bewustzijn.
Naar een wetenschap van emotiebewuste robotica
Terwijl recente AI-ontwikkelingen gebaseerd waren op brute rekenkracht, putten onderzoekers nu inspiratie uit menselijke emotionele reacties om slimmere en meer adaptieve kunstmatige systemen te maken.
Dit paradigma, genaamd "bio-geïnspireerde AI," strekt zich niet alleen uit tot zelfrijdende auto's, maar ook tot gebieden als productie, gezondheidszorg en ruimteverkenning.
Er zijn veel spannende invalshoeken om te verkennen. Er worden bijvoorbeeld robothanden ontwikkeld met "digitale nociceptoren" die pijnreceptoren nabootsen, zodat er snel gereageerd kan worden op potentiële schade.
Op het gebied van hardware, IBM's bio-geïnspireerde analoge chips gebruiken "memristors" om variërende numerieke waarden op te slaan, waardoor de gegevensoverdracht tussen geheugen en processor wordt beperkt.
Op dezelfde manier hebben onderzoekers van het Indian Institute of Technology in Bombay een chip ontworpen voor Spiking Neurale Netwerken (SNN's)die de biologische neuronfunctie nabootsen.
Professor Udayan Ganguly rapporteert dat deze chip "5000 keer minder energie per spike bij een vergelijkbare oppervlakte en 10 keer minder stand-byvermogen" bereikt in vergelijking met conventionele ontwerpen.
Deze vooruitgang in neuromorfisch computergebruik brengt ons dichter bij wat Ganguly beschrijft als "een extreem energiezuinige neurosynaptische kern en real-time on-chip leermechanisme", sleutelelementen voor autonome, biologisch geïnspireerde neurale netwerken.
Het combineren van op de natuur geïnspireerde AI-technologie met architecturen die zijn gebaseerd op natuurlijke emotionele toestanden zoals angst of nieuwsgierigheid, kan AI in een geheel nieuwe staat van zijn brengen.
Als onderzoekers die grenzen verleggen, creëren ze niet alleen efficiëntere machines - ze baren mogelijk een nieuwe vorm van intelligentie.
Naarmate deze onderzoekslijn zich verder ontwikkelt, zouden autonome machines onder ons in de wereld kunnen rondzwerven en reageren op onvoorspelbare signalen uit de omgeving met nieuwsgierigheid, angst en andere emoties die als uitgesproken menselijk worden beschouwd.
De gevolgen? Dat is een heel ander verhaal.
