AI-forskningen drivs av en strävan efter att bli alltmer sofistikerad, vilket bland annat innebär att lära systemen att tänka och bete sig som människor.
Slutmålet? Vem vet. Målet just nu? Att skapa autonoma, generaliserade AI-agenter som kan utföra ett brett spektrum av uppgifter.
Detta koncept brukar benämnas artificiell allmän intelligens (AGI) eller superintelligens.
Det är en utmaning att exakt fastställa vad AGI innebär eftersom det i stort sett inte råder någon enighet om vad "intelligens" är, eller när eller hur artificiella system kan uppnå det.
Skeptiker tror till och med att AI, i sitt nuvarande skick, aldrig riktigt kan uppnå allmän intelligens.
Professor Tony Prescott och Dr Stuart Wilson från University of Sheffield beskrivna generativa språkmodellersom ChatGPT, som begränsade i sig själva eftersom de är "kroppslösa" och inte har någon sinnesförnimmelse eller förankring i den naturliga världen.
Metas chefsforskare inom AI, Yann LeCun, sade att även en huskatts intelligens är ofattbart mycket mer avancerad än dagens bästa AI-system.
"Men varför är inte de här systemen lika smarta som en katt?" LeCun frågade vid World Government Summit i Dubai.
"En katt kan minnas, kan förstå den fysiska världen, kan planera komplexa handlingar, kan resonera på en viss nivå - faktiskt mycket bättre än de största LLM:erna. Det säger dig att vi saknar något konceptuellt stort för att få maskiner att bli lika intelligenta som djur och människor."
Även om dessa färdigheter kanske inte är nödvändiga för att uppnå AGI, råder det viss enighet om att komplexa AI-system som flyttas från laboratoriet till den verkliga världen kommer att behöva anta beteenden som liknar dem som observerats hos naturliga organismer.
Så hur kan detta åstadkommas? En metod är att dissekera kognitiva element och ta reda på hur AI-system kan efterlikna dem.
I en tidigare DailyAI-artikel undersöktes nyfikenhet och dess förmåga att vägleda organismer mot nya erfarenheter och mål, vilket driver på den kollektiva utvecklingen av den naturliga världen.
Men det finns en annan känsla - en annan viktig del av vår existens - som AGI skulle kunna dra nytta av. Och det är rädsla.
Hur AI kan lära sig av biologisk rädsla
Rädsla är långt ifrån en svaghet eller ett fel, utan ett av evolutionens mest kraftfulla verktyg för att hålla organismerna säkra.
Amygdala är den centrala struktur som styr rädsla hos ryggradsdjur. Hos människor är det en liten, mandelformad struktur som ligger djupt inbäddad i hjärnans temporala lober.
Amygdala kallas ofta för "rädslans centrum" och fungerar som ett tidigt varningssystem som ständigt skannar av inkommande sensorisk information efter potentiella hot.
När ett hot upptäcks - oavsett om det är en plötslig inbromsning av en framförvarande bil eller en skugga som rör sig i mörkret - träder amygdala i funktion och utlöser en kaskad av fysiologiska och beteendemässiga förändringar som är optimerade för en snabb defensiv reaktion:
- Hjärtfrekvensen och blodtrycket ökar kraftigt, vilket gör kroppen redo för "kamp eller flykt"
- Uppmärksamheten smalnar av och skärps och fokuseras på farokällan
- Reflexerna blir snabbare och gör musklerna redo för sekundsnabba undanmanövrar
- Den kognitiva bearbetningen övergår till ett snabbt, intuitivt läge där man tänker "hellre ta det säkra före det osäkra".
Detta svar är inte en enkel reflex utan en mycket adaptiv, kontextkänslig uppsättning förändringar som flexibelt skräddarsyr beteendet efter hotets art och svårighetsgrad.
Det är också exceptionellt snabbt. Vi blir medvetna om ett hot cirka 300-400 millisekunder efter den första upptäckten.
Dessutom fungerar inte amygdala isolerat. Den är tätt sammankopplad med andra viktiga hjärnregioner som är involverade i perception, minne, resonemang och handling.
Varför rädsla kan gynna AI
Så varför spelar rädsla någon roll när det gäller AI?
I biologiska system fungerar rädsla som en avgörande mekanism för att snabbt upptäcka och reagera på hot. Genom att efterlikna detta system i AI kan vi potentiellt skapa mer robusta och anpassningsbara artificiella system.
Detta är särskilt relevant för autonoma system som interagerar med den verkliga världen. Ett exempel: trots att AI-intelligens har exploderat under de senaste åren tenderar förarlösa bilar fortfarande att ha brister i säkerhet och tillförlitlighet.
Tillsynsmyndigheter undersöker ett stort antal dödsolyckor med självkörande bilar, inklusive Tesla-modeller med Autopilot och Full Self-Driving-funktioner.
Matthew Avery, forskningschef på Thatcham Research, talade med Guardian 2022, förklarade varför förarlösa bilar har varit så utmanande att förfina:
"Nummer ett är att det här är svårare än vad tillverkarna trodde", säger Avery.
Avery uppskattar att cirka 80% av de autonoma körfunktionerna omfattar relativt okomplicerade uppgifter som körfältsföljning och grundläggande hinderavvärjning.
De följande åtgärderna är dock mycket mer utmanande. "Den sista 10% är riktigt svår", betonar Avery, "som när du har en ko som står mitt i vägen och inte vill flytta på sig."
Visst, kor är inte skräckinjagande i sig själva. Men vilken koncentrerad förare som helst skulle förmodligen tro på sina chanser att stanna om de rusar mot en i hög hastighet.
Ett AI-systems förmåga att korrekt identifiera en ko och fatta lämpliga beslut beror i hög grad på dess grundläggande utbildning med relevanta data.
Denna inledande träning är dock inte alltid tillräcklig för att avvärja faror, särskilt inte när AI:n stöter på okända föremål eller scenarier (så kallade "edge cases").
För att lösa detta bearbetar avancerade AI-system data i realtid och lär sig kontinuerligt, vilket gör att de kan anpassa sig och förbättra beslutsförmågan över tid.
Men det är ändå långt ifrån naturens djupt integrerade, intuitiva varningssystem. En mänsklig förare kan instinktivt bromsa vid blotta antydan om ett hinder, till och med innan han eller hon helt har förstått vad det är.
Avgörande är också att naturliga rädslobaserade reaktioner är mycket anpassningsbara och generaliseras väl till nya situationer. Ett AI-system som utbildats med en ny rädsloliknande mekanism kan vara bättre rustat att hantera oförutsedda scenarier än ett system som använder traditionella tekniker för förstärkningsinlärning (RL).
Det finns en brasklapp för allt detta: människor fattar inte heller alltid rätt beslut. Det förändrar inte det förtroende som krävs för att på ett säkert sätt rulla ut autonoma fordon en masse. Människor tolererar mänskliga fel på grund av att de är bekanta, men ser skeptiskt på maskinfel.
Man skulle kunna säga att det är ett fall av "bättre den djävul du känner än den djävul du inte känner". För att få en bred acceptans för autonoma fordon måste tillverkarna visa att de är tillförlitliga och kan hantera fel lika säkert som människor.
Att ge AI-system en djupare känsla av rädsla kan vara ett alternativt, snabbare och mer effektivt sätt att uppnå detta än traditionella metoder.
Att dekonstruera rädsla: insikter från bananflugan
Vi är långt ifrån att utveckla artificiella system som efterliknar de integrerade, specialiserade nervregionerna i biologiska hjärnor. Men det betyder inte att vi inte kan modellera dessa mekanismer på andra sätt.
Så låt oss zooma ut från amygdala och titta på hur ryggradslösa djur - till exempel små insekter - upptäcker och bearbetar rädsla.
Även om de inte har en struktur som är direkt analog med amygdala, betyder det inte att de saknar kretsar som uppnår ett liknande mål.
Till exempel har nyligen genomförda studier av rädsloreaktioner hos Drosophila melanogaster, den vanliga bananflugan, gav spännande insikter i de primitiva känslornas grundläggande byggstenar.
I en experiment som genomfördes vid Caltech 2015, har forskare under ledning av David Anderson exponerade flyger till en skugga över huvudet som är utformad för att efterlikna ett rovdjur som närmar sig.
Med hjälp av höghastighetskameror och algoritmer för maskinseende analyserade de noggrant flugornas beteende och letade efter tecken på vad Anderson kallar "känsloprimitiver" - de grundläggande komponenterna i ett känslomässigt tillstånd.
Anmärkningsvärt var att flugorna uppvisade en rad beteenden som var nära parallella med de rädslor som ses hos däggdjur.
När skuggan dök upp stelnade flugorna till och vingarna spändes upp i en vinkel för att förbereda en snabb flykt.
När hotet kvarstod tog vissa flugor till flykten och försvann från skuggan i hög hastighet. Andra förblev frusna under en längre period, vilket tyder på ett tillstånd av ökad upphetsning och vaksamhet.
Avgörande var att dessa reaktioner inte bara var reflexer som utlöstes automatiskt av den visuella stimulansen. Istället verkade de återspegla ett bestående inre tillstånd, en slags "flugrädsla" som kvarstod även efter att hotet hade passerat.
Detta var uppenbart i det faktum att flugornas ökade defensiva beteenden kunde framkallas av en annan stimulans (en luftpuff) även minuter efter den första skuggexponeringen.
Dessutom skalades intensiteten och varaktigheten av rädslans svar med hotnivån. Flugor som utsattes för flera skuggpresentationer visade gradvis starkare och mer långvariga defensiva beteenden, vilket indikerar en typ av "rädslainlärning" som gjorde det möjligt för dem att kalibrera sitt svar baserat på farans allvar och frekvens.
Som Anderson och hans team hävdar tyder dessa resultat på att byggstenarna för känslomässiga tillstånd - uthållighet, skalbarhet och generalisering - finns även hos de enklaste varelserna.
Om vi kan avkoda hur enklare organismer som bananflugor bearbetar och reagerar på hot, kan vi potentiellt extrahera de grundläggande principerna för adaptivt, självbevarande beteende.
Primitiva former av rädsla kan användas för att utveckla AI-system som är mer robusta, säkrare och anpassade till verkliga risker och utmaningar.
AI förses med kretsar för rädsla
Det är en bra teori, men kan AI genomsyras av en autentisk, funktionell form av "rädsla" i praktiken?
En spännande studie undersökte just detta i syfte att förbättra säkerheten för förarlösa bilar och andra autonoma system.
"Fear-neuro-inspirerad förstärkningsinlärning för säker autonom körning", under ledning av Chen Lv vid Nanyang Technological University, Singapore, utvecklade ett ramverk för förstärkningsinlärning med hjälp av rädsla och neurologi (FNI-RL) för att förbättra förarlösa bilars prestanda.
Genom att bygga AI-system som kan känna igen och reagera på de subtila signaler och mönster som utlöser mänsklig defensiv körning - vad de kallar "rädsloneuroner" - kan vi kanske skapa självkörande bilar som navigerar på vägen med den intuitiva försiktighet och riskkänslighet som de behöver.
FNI-RL-ramverket översätter viktiga principer för hjärnans rädslekretsar till en beräkningsmodell för hotkänslig körning, vilket gör det möjligt för ett autonomt fordon att lära sig och använda adaptiva försvarsstrategier i realtid.
Den består av tre nyckelkomponenter som är modellerade efter centrala delar av det neurala rädsloreaktionen:
- En "rädslomodell" som lär sig att känna igen och bedöma körsituationer som signalerar förhöjd kollisionsrisk och som spelar en roll som är analog med amygdalas funktioner för att upptäcka hot.
- En "adversarial imagination"-modul som mentalt simulerar farliga scenarier, vilket gör att systemet på ett säkert sätt kan "öva" defensiva manövrar utan verkliga konsekvenser - en form av riskfri inlärning som påminner om den mentala repetitionsförmågan hos mänskliga förare.
- En "rädslebegränsad" beslutsmotor som väger potentiella handlingar inte bara utifrån deras omedelbart förväntade belöningar (t.ex. framsteg mot en destination), utan också utifrån deras bedömda risknivå som mäts av komponenterna rädslomodell och kontradiktorisk fantasi. Detta speglar amygdalas roll i att flexibelt styra beteendet baserat på en pågående beräkning av hot och säkerhet.
För att sätta systemet på prov testade forskarna det i en serie körsimuleringar med utmanande och säkerhetskritiska scenarier:
- Plötsliga avkörningar och undanmanövrar av aggressiva förare
- Oregelbundna fotgängare som går över gatan i trafiken
- Skarpa kurvor och döda hörn med begränsad sikt
- Glatta vägar och dåliga väderförhållanden
I alla dessa tester uppvisade de FNI-RL-utrustade fordonen en anmärkningsvärd säkerhetsprestanda och överträffade konsekvent mänskliga förare och traditionella tekniker för förstärkt inlärning (RL) för att undvika kollisioner och öva defensiva körfärdigheter.
I ett slående exempel navigerade FNI-RL-systemet framgångsrikt genom en plötslig trafiksammanslagning i hög hastighet med en framgångsfrekvens på 90%, jämfört med endast 60% för en toppmodern RL-baslinje.
Den uppnådde även säkerhetsvinster utan att göra avkall på körprestanda eller passagerarkomfort.
I andra tester undersökte forskarna FNI-RL-systemets förmåga att lära sig och generalisera defensiva strategier i olika körmiljöer.
I en simulering av en trafikerad korsning i en stad lärde sig AI:n på bara några få försök att känna igen de tydliga tecknen på en vårdslös förare - plötsliga filbyten, aggressiv acceleration - och i förebyggande syfte anpassa sitt eget beteende för att ge större utrymme.
Anmärkningsvärt nog kunde systemet sedan överföra denna inlärda försiktighet till ett nytt scenario för motorvägskörning, genom att automatiskt registrera farliga manövrar och reagera med undanmanövrar.
Detta visar på potentialen hos neuralt inspirerad emotionell intelligens för att förbättra säkerheten och robustheten hos autonoma körsystem.
Genom att utrusta fordon med en "digital amygdala" som är inställd på de viscerala signalerna om risker i trafiken kan vi kanske skapa självkörande bilar som kan navigera genom utmaningarna på den öppna vägen med en flytande, proaktiv defensiv medvetenhet.
Mot en vetenskap om känslomässigt medveten robotik
Medan de senaste AI-framstegen har förlitat sig på brute-force-beräkningskraft, hämtar forskare nu inspiration från mänskliga känslomässiga reaktioner för att skapa smartare och mer anpassningsbara artificiella system.
Denna paradigm, som kallas "bioinspirerad AI," sträcker sig bortom självkörande bilar till områden som tillverkning, sjukvård och rymdforskning.
Det finns många spännande infallsvinklar att utforska. Till exempel utvecklas robothänder med "digitala nociceptorer" som efterliknar smärtreceptorer, vilket möjliggör snabba reaktioner på potentiella skador.
När det gäller hårdvara, IBM:s bioinspirerade analoga chip använder "memristors" för att lagra varierande numeriska värden, vilket minskar dataöverföringen mellan minne och processor.
På samma sätt har forskare vid Indian Institute of Technology, Bombay, designat ett chip för Spikade neurala nätverk (SNN)som i hög grad efterliknar biologiska neuroners funktion.
Professor Udayan Ganguly rapporterar att detta chip uppnår "5.000 gånger lägre energi per spike på en liknande yta och 10 gånger lägre standby-ström" jämfört med konventionella konstruktioner.
Dessa framsteg inom neuromorfiska datorsystem för oss närmare det som Ganguly beskriver som "en extremt strömsnål neurosynaptisk kärna och en inlärningsmekanism i realtid på chipet", nyckelelement för autonoma, biologiskt inspirerade neurala nätverk.
Genom att kombinera naturinspirerad AI-teknik med arkitekturer som bygger på naturliga känslotillstånd som rädsla eller nyfikenhet kan AI få en helt ny dimension.
När forskarna tänjer på gränserna skapar de inte bara effektivare maskiner - de föder potentiellt en ny form av intelligens.
I takt med att denna forskningslinje utvecklas kan autonoma maskiner komma att vandra omkring bland oss och reagera på oförutsägbara miljörelaterade signaler med nyfikenhet, rädsla och andra känslor som anses vara typiskt mänskliga.
Konsekvenserna? Det är en helt annan historia.
