AI-forskningen er drevet af jagten på stadig større raffinement, hvilket inkluderer træning af systemer til at tænke og opføre sig som mennesker.
Det endelige mål? Hvem ved det? Målet for nu? At skabe autonome, generaliserede AI-agenter, der er i stand til at udføre en bred vifte af opgaver.
Dette koncept kaldes normalt kunstig generel intelligens (AGI) eller superintelligens.
Det er en udfordring at præcisere, hvad AGI indebærer, fordi der stort set ikke er enighed om, hvad "intelligens" er, eller hvornår eller hvordan kunstige systemer kan opnå det.
Skeptikere mener endda, at AI i sin nuværende tilstand aldrig rigtig kan opnå generel intelligens.
Professor Tony Prescott og Dr. Stuart Wilson fra University of Sheffield beskrevne generative sprogmodellersom ChatGPT, som i sagens natur er begrænsede, fordi de er "kropsløse" og ikke har nogen sanseopfattelse eller forankring i den naturlige verden.
Metas chefforsker i AI, Yann LeCun, sagde, at selv en huskats intelligens er ufatteligt meget mere avanceret end nutidens bedste AI-systemer.
"Men hvorfor er de systemer ikke lige så kloge som en kat?" LeCun spurgte på World Government Summit i Dubai.
"En kat kan huske, kan forstå den fysiske verden, kan planlægge komplekse handlinger, kan ræsonnere på et vist niveau - faktisk meget bedre end de største LLM'er. Det fortæller dig, at vi mangler noget konceptuelt stort for at få maskiner til at være lige så intelligente som dyr og mennesker."
Selv om disse færdigheder måske ikke er nødvendige for at opnå AGI, er der en vis enighed om, at det at flytte komplekse AI-systemer fra laboratoriet til den virkelige verden vil kræve, at man adopterer adfærd, der ligner den, der er observeret hos naturlige organismer.
Så hvordan kan dette opnås? En tilgang er at dissekere elementer af kognition og finde ud af, hvordan AI-systemer kan efterligne dem.
Et tidligere DailyAI-essay undersøgte Nysgerrighed og dens evne til at lede organismer mod nye oplevelser og mål, hvilket fremmer den kollektive udvikling af den naturlige verden.
Men der er en anden følelse - en anden væsentlig del af vores eksistens - som AGI kunne drage fordel af. Og det er frygt.
Hvordan AI kan lære af biologisk frygt
Langt fra at være en svaghed eller en fejl er frygt et af evolutionens mest potente redskaber til at holde organismerne i sikkerhed.
Amygdala er den centrale struktur, der styrer frygt hos hvirveldyr. Hos mennesker er det en lille, mandelformet struktur, der ligger dybt inde i hjernens tindingelapper.
Amygdala kaldes ofte for "frygtcentret" og fungerer som et tidligt advarselssystem, der konstant scanner indkommende sanseinformation for potentielle trusler.
Når en trussel opdages - uanset om det er den pludselige slingren fra en bremsende bil foran os eller en skygge, der bevæger sig i mørket - går amygdala i aktion og udløser en kaskade af fysiologiske og adfærdsmæssige ændringer, der er optimeret til hurtig forsvarsreaktion:
- Hjertefrekvensen og blodtrykket stiger og forbereder kroppen på "kamp eller flugt"
- Opmærksomheden indsnævres og skærpes, og der fokuseres på farekilden
- Reflekserne bliver hurtigere og gør musklerne klar til at undvige på et splitsekund
- Kognitiv behandling skifter til en hurtig, intuitiv, "hellere sikker end ked af det"-tilstand
Denne reaktion er ikke en simpel refleks, men en yderst adaptiv, kontekstsensitiv række af ændringer, der fleksibelt skræddersyr adfærd til arten og alvoren af den aktuelle trussel.
Det er også usædvanligt hurtigt. Vi bliver bevidste om en trussel omkring 300-400 millisekunder efter den første registrering.
Desuden fungerer amygdala ikke isoleret. Den er tæt forbundet med andre vigtige hjerneområder, der er involveret i opfattelse, hukommelse, ræsonnement og handling.
Hvorfor frygt kan gavne AI
Så hvorfor betyder frygt overhovedet noget i forbindelse med AI?
I biologiske systemer fungerer frygt som en afgørende mekanisme til hurtig opdagelse og reaktion på trusler. Ved at efterligne dette system i AI kan vi potentielt skabe mere robuste og tilpasningsdygtige kunstige systemer.
Dette er især relevant for autonome systemer, der interagerer med den virkelige verden. Et eksempel: På trods af at AI-intelligens er eksploderet i de senere år, har førerløse biler stadig en tendens til at komme til kort, når det gælder sikkerhed og pålidelighed.
Myndighederne undersøger adskillige fatale hændelser med selvkørende biler, herunder Tesla-modeller med Autopilot og Full Self-Driving-funktioner.
I 2022 udtalte Matthew Avery, forskningsdirektør hos Thatcham Research, sig til The Guardian, forklarede hvorfor førerløse biler har været så udfordrende at forfine:
"Nummer et er, at det her er sværere, end producenterne var klar over," siger Avery.
Avery vurderer, at omkring 80% af de autonome kørefunktioner involverer relativt enkle opgaver som at følge vognbanen og undgå forhindringer.
De næste handlinger er dog meget mere udfordrende. "Den sidste 10% er virkelig svær," understreger Avery, "som når du har en ko, der står midt på vejen og ikke vil flytte sig."
Køer er selvfølgelig ikke frygtindgydende i sig selv. Men enhver koncentreret bilist vil nok overveje sine chancer for at stoppe, hvis han eller hun suser mod en i høj fart.
Et AI-systems evne til præcist at identificere en ko og træffe passende beslutninger afhænger i høj grad af dets grundlæggende træning med relevante data.
Men denne indledende træning er måske ikke altid tilstrækkelig til at afværge farer, især når AI'en støder på ukendte objekter eller scenarier (kaldet "edge cases").
For at løse dette behandler avancerede AI-systemer data i realtid og lærer løbende, så de kan tilpasse sig og forbedre beslutningsevnen over tid.
Ikke desto mindre er det langt fra naturens dybt integrerede, intuitive advarselssystemer. En menneskelig chauffør kan instinktivt bremse ved den blotte antydning af en forhindring, selv før han helt har forstået, hvad det er.
Afgørende er det også, at naturlige frygtbaserede reaktioner er meget tilpasningsdygtige og generaliseres godt til nye situationer. Et AI-system, der er trænet med en ny frygtlignende mekanisme, kan være bedre rustet til at håndtere uforudsete scenarier end et system, der bruger traditionelle teknikker til forstærkningslæring (RL).
Der er en hage ved alt dette: Mennesker træffer heller ikke altid de rigtige beslutninger. Det ændrer ikke ved den tillid, der kræves for sikkert at udrulle autonome køretøjer i massevis. Folk tolererer menneskelige fejl på grund af fortrolighed, men ser skeptisk på maskinfejl.
Man kan sige, at det er et tilfælde af "hellere den djævel, du kender, end den djævel, du ikke kender". For at få udbredt accept af autonome køretøjer er producenterne nødt til at vise, at de er pålidelige og i stand til at håndtere fejl lige så sikkert som mennesker.
At give AI-systemer en dybere følelse af frygt kan være en alternativ, hurtigere og mere effektiv måde at opnå dette på end med traditionelle metoder.
Dekonstruktion af frygt: indsigt fra bananfluen
Vi er langt fra at udvikle kunstige systemer, der kan genskabe de integrerede, specialiserede neurale regioner i biologiske hjerner. Men det betyder ikke, at vi ikke kan modellere disse mekanismer på andre måder.
Så lad os zoome ud fra amygdala og se på, hvordan hvirvelløse dyr - f.eks. små insekter - opdager og bearbejder frygt.
Selv om de ikke har en struktur, der er direkte analog med amygdala, betyder det ikke, at de mangler kredsløb, der opnår et lignende mål.
For eksempel har nylige undersøgelser af frygtreaktioner hos Drosophila melanogaster, den almindelige bananflue, gav spændende indsigt i de grundlæggende byggesten i primitive følelser.
I en eksperiment udført på Caltech i 2015, har forskere ledet af David Anderson udsat flyver til en skygge over hovedet, der er designet til at efterligne et rovdyr, der nærmer sig.
Ved hjælp af højhastighedskameraer og maskinsynsalgoritmer analyserede de omhyggeligt fluernes adfærd og ledte efter tegn på det, Anderson kalder "følelsesprimitiver" - de grundlæggende komponenter i en følelsesmæssig tilstand.
Det er bemærkelsesværdigt, at fluerne udviste en række adfærdsmønstre, der nøje svarede til de frygtreaktioner, man ser hos pattedyr.
Da skyggen dukkede op, stivnede fluerne på stedet, og deres vinger blev lagt på skrå for at forberede en hurtig flugt.
Da truslen fortsatte, tog nogle fluer flugten og fløj væk fra skyggen i høj fart. Andre forblev frosne i en længere periode, hvilket tyder på en tilstand af øget ophidselse og årvågenhed.
Det afgørende er, at disse reaktioner ikke blot var reflekser, der blev udløst automatisk af den visuelle stimulus. I stedet så de ud til at afspejle en vedvarende indre tilstand, en slags "fluefrygt", der fortsatte, selv efter at truslen var overstået.
Dette var tydeligt i det faktum, at fluernes øgede defensive adfærd kunne fremkaldes af en anden stimulus (et pust af luft), selv minutter efter den første eksponering for skyggen.
Desuden skalerede intensiteten og varigheden af frygtreaktionen med trusselsniveauet. Fluer, der blev udsat for flere skyggepræsentationer, viste gradvist stærkere og længerevarende forsvarsadfærd, hvilket tyder på en slags "frygtindlæring", der gjorde det muligt for dem at kalibrere deres reaktion baseret på farens alvor og hyppighed.
Som Anderson og hans team hævder, tyder disse resultater på, at byggestenene i følelsesmæssige tilstande - vedholdenhed, skalerbarhed og generalisering - er til stede selv i de simpleste skabninger.
Hvis vi kan afkode, hvordan enklere organismer som bananfluer bearbejder og reagerer på trusler, kan vi potentielt udlede kerneprincipperne for adaptiv, selvbevarende adfærd.
Primitive former for frygt kan bruges til at udvikle AI-systemer, der er mere robuste, sikrere og tilpasset risici og udfordringer i den virkelige verden.
Indfører AI med frygtkredsløb
Det er en god teori, men kan AI være gennemsyret af en autentisk, funktionel form for 'frygt' i praksis?
En spændende undersøgelse undersøgte netop dette med henblik på at forbedre sikkerheden i førerløse biler og andre autonome systemer.
"Frygt-neuro-inspireret forstærkningslæring til sikker autonom kørsel", ledet af Chen Lv på Nanyang Technological University, Singapore, udviklede en frygt-neuro-inspireret forstærkningslæring (FNI-RL) til forbedring af førerløse bilers ydeevne.
Ved at opbygge AI-systemer, der kan genkende og reagere på de subtile signaler og mønstre, der udløser menneskelig defensiv kørsel - det, de kalder "frygtneuroner" - kan vi måske skabe selvkørende biler, der navigerer på vejen med den intuitive forsigtighed og risikofølsomhed, de har brug for.
FNI-RL-rammen omsætter nøgleprincipperne i hjernens frygtkredsløb til en beregningsmodel for trusselsfølsom kørsel, så et autonomt køretøj kan lære og anvende adaptive forsvarsstrategier i realtid.
Det involverer tre nøglekomponenter, der er modelleret efter kerneelementer i den neurale frygtrespons:
- En "frygtmodel", der lærer at genkende og vurdere køresituationer, der signalerer øget kollisionsrisiko, og som spiller en rolle, der er analog med amygdalas trusselsdetekterende funktioner.
- Et "adversarial imagination"-modul, der mentalt simulerer farlige scenarier, så systemet sikkert kan "øve" defensive manøvrer uden konsekvenser i den virkelige verden - en form for risikofri læring, der minder om den mentale øvelseskapacitet hos menneskelige bilister.
- En "frygtbegrænset" beslutningsmotor, der vejer potentielle handlinger ikke kun ud fra deres umiddelbart forventede belønning (f.eks. fremskridt mod en destination), men også ud fra deres vurderede risikoniveau, som det fremgår af frygtmodellen og komponenterne i den fjendtlige fantasi. Dette afspejler amygdalas rolle i fleksibelt at styre adfærd baseret på en løbende beregning af trussel og sikkerhed.
For at sætte systemet på prøve testede forskerne det i en række high-fidelity køresimulationer med udfordrende, sikkerhedskritiske scenarier:
- Pludselige afskæringer og undvigemanøvrer fra aggressive bilister
- Uberegnelige fodgængere går over stregen i trafikken
- Skarpe sving og blinde hjørner med begrænset udsyn
- Glatte veje og dårlige vejrforhold
På tværs af disse tests viste de FNI-RL-udstyrede køretøjer en bemærkelsesværdig sikkerhedspræstation, der konsekvent overgik menneskelige chauffører og traditionelle forstærkningslæringsteknikker (RL) for at undgå kollisioner og øve defensive kørefærdigheder.
I et slående eksempel lykkedes det FNI-RL-systemet at navigere i en pludselig trafiksammenlægning i høj hastighed med en succesrate på 90% sammenlignet med kun 60% for en state-of-the-art RL-baseline.
Den opnåede endda sikkerhedsforbedringer uden at gå på kompromis med køreegenskaber eller passagerkomfort.
I andre tests undersøgte forskerne FNI-RL-systemets evne til at lære og generalisere defensive strategier på tværs af kørselsmiljøer.
I en simulering af et travlt bykryds lærte AI'en i løbet af få forsøg at genkende de afslørende tegn på en hensynsløs bilist - pludselige vognbaneskift, aggressiv acceleration - og præventivt justere sin egen adfærd for at give en større afstand.
Bemærkelsesværdigt nok var systemet derefter i stand til at overføre denne indlærte forsigtighed til et nyt motorvejsscenarie, hvor det automatisk registrerede farlige indskæringsmanøvrer og reagerede med undvigemanøvrer.
Dette viser potentialet i neuralt inspireret følelsesmæssig intelligens til at forbedre sikkerheden og robustheden i autonome køresystemer.
Ved at udstyre køretøjer med en "digital amygdala", der er indstillet på de viscerale signaler om risiko i trafikken, kan vi måske skabe selvkørende biler, der kan navigere i udfordringerne på den åbne vej med en flydende, proaktiv defensiv bevidsthed.
På vej mod en videnskab om følelsesmæssigt bevidst robotteknologi
Mens de seneste AI-fremskridt har været baseret på brutal regnekraft, lader forskere sig nu inspirere af menneskelige følelsesmæssige reaktioner for at skabe smartere og mere adaptive kunstige systemer.
Dette paradigme, kaldet "bio-inspireret AI." strækker sig ud over selvkørende biler til områder som produktion, sundhedspleje og udforskning af rummet.
Der er mange spændende vinkler at udforske. For eksempel er man ved at udvikle robothænder med "digitale nociceptorer", der efterligner smertereceptorer, så man kan reagere hurtigt på potentielle skader.
Med hensyn til hardware, IBM's bio-inspirerede analoge chips bruger "memristorer" til at lagre varierende numeriske værdier, hvilket reducerer dataoverførslen mellem hukommelse og processor.
På samme måde har forskere ved Indian Institute of Technology, Bombay, designet en chip til Spiking neurale netværk (SNN)som nøje efterligner den biologiske neuronfunktion.
Professor Udayan Ganguly fortæller, at denne chip opnår "5.000 gange lavere energi pr. spike på et tilsvarende areal og 10 gange lavere standby-strøm" sammenlignet med konventionelle designs.
Disse fremskridt inden for neuromorfisk databehandling bringer os tættere på det, Ganguly beskriver som "en ekstremt strømbesparende neurosynaptisk kerne og en on-chip-læringsmekanisme i realtid", nøgleelementer til autonome, biologisk inspirerede neurale netværk.
Ved at kombinere naturinspireret AI-teknologi med arkitekturer, der er informeret af naturlige følelsesmæssige tilstande som frygt eller nysgerrighed, kan AI få en helt ny status.
Når forskerne flytter grænserne, skaber de ikke bare mere effektive maskiner - de føder potentielt en ny form for intelligens.
Efterhånden som denne forskningslinje udvikler sig, kan autonome maskiner vandre rundt i verden blandt os og reagere på uforudsigelige miljøsignaler med nysgerrighed, frygt og andre følelser, der betragtes som udpræget menneskelige.
Virkningerne? Det er en helt anden historie.
