AI-forskningen drives av jakten på stadig mer sofistikerte løsninger, noe som blant annet innebærer å lære opp systemer til å tenke og oppføre seg som mennesker.
Sluttmålet? Hvem vet. Målet for øyeblikket? Å skape autonome, generaliserte AI-agenter som er i stand til å utføre et bredt spekter av oppgaver.
Dette konseptet kalles vanligvis kunstig generell intelligens (AGI) eller superintelligens.
Det er utfordrende å fastslå nøyaktig hva AGI innebærer, fordi det er så godt som ingen enighet om hva "intelligens" er, og heller ikke om når eller hvordan kunstige systemer kan oppnå det.
Skeptikere mener til og med at AI i sin nåværende form aldri kan oppnå generell intelligens.
Professor Tony Prescott og Dr. Stuart Wilson fra University of Sheffield beskrevne generative språkmodellersom ChatGPT, som iboende begrensede fordi de er "kroppsløse" og ikke har noen sensorisk persepsjon eller forankring i den naturlige verden.
Yann LeCun, Metas sjefforsker innen kunstig intelligens, sa at selv en huskatts intelligens er ufattelig mye mer avansert enn dagens beste AI-systemer.
"Men hvorfor er ikke disse systemene like smarte som en katt?" spurte LeCun på World Government Summit i Dubai.
"En katt kan huske, kan forstå den fysiske verden, kan planlegge komplekse handlinger, kan resonnere på et visst nivå - faktisk mye bedre enn de største LLM-ene. Det forteller deg at vi mangler noe konseptuelt stort for å få maskiner til å bli like intelligente som dyr og mennesker."
Selv om disse ferdighetene kanskje ikke er nødvendige for å oppnå AGI, er det en viss enighet om at det å flytte komplekse AI-systemer fra laboratoriet og ut i den virkelige verden vil kreve at man adopterer atferd som ligner på den man observerer hos naturlige organismer.
Så hvordan kan man oppnå dette? Én tilnærming er å dissekere elementer av kognisjon og finne ut hvordan AI-systemer kan etterligne dem.
Et tidligere DailyAI-essay undersøkte nysgjerrighet og dens evne til å lede organismer mot nye erfaringer og mål, noe som driver den kollektive utviklingen av naturen.
Men det finnes en annen følelse - en annen viktig komponent i vår eksistens - som AGI kan dra nytte av. Og det er frykt.
Hvordan AI kan lære av biologisk frykt
Frykt er langt fra å være en svakhet eller en feil, men et av evolusjonens mest potente verktøy for å holde organismer trygge.
Amygdala er den sentrale strukturen som styrer frykt hos virveldyr. Hos mennesker er det en liten, mandelformet struktur som ligger dypt inne i hjernens tinninglapper.
Amygdala kalles ofte "fryktsenteret", og fungerer som et tidlig varslingssystem som kontinuerlig skanner innkommende sensorisk informasjon for potensielle trusler.
Når en trussel oppdages - enten det er en bil som plutselig bremser eller en skygge i mørket - går amygdala i aksjon og utløser en kaskade av fysiologiske og atferdsmessige endringer som er optimalisert for en rask defensiv respons:
- Hjertefrekvensen og blodtrykket stiger, noe som forbereder kroppen på "kamp eller flukt"
- Oppmerksomheten skjerpes og spisses mot farekilden
- Refleksene blir raskere, og musklene er klare til å unnslippe på et øyeblikk
- Kognitiv prosessering skifter til en rask, intuitiv, "bedre føre var enn etter snar"-modus
Denne responsen er ikke en enkel refleks, men en svært tilpasningsdyktig, kontekstsensitiv pakke med endringer som fleksibelt tilpasser atferden til trusselens art og alvorlighetsgrad.
Den er også usedvanlig rask. Vi blir bevisst oppmerksom på en trussel rundt 300-400 millisekunder etter at den først er oppdaget.
Dessuten fungerer ikke amygdala isolert. Den er tett sammenkoblet med andre viktige hjerneregioner som er involvert i persepsjon, hukommelse, resonnering og handling.
Hvorfor frykt kan være en fordel for AI
Så hvorfor er frykt viktig i forbindelse med kunstig intelligens?
I biologiske systemer fungerer frykt som en avgjørende mekanisme for rask oppdagelse av og respons på trusler. Ved å etterligne dette systemet i kunstig intelligens kan vi potensielt skape mer robuste og tilpasningsdyktige kunstige systemer.
Dette er særlig relevant for autonome systemer som samhandler med den virkelige verden. Et godt eksempel: Til tross for at AI-intelligens har eksplodert de siste årene, har førerløse biler fortsatt en tendens til å komme til kort når det gjelder sikkerhet og pålitelighet.
Tilsynsmyndighetene undersøker en rekke dødsulykker som involverer selvkjørende biler, inkludert Tesla-modeller med Autopilot og Full Self-Driving-funksjoner.
I 2022 uttalte Matthew Avery, forskningsdirektør ved Thatcham Research, til The Guardian forklarte hvorfor førerløse biler har vært så utfordrende å videreutvikle:
"For det første er dette vanskeligere enn produsentene var klar over", sier Avery.
Avery anslår at rundt 80% av de autonome kjørefunksjonene omfatter relativt enkle oppgaver som å følge kjørefelt og unngå hindringer.
De neste handlingene er imidlertid mye mer utfordrende. "Den siste 10% er virkelig vanskelig", understreker Avery, "som når du har en ku som står midt i veien og ikke vil flytte på seg."
Kuer er riktignok ikke fryktinngytende i seg selv. Men enhver konsentrert sjåfør vil nok vurdere sjansene for å stoppe hvis han eller hun suser mot en i høy fart.
Et AI-systems evne til å identifisere en ku nøyaktig og ta riktige beslutninger avhenger i stor grad av den grunnleggende opplæringen med relevante data.
Denne innledende opplæringen er imidlertid ikke alltid tilstrekkelig til å avverge farer, særlig når den kunstige intelligensen støter på ukjente objekter eller scenarier (såkalte "edge cases").
Avanserte AI-systemer behandler data i sanntid og lærer kontinuerlig, slik at de kan tilpasse seg og forbedre beslutningstakingen over tid.
Likevel er dette et stykke unna naturens dypt integrerte, intuitive varslingssystemer. En menneskelig sjåfør kan instinktivt bremse bare ved antydningen av en hindring, selv før han eller hun helt har forstått hva det er.
Det er også viktig å merke seg at naturlige fryktbaserte responser er svært tilpasningsdyktige og generaliseres godt til nye situasjoner. Et AI-system som er opplært med en ny fryktlignende mekanisme, kan være bedre rustet til å håndtere uforutsette scenarier enn et system som bruker tradisjonelle teknikker for forsterket læring (RL).
Det er et forbehold til alt dette: Mennesker tar heller ikke alltid de riktige beslutningene. Det endrer ikke den tilliten som kreves for å trygt rulle ut autonome kjøretøy i massevis. Folk tolererer menneskelige feil på grunn av fortrolighet, men ser skeptisk på maskinfeil.
Man kan si at det er bedre å kjenne djevelen enn den man ikke kjenner. For at autonome kjøretøy skal bli allment akseptert, må produsentene vise at de er pålitelige og i stand til å håndtere feil like trygt som mennesker.
Å gi AI-systemer en dypere følelse av frykt kan være en alternativ, raskere og mer effektiv måte å oppnå dette på enn med tradisjonelle metoder.
Dekonstruksjon av frykt: innsikt fra bananfluen
Vi er langt fra å utvikle kunstige systemer som gjenskaper de integrerte, spesialiserte nevrale regionene i biologiske hjerner. Men det betyr ikke at vi ikke kan modellere disse mekanismene på andre måter.
Så la oss zoome ut fra amygdala og se på hvordan virvelløse dyr - for eksempel små insekter - oppdager og behandler frykt.
Selv om de ikke har en struktur som er direkte analog med amygdala, betyr ikke det at de mangler kretsløp som oppnår et lignende mål.
For eksempel har nyere studier av fryktresponser hos Drosophila melanogaster, den vanlige bananfluen, har gitt spennende innsikt i de grunnleggende byggesteinene i primitive følelser.
I en eksperiment gjennomført ved Caltech i 2015, har forskere ledet av David Anderson eksponerte flyr mot en skygge over hodet som skal etterligne et rovdyr som nærmer seg.
Ved hjelp av høyhastighetskameraer og maskinsynsalgoritmer analyserte de fluenes atferd nøye, på jakt etter tegn på det Anderson kaller "emosjonsprimitiver" - de grunnleggende komponentene i en følelsesmessig tilstand.
Bemerkelsesverdig nok utviste fluene en rekke atferdsmønstre som lå tett opp til fryktresponsene man ser hos pattedyr.
Da skyggen dukket opp, stivnet fluene på stedet, og vingene ble lagt på skrå for å forberede seg på en rask flukt.
Da trusselen vedvarte, tok noen fluer til å flykte, og pilte bort fra skyggen i høy hastighet. Andre forble som forstenet i en lengre periode, noe som tyder på en tilstand av økt opphisselse og årvåkenhet.
Det avgjørende var at disse reaksjonene ikke bare var reflekser som ble utløst automatisk av den visuelle stimulansen. I stedet så de ut til å gjenspeile en varig indre tilstand, en slags "fluefrykt" som vedvarte selv etter at trusselen hadde passert.
Dette var tydelig i det faktum at fluenes økte defensive atferd kunne fremkalles av en annen stimulus (et pust av luft) selv minutter etter den første skyggeeksponeringen.
Dessuten skalerte intensiteten og varigheten av fryktresponsen med trusselnivået. Fluer som ble utsatt for flere skyggepresentasjoner, viste gradvis sterkere og mer langvarig defensiv atferd, noe som tyder på en slags "fryktlæring" som gjorde det mulig for dem å kalibrere responsen sin basert på hvor alvorlig og hyppig faren var.
Som Anderson og teamet hans hevder, tyder disse funnene på at byggesteinene i emosjonelle tilstander - utholdenhet, skalerbarhet og generalisering - er til stede selv i de enkleste skapninger.
Hvis vi kan avkode hvordan enklere organismer som bananfluer behandler og reagerer på trusler, kan vi potensielt trekke ut kjerneprinsippene for adaptiv, selvbevarende atferd.
Primitive former for frykt kan brukes til å utvikle AI-systemer som er mer robuste, tryggere og bedre tilpasset risikoer og utfordringer i den virkelige verden.
Tilfører AI fryktkretser
Det er en flott teori, men kan AI være gjennomsyret av en autentisk, funksjonell form for "frykt" i praksis?
En spennende studie undersøkte nettopp dette med sikte på å forbedre sikkerheten til førerløse biler og andre autonome systemer.
"Frykt- og nevroinspirert forsterkningslæring for sikker autonom kjøring", ledet av Chen Lv ved Nanyang Technological University i Singapore har utviklet et rammeverk for frykt- og nevroinspirert forsterkningslæring (FNI-RL) for å forbedre ytelsen til førerløse biler.
Ved å bygge AI-systemer som kan gjenkjenne og reagere på de subtile signalene og mønstrene som utløser menneskelig defensiv kjøring - det de kaller "fryktnevroner" - kan vi kanskje skape selvkjørende biler som navigerer på veien med den intuitive varsomheten og risikosensitiviteten de trenger.
FNI-RL-rammeverket oversetter viktige prinsipper for hjernens fryktkretsløp til en beregningsmodell for trusselfølsom kjøring, slik at et autonomt kjøretøy kan lære og ta i bruk adaptive forsvarsstrategier i sanntid.
Den består av tre nøkkelkomponenter som er modellert etter kjerneelementene i den nevrale fryktresponsen:
- En "fryktmodell" som lærer seg å gjenkjenne og vurdere kjøresituasjoner som signaliserer økt kollisjonsrisiko, og som spiller en rolle som er analog med amygdalas funksjoner for å oppdage trusler.
- En "adversarial imagination"-modul som simulerer farlige scenarier mentalt, slik at systemet trygt kan "øve" på defensive manøvrer uten konsekvenser i den virkelige verden - en form for risikofri læring som minner om den mentale repetisjonsevnen til menneskelige sjåfører.
- En "fryktbegrenset" beslutningsmotor som veier potensielle handlinger ikke bare ut fra deres umiddelbart forventede belønning (f.eks. fremgang mot et mål), men også ut fra deres vurderte risikonivå, målt ved hjelp av fryktmodellen og motstridende forestillinger. Dette gjenspeiler amygdalas rolle i å fleksibelt styre atferd basert på en kontinuerlig kalkulasjon av trussel og sikkerhet.
For å teste dette systemet har forskerne testet det i en rekke kjøresimuleringer med utfordrende og sikkerhetskritiske scenarier:
- Plutselige avskjæringer og unnvikelser fra aggressive sjåfører
- Uregjerlige fotgjengere som går mot trafikken
- Skarpe svinger og blinde hjørner med begrenset sikt
- Glatte veier og dårlige værforhold
I alle disse testene viste de FNI-RL-utstyrte kjøretøyene oppsiktsvekkende sikkerhetsprestasjoner, og de utkonkurrerte konsekvent menneskelige sjåfører og tradisjonelle teknikker for forsterket læring (RL) for å unngå kollisjoner og øve på defensive kjøreferdigheter.
I et slående eksempel klarte FNI-RL-systemet å navigere gjennom en plutselig trafikkfusjon i høy hastighet med en suksessrate på 90%, sammenlignet med bare 60% for en toppmoderne RL-baseline.
Den oppnådde til og med sikkerhetsforbedringer uten at det gikk på bekostning av kjøreegenskaper eller passasjerkomfort.
I andre tester undersøkte forskerne FNI-RL-systemets evne til å lære og generalisere defensive strategier på tvers av ulike kjøremiljøer.
I en simulering av et travelt bykryss lærte den kunstige intelligensen i løpet av bare noen få forsøk å gjenkjenne tegnene på en hensynsløs sjåfør - plutselige filskift, aggressiv akselerasjon - og tilpasse sin egen atferd slik at den holdt en større avstand.
Bemerkelsesverdig nok var systemet deretter i stand til å overføre denne tillærte varsomheten til et nytt scenario for motorveikjøring, der det automatisk registrerte farlige innkjøringsmanøvrer og reagerte med unnamanøvre.
Dette viser at nevroinspirert emosjonell intelligens har potensial til å forbedre sikkerheten og robustheten til autonome kjøresystemer.
Ved å utstyre kjøretøyene med en "digital amygdala" som er innstilt på de viscerale signalene om risiko i trafikken, kan vi kanskje skape selvkjørende biler som kan navigere gjennom utfordringene i trafikken med en flytende, proaktiv defensiv bevissthet.
Mot en vitenskap om emosjonelt bevisst robotikk
Mens de siste fremskrittene innen kunstig intelligens har basert seg på brutal regnekraft, henter forskere nå inspirasjon fra menneskelige emosjonelle reaksjoner for å skape smartere og mer adaptive kunstige systemer.
Dette paradigmet, som har fått navnet "bioinspirert kunstig intelligens..." strekker seg utover selvkjørende biler til områder som produksjon, helsevesen og romforskning.
Det finnes mange spennende innfallsvinkler å utforske. For eksempel utvikles det robothender med "digitale nociseptorer" som etterligner smertereseptorer, noe som gjør det mulig å reagere raskt på potensielle skader.
Når det gjelder maskinvare, IBMs bioinspirerte analoge brikker bruker "memristorer" til å lagre varierende numeriske verdier, noe som reduserer dataoverføringen mellom minne og prosessor.
På samme måte har forskere ved Indian Institute of Technology, Bombay, designet en chip for Spiking nevrale nettverk (SNN)som i stor grad etterligner funksjonen til biologiske nevroner.
Professor Udayan Ganguly rapporterer at denne brikken oppnår "5000 ganger lavere energi per spike på et tilsvarende areal og 10 ganger lavere standby-strøm" sammenlignet med konvensjonelle design.
Disse fremskrittene innen nevromorfisk databehandling bringer oss nærmere det Ganguly beskriver som "en nevrosynaptisk kjerne med ekstremt lavt strømforbruk og en læringsmekanisme på chipen i sanntid", nøkkelelementer for autonome, biologisk inspirerte nevrale nettverk.
Ved å kombinere naturinspirert AI-teknologi med arkitekturer som tar utgangspunkt i naturlige emosjonelle tilstander som frykt eller nysgjerrighet, kan AI få en helt ny dimensjon.
Når forskerne flytter disse grensene, skaper de ikke bare mer effektive maskiner - de skaper potensielt en ny form for intelligens.
Etter hvert som denne forskningen utvikler seg, kan autonome maskiner vandre rundt blant oss og reagere på uforutsigbare signaler fra omgivelsene med nysgjerrighet, frykt og andre følelser som anses som utpreget menneskelige.
Konsekvensene? Det er en helt annen historie.
