{"id":13512,"date":"2024-07-20T19:20:23","date_gmt":"2024-07-20T19:20:23","guid":{"rendered":"https:\/\/dailyai.com\/?p=13512"},"modified":"2024-07-22T11:57:20","modified_gmt":"2024-07-22T11:57:20","slug":"is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2024\/07\/is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems\/","title":{"rendered":"Er \"frykt\" n\u00f8kkelen til \u00e5 bygge mer tilpasningsdyktige, motstandsdyktige og naturlige AI-systemer?"},"content":{"rendered":"

AI-forskningen drives av jakten p\u00e5 stadig mer sofistikerte l\u00f8sninger, noe som blant annet inneb\u00e6rer \u00e5 l\u00e6re opp systemer til \u00e5 tenke og oppf\u00f8re seg som mennesker.<\/b><\/p>\n

Sluttm\u00e5let? Hvem vet. M\u00e5let for \u00f8yeblikket? \u00c5 skape autonome, generaliserte AI-agenter som er i stand til \u00e5 utf\u00f8re et bredt spekter av oppgaver.\u00a0<\/span><\/p>\n

Dette konseptet kalles vanligvis kunstig generell intelligens (AGI) eller superintelligens.<\/span><\/p>\n

Det er utfordrende \u00e5 fastsl\u00e5 n\u00f8yaktig hva AGI inneb\u00e6rer, fordi det er s\u00e5 godt som ingen enighet om hva \"intelligens\" er, og heller ikke om n\u00e5r eller hvordan kunstige systemer kan oppn\u00e5 det.<\/p>\n

Skeptikere mener til og med at AI i sin n\u00e5v\u00e6rende form aldri kan oppn\u00e5 generell intelligens.\u00a0<\/span><\/p>\n

Professor Tony Prescott og Dr. Stuart Wilson fra University of Sheffield\u00a0beskrevne generative spr\u00e5kmodeller<\/a>som ChatGPT, som iboende begrensede fordi de er \"kroppsl\u00f8se\" og ikke har noen sensorisk persepsjon eller forankring i den naturlige verden.\u00a0<\/span><\/p>\n

Yann LeCun, Metas sjefforsker innen kunstig intelligens, sa at selv en huskatts intelligens er ufattelig mye mer avansert enn dagens beste AI-systemer.\u00a0<\/span><\/p>\n

\"Men hvorfor er ikke disse systemene like smarte som en katt?\" spurte LeCun<\/a> p\u00e5 World Government Summit i Dubai.<\/p>\n

\"En katt kan huske, kan forst\u00e5 den fysiske verden, kan planlegge komplekse handlinger, kan resonnere p\u00e5 et visst niv\u00e5 - faktisk mye bedre enn de st\u00f8rste LLM-ene. Det forteller deg at vi mangler noe konseptuelt stort for \u00e5 f\u00e5 maskiner til \u00e5 bli like intelligente som dyr og mennesker.\"<\/p>\n

Selv om disse ferdighetene kanskje ikke er n\u00f8dvendige for \u00e5 oppn\u00e5 AGI, er det en viss enighet om at det \u00e5 flytte komplekse AI-systemer fra laboratoriet og ut i den virkelige verden vil kreve at man adopterer atferd som ligner p\u00e5 den man observerer hos naturlige organismer.\u00a0<\/span><\/p>\n

S\u00e5 hvordan kan man oppn\u00e5 dette? \u00c9n tiln\u00e6rming er \u00e5 dissekere elementer av kognisjon og finne ut hvordan AI-systemer kan etterligne dem.<\/span><\/p>\n

Et tidligere DailyAI-essay unders\u00f8kte <\/span>nysgjerrighet<\/span><\/a> og dens evne til \u00e5 lede organismer mot nye erfaringer og m\u00e5l, noe som driver den kollektive utviklingen av naturen.\u00a0<\/span><\/p>\n

Men det finnes en annen f\u00f8lelse - en annen viktig komponent i v\u00e5r eksistens - som AGI kan dra nytte av. Og det er frykt.\u00a0<\/span><\/p>\n

Hvordan AI kan l\u00e6re av biologisk frykt<\/h2>\n

Frykt er langt fra \u00e5 v\u00e6re en svakhet eller en feil, men et av evolusjonens mest potente verkt\u00f8y for \u00e5 holde organismer trygge.<\/span><\/p>\n

Amygdala er den sentrale strukturen som styrer frykt hos virveldyr. Hos mennesker er det en liten, mandelformet struktur som ligger dypt inne i hjernens tinninglapper.\u00a0<\/span><\/p>\n

\"Amygdala\"
Amygdala styrer f\u00f8rst og fremst fryktresponsen hos virveldyr.<\/figcaption><\/figure>\n

Amygdala kalles ofte \"fryktsenteret\", og fungerer som et tidlig varslingssystem som kontinuerlig skanner innkommende sensorisk informasjon for potensielle trusler.<\/span><\/p>\n

N\u00e5r en trussel oppdages - enten det er en bil som plutselig bremser eller en skygge i m\u00f8rket - g\u00e5r amygdala i aksjon og utl\u00f8ser en kaskade av fysiologiske og atferdsmessige endringer som er optimalisert for en rask defensiv respons:<\/span><\/p>\n

    \n
  • Hjertefrekvensen og blodtrykket stiger, noe som forbereder kroppen p\u00e5 \"kamp eller flukt\"<\/span><\/li>\n
  • Oppmerksomheten skjerpes og spisses mot farekilden<\/span><\/li>\n
  • Refleksene blir raskere, og musklene er klare til \u00e5 unnslippe p\u00e5 et \u00f8yeblikk<\/span><\/li>\n
  • Kognitiv prosessering skifter til en rask, intuitiv, \"bedre f\u00f8re var enn etter snar\"-modus<\/span><\/li>\n<\/ul>\n

    Denne responsen er ikke en enkel refleks, men en sv\u00e6rt tilpasningsdyktig, kontekstsensitiv pakke med endringer som fleksibelt tilpasser atferden til trusselens art og alvorlighetsgrad.<\/p>\n

    Den er ogs\u00e5 usedvanlig rask. Vi blir bevisst oppmerksom p\u00e5 en trussel rundt 300-400 millisekunder etter at den f\u00f8rst er oppdaget.<\/span><\/p>\n

    Dessuten fungerer ikke amygdala isolert. Den er tett sammenkoblet med andre viktige hjerneregioner som er involvert i persepsjon, hukommelse, resonnering og handling.<\/span><\/p>\n

    Hvorfor frykt kan v\u00e6re en fordel for AI<\/h2>\n

    S\u00e5 hvorfor er frykt viktig i forbindelse med kunstig intelligens?<\/span><\/p>\n

    I biologiske systemer fungerer frykt som en avgj\u00f8rende mekanisme for rask oppdagelse av og respons p\u00e5 trusler. Ved \u00e5 etterligne dette systemet i kunstig intelligens kan vi potensielt skape mer robuste og tilpasningsdyktige kunstige systemer.<\/span><\/p>\n

    Dette er s\u00e6rlig relevant for autonome systemer som samhandler med den virkelige verden. Et godt eksempel: Til tross for at AI-intelligens har eksplodert de siste \u00e5rene, har f\u00f8rerl\u00f8se biler fortsatt en tendens til \u00e5 komme til kort n\u00e5r det gjelder sikkerhet og p\u00e5litelighet.\u00a0<\/span><\/p>\n

    Tilsynsmyndighetene unders\u00f8ker en rekke d\u00f8dsulykker som involverer selvkj\u00f8rende biler, inkludert Tesla-modeller med Autopilot og Full Self-Driving-funksjoner.\u00a0<\/span><\/p>\n