{"id":13512,"date":"2024-07-20T19:20:23","date_gmt":"2024-07-20T19:20:23","guid":{"rendered":"https:\/\/dailyai.com\/?p=13512"},"modified":"2024-07-22T11:57:20","modified_gmt":"2024-07-22T11:57:20","slug":"is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2024\/07\/is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems\/","title":{"rendered":"Er 'frygt' n\u00f8glen til at bygge mere tilpasningsdygtige, modstandsdygtige og naturlige AI-systemer?"},"content":{"rendered":"

AI-forskningen er drevet af jagten p\u00e5 stadig st\u00f8rre raffinement, hvilket inkluderer tr\u00e6ning af systemer til at t\u00e6nke og opf\u00f8re sig som mennesker.<\/b><\/p>\n

Det endelige m\u00e5l? Hvem ved det? M\u00e5let for nu? At skabe autonome, generaliserede AI-agenter, der er i stand til at udf\u00f8re en bred vifte af opgaver.\u00a0<\/span><\/p>\n

Dette koncept kaldes normalt kunstig generel intelligens (AGI) eller superintelligens.<\/span><\/p>\n

Det er en udfordring at pr\u00e6cisere, hvad AGI indeb\u00e6rer, fordi der stort set ikke er enighed om, hvad \"intelligens\" er, eller hvorn\u00e5r eller hvordan kunstige systemer kan opn\u00e5 det.<\/p>\n

Skeptikere mener endda, at AI i sin nuv\u00e6rende tilstand aldrig rigtig kan opn\u00e5 generel intelligens.\u00a0<\/span><\/p>\n

Professor Tony Prescott og Dr. Stuart Wilson fra University of Sheffield\u00a0beskrevne generative sprogmodeller<\/a>som ChatGPT, som i sagens natur er begr\u00e6nsede, fordi de er \"kropsl\u00f8se\" og ikke har nogen sanseopfattelse eller forankring i den naturlige verden.\u00a0<\/span><\/p>\n

Metas chefforsker i AI, Yann LeCun, sagde, at selv en huskats intelligens er ufatteligt meget mere avanceret end nutidens bedste AI-systemer.\u00a0<\/span><\/p>\n

\"Men hvorfor er de systemer ikke lige s\u00e5 kloge som en kat?\" LeCun spurgte<\/a> p\u00e5 World Government Summit i Dubai.<\/p>\n

\"En kat kan huske, kan forst\u00e5 den fysiske verden, kan planl\u00e6gge komplekse handlinger, kan r\u00e6sonnere p\u00e5 et vist niveau - faktisk meget bedre end de st\u00f8rste LLM'er. Det fort\u00e6ller dig, at vi mangler noget konceptuelt stort for at f\u00e5 maskiner til at v\u00e6re lige s\u00e5 intelligente som dyr og mennesker.\"<\/p>\n

Selv om disse f\u00e6rdigheder m\u00e5ske ikke er n\u00f8dvendige for at opn\u00e5 AGI, er der en vis enighed om, at det at flytte komplekse AI-systemer fra laboratoriet til den virkelige verden vil kr\u00e6ve, at man adopterer adf\u00e6rd, der ligner den, der er observeret hos naturlige organismer.\u00a0<\/span><\/p>\n

S\u00e5 hvordan kan dette opn\u00e5s? En tilgang er at dissekere elementer af kognition og finde ud af, hvordan AI-systemer kan efterligne dem.<\/span><\/p>\n

Et tidligere DailyAI-essay unders\u00f8gte <\/span>Nysgerrighed<\/span><\/a> og dens evne til at lede organismer mod nye oplevelser og m\u00e5l, hvilket fremmer den kollektive udvikling af den naturlige verden.\u00a0<\/span><\/p>\n

Men der er en anden f\u00f8lelse - en anden v\u00e6sentlig del af vores eksistens - som AGI kunne drage fordel af. Og det er frygt.\u00a0<\/span><\/p>\n

Hvordan AI kan l\u00e6re af biologisk frygt<\/h2>\n

Langt fra at v\u00e6re en svaghed eller en fejl er frygt et af evolutionens mest potente redskaber til at holde organismerne i sikkerhed.<\/span><\/p>\n

Amygdala er den centrale struktur, der styrer frygt hos hvirveldyr. Hos mennesker er det en lille, mandelformet struktur, der ligger dybt inde i hjernens tindingelapper.\u00a0<\/span><\/p>\n

\"Amygdala\"
Amygdala styrer prim\u00e6rt frygtreaktionen hos hvirveldyr.<\/figcaption><\/figure>\n

Amygdala kaldes ofte for \"frygtcentret\" og fungerer som et tidligt advarselssystem, der konstant scanner indkommende sanseinformation for potentielle trusler.<\/span><\/p>\n

N\u00e5r en trussel opdages - uanset om det er den pludselige slingren fra en bremsende bil foran os eller en skygge, der bev\u00e6ger sig i m\u00f8rket - g\u00e5r amygdala i aktion og udl\u00f8ser en kaskade af fysiologiske og adf\u00e6rdsm\u00e6ssige \u00e6ndringer, der er optimeret til hurtig forsvarsreaktion:<\/span><\/p>\n

    \n
  • Hjertefrekvensen og blodtrykket stiger og forbereder kroppen p\u00e5 \"kamp eller flugt\"<\/span><\/li>\n
  • Opm\u00e6rksomheden indsn\u00e6vres og sk\u00e6rpes, og der fokuseres p\u00e5 farekilden<\/span><\/li>\n
  • Reflekserne bliver hurtigere og g\u00f8r musklerne klar til at undvige p\u00e5 et splitsekund<\/span><\/li>\n
  • Kognitiv behandling skifter til en hurtig, intuitiv, \"hellere sikker end ked af det\"-tilstand<\/span><\/li>\n<\/ul>\n

    Denne reaktion er ikke en simpel refleks, men en yderst adaptiv, kontekstsensitiv r\u00e6kke af \u00e6ndringer, der fleksibelt skr\u00e6ddersyr adf\u00e6rd til arten og alvoren af den aktuelle trussel.<\/p>\n

    Det er ogs\u00e5 us\u00e6dvanligt hurtigt. Vi bliver bevidste om en trussel omkring 300-400 millisekunder efter den f\u00f8rste registrering.<\/span><\/p>\n

    Desuden fungerer amygdala ikke isoleret. Den er t\u00e6t forbundet med andre vigtige hjerneomr\u00e5der, der er involveret i opfattelse, hukommelse, r\u00e6sonnement og handling.<\/span><\/p>\n

    Hvorfor frygt kan gavne AI<\/h2>\n

    S\u00e5 hvorfor betyder frygt overhovedet noget i forbindelse med AI?<\/span><\/p>\n

    I biologiske systemer fungerer frygt som en afg\u00f8rende mekanisme til hurtig opdagelse og reaktion p\u00e5 trusler. Ved at efterligne dette system i AI kan vi potentielt skabe mere robuste og tilpasningsdygtige kunstige systemer.<\/span><\/p>\n

    Dette er is\u00e6r relevant for autonome systemer, der interagerer med den virkelige verden. Et eksempel: P\u00e5 trods af at AI-intelligens er eksploderet i de senere \u00e5r, har f\u00f8rerl\u00f8se biler stadig en tendens til at komme til kort, n\u00e5r det g\u00e6lder sikkerhed og p\u00e5lidelighed.\u00a0<\/span><\/p>\n

    Myndighederne unders\u00f8ger adskillige fatale h\u00e6ndelser med selvk\u00f8rende biler, herunder Tesla-modeller med Autopilot og Full Self-Driving-funktioner.\u00a0<\/span><\/p>\n