{"id":13512,"date":"2024-07-20T19:20:23","date_gmt":"2024-07-20T19:20:23","guid":{"rendered":"https:\/\/dailyai.com\/?p=13512"},"modified":"2024-07-22T11:57:20","modified_gmt":"2024-07-22T11:57:20","slug":"is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2024\/07\/is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems\/","title":{"rendered":"\u00c4r \"r\u00e4dsla\" nyckeln till att bygga mer anpassningsbara, motst\u00e5ndskraftiga och naturliga AI-system?"},"content":{"rendered":"

AI-forskningen drivs av en str\u00e4van efter att bli alltmer sofistikerad, vilket bland annat inneb\u00e4r att l\u00e4ra systemen att t\u00e4nka och bete sig som m\u00e4nniskor.<\/b><\/p>\n

Slutm\u00e5let? Vem vet. M\u00e5let just nu? Att skapa autonoma, generaliserade AI-agenter som kan utf\u00f6ra ett brett spektrum av uppgifter.\u00a0<\/span><\/p>\n

Detta koncept brukar ben\u00e4mnas artificiell allm\u00e4n intelligens (AGI) eller superintelligens.<\/span><\/p>\n

Det \u00e4r en utmaning att exakt fastst\u00e4lla vad AGI inneb\u00e4r eftersom det i stort sett inte r\u00e5der n\u00e5gon enighet om vad \"intelligens\" \u00e4r, eller n\u00e4r eller hur artificiella system kan uppn\u00e5 det.<\/p>\n

Skeptiker tror till och med att AI, i sitt nuvarande skick, aldrig riktigt kan uppn\u00e5 allm\u00e4n intelligens.\u00a0<\/span><\/p>\n

Professor Tony Prescott och Dr Stuart Wilson fr\u00e5n University of Sheffield\u00a0beskrivna generativa spr\u00e5kmodeller<\/a>som ChatGPT, som begr\u00e4nsade i sig sj\u00e4lva eftersom de \u00e4r \"kroppsl\u00f6sa\" och inte har n\u00e5gon sinnesf\u00f6rnimmelse eller f\u00f6rankring i den naturliga v\u00e4rlden.\u00a0<\/span><\/p>\n

Metas chefsforskare inom AI, Yann LeCun, sade att \u00e4ven en huskatts intelligens \u00e4r ofattbart mycket mer avancerad \u00e4n dagens b\u00e4sta AI-system.\u00a0<\/span><\/p>\n

\"Men varf\u00f6r \u00e4r inte de h\u00e4r systemen lika smarta som en katt?\" LeCun fr\u00e5gade<\/a> vid World Government Summit i Dubai.<\/p>\n

\"En katt kan minnas, kan f\u00f6rst\u00e5 den fysiska v\u00e4rlden, kan planera komplexa handlingar, kan resonera p\u00e5 en viss niv\u00e5 - faktiskt mycket b\u00e4ttre \u00e4n de st\u00f6rsta LLM:erna. Det s\u00e4ger dig att vi saknar n\u00e5got konceptuellt stort f\u00f6r att f\u00e5 maskiner att bli lika intelligenta som djur och m\u00e4nniskor.\"<\/p>\n

\u00c4ven om dessa f\u00e4rdigheter kanske inte \u00e4r n\u00f6dv\u00e4ndiga f\u00f6r att uppn\u00e5 AGI, r\u00e5der det viss enighet om att komplexa AI-system som flyttas fr\u00e5n laboratoriet till den verkliga v\u00e4rlden kommer att beh\u00f6va anta beteenden som liknar dem som observerats hos naturliga organismer.\u00a0<\/span><\/p>\n

S\u00e5 hur kan detta \u00e5stadkommas? En metod \u00e4r att dissekera kognitiva element och ta reda p\u00e5 hur AI-system kan efterlikna dem.<\/span><\/p>\n

I en tidigare DailyAI-artikel unders\u00f6ktes <\/span>nyfikenhet<\/span><\/a> och dess f\u00f6rm\u00e5ga att v\u00e4gleda organismer mot nya erfarenheter och m\u00e5l, vilket driver p\u00e5 den kollektiva utvecklingen av den naturliga v\u00e4rlden.\u00a0<\/span><\/p>\n

Men det finns en annan k\u00e4nsla - en annan viktig del av v\u00e5r existens - som AGI skulle kunna dra nytta av. Och det \u00e4r r\u00e4dsla.\u00a0<\/span><\/p>\n

Hur AI kan l\u00e4ra sig av biologisk r\u00e4dsla<\/h2>\n

R\u00e4dsla \u00e4r l\u00e5ngt ifr\u00e5n en svaghet eller ett fel, utan ett av evolutionens mest kraftfulla verktyg f\u00f6r att h\u00e5lla organismerna s\u00e4kra.<\/span><\/p>\n

Amygdala \u00e4r den centrala struktur som styr r\u00e4dsla hos ryggradsdjur. Hos m\u00e4nniskor \u00e4r det en liten, mandelformad struktur som ligger djupt inb\u00e4ddad i hj\u00e4rnans temporala lober.\u00a0<\/span><\/p>\n

\"Amygdala\"
Hos ryggradsdjur \u00e4r det fr\u00e4mst amygdala som styr r\u00e4dslans reaktion.<\/figcaption><\/figure>\n

Amygdala kallas ofta f\u00f6r \"r\u00e4dslans centrum\" och fungerar som ett tidigt varningssystem som st\u00e4ndigt skannar av inkommande sensorisk information efter potentiella hot.<\/span><\/p>\n

N\u00e4r ett hot uppt\u00e4cks - oavsett om det \u00e4r en pl\u00f6tslig inbromsning av en framf\u00f6rvarande bil eller en skugga som r\u00f6r sig i m\u00f6rkret - tr\u00e4der amygdala i funktion och utl\u00f6ser en kaskad av fysiologiska och beteendem\u00e4ssiga f\u00f6r\u00e4ndringar som \u00e4r optimerade f\u00f6r en snabb defensiv reaktion:<\/span><\/p>\n

    \n
  • Hj\u00e4rtfrekvensen och blodtrycket \u00f6kar kraftigt, vilket g\u00f6r kroppen redo f\u00f6r \"kamp eller flykt\"<\/span><\/li>\n
  • Uppm\u00e4rksamheten smalnar av och sk\u00e4rps och fokuseras p\u00e5 farok\u00e4llan<\/span><\/li>\n
  • Reflexerna blir snabbare och g\u00f6r musklerna redo f\u00f6r sekundsnabba undanman\u00f6vrar<\/span><\/li>\n
  • Den kognitiva bearbetningen \u00f6verg\u00e5r till ett snabbt, intuitivt l\u00e4ge d\u00e4r man t\u00e4nker \"hellre ta det s\u00e4kra f\u00f6re det os\u00e4kra\".<\/span><\/li>\n<\/ul>\n

    Detta svar \u00e4r inte en enkel reflex utan en mycket adaptiv, kontextk\u00e4nslig upps\u00e4ttning f\u00f6r\u00e4ndringar som flexibelt skr\u00e4ddarsyr beteendet efter hotets art och sv\u00e5righetsgrad.<\/p>\n

    Det \u00e4r ocks\u00e5 exceptionellt snabbt. Vi blir medvetna om ett hot cirka 300-400 millisekunder efter den f\u00f6rsta uppt\u00e4ckten.<\/span><\/p>\n

    Dessutom fungerar inte amygdala isolerat. Den \u00e4r t\u00e4tt sammankopplad med andra viktiga hj\u00e4rnregioner som \u00e4r involverade i perception, minne, resonemang och handling.<\/span><\/p>\n

    Varf\u00f6r r\u00e4dsla kan gynna AI<\/h2>\n

    S\u00e5 varf\u00f6r spelar r\u00e4dsla n\u00e5gon roll n\u00e4r det g\u00e4ller AI?<\/span><\/p>\n

    I biologiska system fungerar r\u00e4dsla som en avg\u00f6rande mekanism f\u00f6r att snabbt uppt\u00e4cka och reagera p\u00e5 hot. Genom att efterlikna detta system i AI kan vi potentiellt skapa mer robusta och anpassningsbara artificiella system.<\/span><\/p>\n

    Detta \u00e4r s\u00e4rskilt relevant f\u00f6r autonoma system som interagerar med den verkliga v\u00e4rlden. Ett exempel: trots att AI-intelligens har exploderat under de senaste \u00e5ren tenderar f\u00f6rarl\u00f6sa bilar fortfarande att ha brister i s\u00e4kerhet och tillf\u00f6rlitlighet.\u00a0<\/span><\/p>\n

    Tillsynsmyndigheter unders\u00f6ker ett stort antal d\u00f6dsolyckor med sj\u00e4lvk\u00f6rande bilar, inklusive Tesla-modeller med Autopilot och Full Self-Driving-funktioner.\u00a0<\/span><\/p>\n