{"id":6785,"date":"2023-10-26T11:50:06","date_gmt":"2023-10-26T11:50:06","guid":{"rendered":"https:\/\/dailyai.com\/?p=6785"},"modified":"2023-10-26T11:50:06","modified_gmt":"2023-10-26T11:50:06","slug":"uk-report-lists-potential-ai-risks-and-doomsday-scenarios","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2023\/10\/uk-report-lists-potential-ai-risks-and-doomsday-scenarios\/","title":{"rendered":"Brittisk rapport listar potentiella AI-risker och domedagsscenarier"},"content":{"rendered":"

Den brittiska regeringen sl\u00e4ppte sin rapport \"Capabilities and risks from frontier AI\" som kommer att ligga till grund f\u00f6r diskussionerna vid det kommande AI Safety Summit.<\/strong><\/p>\n

Rapporten<\/a> ger en \u00f6versikt \u00f6ver nuvarande och framtida kapacitet och risker i samband med gr\u00e4nsmodeller. Frontier-modeller \u00e4r mycket kapabla AI-modeller f\u00f6r allm\u00e4nna \u00e4ndam\u00e5l som kan utf\u00f6ra en m\u00e4ngd olika uppgifter, som GPT-4 eller Llama 2.<\/p>\n

Innan rapporten tar upp nuvarande och framtida risker erk\u00e4nns att AI har potential att f\u00f6rb\u00e4ttra v\u00e5ra liv p\u00e5 m\u00e5nga s\u00e4tt. I rapportens inledning s\u00e4gs att vi p\u00e5 grund av AI \"befinner oss mitt i en teknisk revolution som i grunden kommer att f\u00f6r\u00e4ndra v\u00e5rt s\u00e4tt att leva, arbeta och f\u00f6rh\u00e5lla oss till varandra\".<\/p>\n

Det \u00e4r de risker och domedagsscenarier som beskrivs i rapporten som \u00e4r s\u00e4rskilt intressanta att l\u00e4sa.<\/p>\n

Framtida risker med AI<\/h2>\n

I rapporten konstateras att \"komplexiteten i \u00f6ppna dom\u00e4ner g\u00f6r det sv\u00e5rt att utforma s\u00e4kra system eller att utt\u00f6mmande utv\u00e4rdera alla nedstr\u00f6ms anv\u00e4ndningsfall\". I grund och botten s\u00e4ger de att AI \u00e4r ett verktyg ungef\u00e4r som en penna; du kan f\u00e5 det att fungera bra men kan inte hindra n\u00e5gon fr\u00e5n att anv\u00e4nda det f\u00f6r att skriva d\u00e5liga saker.<\/p>\n

De risker som f\u00f6ljer av AI:s dubbla anv\u00e4ndningsomr\u00e5den fyller tiotals sidor i rapporten och f\u00e5r en att undra vad toppm\u00f6tet<\/a> kommer att uppn\u00e5 om 2 dagar.<\/p>\n

En anm\u00e4rkningsv\u00e4rd risk som tas upp i rapporten \u00e4r att framtida AI aktivt str\u00e4var efter autonomi. I rapporten st\u00e5r det: \"F\u00f6rlusten av kontroll kan p\u00e5skyndas om AI-system vidtar \u00e5tg\u00e4rder f\u00f6r att \u00f6ka sitt eget inflytande och minska den m\u00e4nskliga kontrollen.\"<\/p>\n

Det konstaterades att framtida AI skulle kunna utveckla b\u00e5de f\u00f6rm\u00e5gan och viljan att g\u00f6ra just detta.<\/p>\n

Samtidigt som vi erk\u00e4nner att vissa experter anser att riskerna med AI har \u00f6verskattats<\/a>avf\u00e4rdar rapporten inte de mer existentiella hoten.<\/p>\n

\n

AI kan snabbt utveckla sjukv\u00e5rd, vetenskap och energi, men vi m\u00e5ste utnyttja den p\u00e5 ett s\u00e4kert s\u00e4tt.<\/p>\n

Regeringen har publicerat ett diskussionsunderlag om risker och m\u00f6jligheter med Frontier AI:https:\/\/t.co\/YIjyZsgcbe<\/a><\/p>\n

L\u00e4s en sammanfattning nedan \ud83d\udc47
\n(1\/4) pic.twitter.com\/FJdbKcqk4e<\/a><\/p>\n

- Avdelningen f\u00f6r vetenskap, innovation och teknik (@SciTechgovuk) 26 oktober 2023<\/a><\/p>\n<\/blockquote>\n