{"id":6785,"date":"2023-10-26T11:50:06","date_gmt":"2023-10-26T11:50:06","guid":{"rendered":"https:\/\/dailyai.com\/?p=6785"},"modified":"2023-10-26T11:50:06","modified_gmt":"2023-10-26T11:50:06","slug":"uk-report-lists-potential-ai-risks-and-doomsday-scenarios","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2023\/10\/uk-report-lists-potential-ai-risks-and-doomsday-scenarios\/","title":{"rendered":"Britisk rapport lister opp potensielle AI-risikoer og dommedagsscenarioer"},"content":{"rendered":"

Den britiske regjeringen har offentliggjort rapporten \"Capabilities and risks from frontier AI\", som vil danne grunnlaget for diskusjonen p\u00e5 det kommende AI Safety Summit.<\/strong><\/p>\n

Rapporten<\/a> gir en oversikt over n\u00e5v\u00e6rende og fremtidige muligheter og risikoer knyttet til frontier-modeller. Frontier-modeller er sv\u00e6rt dyktige AI-modeller for generelle form\u00e5l som kan utf\u00f8re et bredt spekter av oppgaver, slik som GPT-4 eller Llama 2.<\/p>\n

F\u00f8r rapporten tar for seg n\u00e5v\u00e6rende og fremtidige risikoer, anerkjenner den at kunstig intelligens har potensial til \u00e5 forbedre livene v\u00e5re p\u00e5 mange m\u00e5ter. I innledningen til rapporten heter det at vi p\u00e5 grunn av AI \"befinner oss midt i en teknologisk revolusjon som vil endre m\u00e5ten vi lever, arbeider og forholder oss til hverandre p\u00e5, p\u00e5 en grunnleggende m\u00e5te\".<\/p>\n

Det er s\u00e6rlig rapportens risikoer og dommedagsscenarioer som er interessant lesning.<\/p>\n

Fremtidige risikoer ved kunstig intelligens<\/h2>\n

I rapporten heter det at \"kompleksiteten i \u00e5pne domener gj\u00f8r det vanskelig \u00e5 utforme sikre systemer eller \u00e5 evaluere alle nedstr\u00f8ms brukstilfeller p\u00e5 en utt\u00f8mmende m\u00e5te.\" I bunn og grunn sier de at AI er et verkt\u00f8y omtrent som en penn; du kan f\u00e5 det til \u00e5 fungere bra, men du kan ikke hindre at noen bruker det til \u00e5 skrive d\u00e5rlige ting.<\/p>\n

De p\u00e5f\u00f8lgende risikoene som f\u00f8lger av AIs dobbeltbruk fyller flere titalls sider i rapporten og f\u00e5r deg til \u00e5 lure p\u00e5 hva toppm\u00f8tet<\/a> vil oppn\u00e5 i l\u00f8pet av to dager.<\/p>\n

En av de st\u00f8rste risikoene som trekkes frem i rapporten, er at fremtidens AI aktivt s\u00f8ker autonomi. I rapporten heter det: \"Tap av kontroll kan fremskyndes hvis AI-systemer iverksetter tiltak for \u00e5 \u00f8ke sin egen innflytelse og redusere menneskelig kontroll.\"<\/p>\n

Det ble bemerket at fremtidig AI kan utvikle b\u00e5de evnen og viljen til \u00e5 gj\u00f8re nettopp det.<\/p>\n

Selv om vi erkjenner at noen eksperter mener at risikoen ved kunstig intelligens har blitt overvurdert<\/a>avviser ikke rapporten de mer eksistensielle truslene.<\/p>\n

\n

Kunstig intelligens kan raskt f\u00f8re til fremskritt innen helse, vitenskap og energi, men vi m\u00e5 utnytte den p\u00e5 en trygg m\u00e5te.<\/p>\n

Regjeringen har utgitt et diskusjonsnotat om risikoene og mulighetene ved Frontier AI:https:\/\/t.co\/YIjyZsgcbe<\/a><\/p>\n

Les et sammendrag nedenfor \ud83d\udc47
\n(1\/4) pic.twitter.com\/FJdbKcqk4e<\/a><\/p>\n

- Departementet for vitenskap, innovasjon og teknologi (@SciTechgovuk) 26. oktober 2023<\/a><\/p>\n<\/blockquote>\n