Forskare fr\u00e5n Meaning Alignment Institute har f\u00f6reslagit ett nytt tillv\u00e4gag\u00e5ngss\u00e4tt, Moral Graph Elicitation (MGE), f\u00f6r att anpassa AI-system till m\u00e4nskliga v\u00e4rderingar.<\/b><\/p>\n
I takt med att AI blir allt mer avancerat och integreras i v\u00e5ra dagliga liv \u00e4r det av yttersta vikt att s\u00e4kerst\u00e4lla att det tj\u00e4nar och representerar alla p\u00e5 ett r\u00e4ttvist s\u00e4tt. Men den<\/span>hans <\/span>studie<\/span><\/a> menar att det inte r\u00e4cker med att anpassa AI till anv\u00e4ndarens m\u00e5l f\u00f6r att garantera s\u00e4kerheten.<\/span><\/p>\n \u00a0\"AI-system kommer att anv\u00e4ndas i sammanhang d\u00e4r blind f\u00f6ljsamhet till operat\u00f6rens avsikt kan orsaka skada som en biprodukt. Detta kan ses tydligast i milj\u00f6er med konkurrensdynamik, som politiska kampanjer eller hantering av finansiella tillg\u00e5ngar\", menar forskarna.\u00a0<\/span><\/p>\n Detta beror p\u00e5 att AI-modeller \u00e4r utformade f\u00f6r att tj\u00e4na anv\u00e4ndaren. Om anv\u00e4ndaren instruerar en modell mot skadliga syften kan modellens drivkraft att tj\u00e4na anv\u00e4ndaren leda till att den kringg\u00e5r skyddsr\u00e4cken och lyder.<\/p>\n En l\u00f6sning \u00e4r att \"impregnera\" AI med en serie v\u00e4rden som den konsulterar varje g\u00e5ng den uppmanas till det.<\/p>\n Fr\u00e5gan \u00e4r varifr\u00e5n dessa v\u00e4rderingar kommer? Och kan de representera m\u00e4nniskor p\u00e5 ett r\u00e4ttvist s\u00e4tt?<\/p>\n \"Vad \u00e4r m\u00e4nskliga v\u00e4rderingar och hur anpassar vi oss till dem?\"<\/p>\n Vi \u00e4r mycket glada \u00f6ver att kunna publicera v\u00e5r nya rapport om v\u00e4rdeorientering, som vi har f\u00f6rfattat tillsammans med @ryan_t_lowe<\/a> och finansierad av @openai<\/a>.<\/p>\n \ud83d\udcdd: https:\/\/t.co\/iioFKmrDZA<\/a> pic.twitter.com\/NSJa8dbcrM<\/a><\/p>\n - Joe Edelman (@edelwax) 29 mars 2024<\/a><\/p><\/blockquote>\n\n