Forskere fra Meaning Alignment Institute har foresl\u00e5et en ny tilgang, Moral Graph Elicitation (MGE), til at tilpasse AI-systemer til menneskelige v\u00e6rdier.<\/b><\/p>\n
Efterh\u00e5nden som AI bliver mere avanceret og integreret i vores hverdag, er det vigtigt at sikre, at den tjener og repr\u00e6senterer alle retf\u00e6rdigt. Men det<\/span>hans <\/span>unders\u00f8gelse<\/span><\/a> h\u00e6vder, at tilpasning af AI til brugerens m\u00e5l alene ikke garanterer sikkerhed.<\/span><\/p>\n \u00a0\"AI-systemer vil blive anvendt i sammenh\u00e6nge, hvor blind overholdelse af operat\u00f8rens hensigt kan for\u00e5rsage skade som et biprodukt. Det ses tydeligst i milj\u00f8er med konkurrencedynamik, som f.eks. politiske kampagner eller forvaltning af finansielle aktiver\", siger forskerne.\u00a0<\/span><\/p>\n Det skyldes, at AI-modeller er designet til at tjene brugeren. Hvis brugeren instruerer en model i at have skumle hensigter, kan modellens trang til at tjene brugeren f\u00e5 den til at omg\u00e5 sikkerhedsforanstaltninger og adlyde.<\/p>\n En l\u00f8sning er at \"impr\u00e6gnere\" AI med en r\u00e6kke v\u00e6rdier, som den konsulterer, hver gang den bliver bedt om det.<\/p>\n Sp\u00f8rgsm\u00e5let er, hvor de v\u00e6rdier kommer fra? Og kan de repr\u00e6sentere mennesker p\u00e5 en retf\u00e6rdig m\u00e5de?<\/p>\n \"Hvad er menneskelige v\u00e6rdier, og hvordan tilpasser vi os dem?\"<\/p>\n Vi er meget glade for at udgive vores nye artikel om v\u00e6rditilpasning, som vi har skrevet sammen med @ryan_t_lowe<\/a> og finansieret af @openai<\/a>.<\/p>\n \ud83d\udcdd: https:\/\/t.co\/iioFKmrDZA<\/a> pic.twitter.com\/NSJa8dbcrM<\/a><\/p>\n - Joe Edelman (@edelwax) 29. marts 2024<\/a><\/p><\/blockquote>\n\n