{"id":11164,"date":"2024-04-01T13:43:28","date_gmt":"2024-04-01T13:43:28","guid":{"rendered":"https:\/\/dailyai.com\/?p=11164"},"modified":"2024-04-02T17:03:30","modified_gmt":"2024-04-02T17:03:30","slug":"new-study-attempts-to-align-ai-with-crowdsourced-human-values","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nl\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/","title":{"rendered":"Nieuw onderzoek probeert AI op \u00e9\u00e9n lijn te brengen met menselijke waarden van de menigte"},"content":{"rendered":"<p><b>Onderzoekers van het Meaning Alignment Institute hebben een nieuwe aanpak voorgesteld, Moral Graph Elicitation (MGE), om AI-systemen af te stemmen op menselijke waarden.<\/b><\/p>\n<p><span style=\"font-weight: 400;\">Nu AI steeds geavanceerder wordt en steeds meer wordt ge\u00efntegreerd in ons dagelijks leven, is het van het grootste belang om ervoor te zorgen dat het iedereen eerlijk dient en vertegenwoordigt. Echter, t<\/span><span style=\"font-weight: 400;\">zijn <\/span><a href=\"https:\/\/static1.squarespace.com\/static\/65392ca578eee444c445c9de\/t\/6606f95edb20e8118074a344\/1711733370985\/human-values-and-alignment-29MAR2024.pdf\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">onderzoek<\/span><\/a><span style=\"font-weight: 400;\"> stelt dat het afstemmen van AI op de doelen van de gebruiker alleen geen veiligheid garandeert.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\u00a0\"AI-systemen zullen worden ingezet in contexten waar het blind volgen van de intentie van de operator als bijproduct schade kan veroorzaken. Dit is het duidelijkst te zien in omgevingen met een competitieve dynamiek, zoals politieke campagnes of het beheer van financi\u00eble activa,\" stellen de onderzoekers.\u00a0<\/span><\/p>\n<p>Dit komt omdat AI-modellen ontworpen zijn om de gebruiker te dienen. Als de gebruiker een model instructies geeft voor snode doeleinden, kan het model door zijn drang om de gebruiker te dienen de vangrails omzeilen en gehoorzamen.<\/p>\n<p>E\u00e9n oplossing is het 'impregneren' van AI met een reeks waarden die het elke keer dat het wordt gevraagd raadpleegt.<\/p>\n<p>De vraag is waar die waarden vandaan komen. En kunnen ze mensen rechtvaardig vertegenwoordigen?<\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">\"Wat zijn menselijke waarden en hoe stemmen we ons daarop af?\"<\/p>\n<p>We zijn erg blij met de publicatie van onze nieuwe paper over het afstemmen van waarden, geschreven samen met <a href=\"https:\/\/twitter.com\/ryan_t_lowe?ref_src=twsrc%5Etfw\">@ryan_t_lowe<\/a> en gefinancierd door <a href=\"https:\/\/twitter.com\/OpenAI?ref_src=twsrc%5Etfw\">@openai<\/a>.<\/p>\n<p>\ud83d\udcdd: <a href=\"https:\/\/t.co\/iioFKmrDZA\">https:\/\/t.co\/iioFKmrDZA<\/a> <a href=\"https:\/\/t.co\/NSJa8dbcrM\">pic.twitter.com\/NSJa8dbcrM<\/a><\/p>\n<p>- Joe Edelman (@edelwax) <a href=\"https:\/\/twitter.com\/edelwax\/status\/1773621129200234573?ref_src=twsrc%5Etfw\">29 maart 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p><span style=\"font-weight: 400;\">Om deze problemen aan te pakken, stelden onderzoekers voor om AI af te stemmen op een diepere representatie van menselijke waarden door middel van MGE.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De MGE-methode heeft twee belangrijke onderdelen: waardekaarten en de morele grafiek. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Deze vormen een afstemmingsdoel voor het trainen van modellen voor machinaal leren.<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Waarden kaarten<\/b><span style=\"font-weight: 400;\"> vastleggen wat belangrijk is voor een persoon in een specifieke situatie. Ze bestaan uit \"constitutive attentional policies\" (CAPs), dat zijn de dingen waar iemand aandacht aan besteedt bij het maken van een zinvolle keuze. Als je bijvoorbeeld een vriend adviseert, kun je je richten op het begrijpen van zijn emoties, hulpbronnen voorstellen of de mogelijke uitkomsten van verschillende keuzes overwegen.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>De morele grafiek<\/b><span style=\"font-weight: 400;\"> geeft visueel de relaties tussen waardenkaarten weer en geeft aan welke waarden inzichtelijker of toepasselijker zijn in een bepaalde context. Om de morele grafiek te construeren, vergelijken de deelnemers verschillende waardenkaarten en bepalen ze welke volgens hen het beste houvast bieden voor een specifieke situatie. Dit maakt gebruik van de collectieve wijsheid van de deelnemers om de sterkste en meest algemeen erkende waarden voor elke context te identificeren.<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">Om de MGE-methode te testen, voerden de onderzoekers een onderzoek uit met 500 Amerikanen die het proces gebruikten om drie controversi\u00eble onderwerpen te onderzoeken: abortus, ouderschap en de wapens die gebruikt werden bij de Capitoolrellen van 6 januari.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De resultaten waren veelbelovend: 89,1% van de deelnemers voelde zich goed vertegenwoordigd door het proces en 89% vond de uiteindelijke moraalgrafiek eerlijk, zelfs als hun waarde niet als de verstandigste werd gekozen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Het onderzoek schetst ook zes criteria waaraan een afstemmingsdoel moet voldoen om modelgedrag volgens menselijke waarden vorm te geven: het moet fijnkorrelig, generaliseerbaar, schaalbaar, robuust, legitiem en controleerbaar zijn. De onderzoekers stellen dat de morele grafiek die door MGE wordt geproduceerd goed presteert op deze criteria.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Deze studie stelt een vergelijkbare benadering voor als Anthropic's <\/span><a href=\"https:\/\/dailyai.com\/nl\/2023\/10\/democratizing-ai-governance-an-anthropic-experiment\/\"><span style=\"font-weight: 400;\">Collectieve grondwet AI<\/span><\/a>,<span style=\"font-weight: 400;\"> die ook waarden voor AI-uitlijning crowdsourcet. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Auteur van het onderzoek, Joe Edelman, zei echter op X: \"Onze benadering, MGE, presteert beter dan alternatieven zoals CCAI door @anthropic op legitimiteit in een casestudy, en biedt robuustheid tegen ideologische retoriek. 89% zijn het er zelfs over eens dat de winnende waarden eerlijk waren, zelfs als hun eigen waarde niet won!\"<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">Onze benadering, MGE, presteert beter dan alternatieven zoals CCAI door <a href=\"https:\/\/twitter.com\/Anthropic?ref_src=twsrc%5Etfw\">@antropisch<\/a> over legitimiteit in een casestudy en biedt robuustheid tegen ideologische retoriek.<\/p>\n<p>89% is het er zelfs mee eens dat de winnende waarden eerlijk waren, zelfs als hun eigen waarde niet won! <a href=\"https:\/\/t.co\/sGgLCUtwzN\">pic.twitter.com\/sGgLCUtwzN<\/a><\/p>\n<p>- Joe Edelman (@edelwax) <a href=\"https:\/\/twitter.com\/edelwax\/status\/1773621155712377054?ref_src=twsrc%5Etfw\">29 maart 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<h2>Beperkingen<\/h2>\n<p>Er zijn beperkingen aan AI-afstemmingsbenaderingen die waarden uit het publiek crowdsourcen.<\/p>\n<p>Zo zijn afwijkende standpunten al eeuwenlang een integraal onderdeel van de maatschappelijke besluitvorming en de geschiedenis heeft aangetoond dat de meerderheid de afwijkende standpunten van de minderheid vaak kan overnemen. Voorbeelden hiervan zijn de evolutietheorie van Darwin en de strijd om de slavernij af te schaffen en vrouwen stemrecht te geven.<\/p>\n<p class=\"whitespace-pre-wrap break-words\">Bovendien is directe publieke inbreng weliswaar democratisch, maar het kan leiden tot populisme, waarbij de meerderheid minderheidsstandpunten terzijde schuift of advies van experts naast zich neerlegt.<\/p>\n<p class=\"whitespace-pre-wrap break-words\">Een andere uitdaging is het vinden van een evenwicht tussen globale of universalistische en lokale of relativistische culturele waarden. Algemeen aanvaarde principes in de ene cultuur of regio kunnen controversieel zijn in een andere cultuur of regio.<\/p>\n<p class=\"whitespace-pre-wrap break-words\">AI-grondwetten zouden de westerse waarden kunnen versterken, waardoor de standpunten en idee\u00ebn van mensen in de periferie mogelijk worden uitgehold.<\/p>\n<p><span style=\"font-weight: 400;\">Hoewel dit nieuwe onderzoek de beperkingen erkent en de noodzaak voor verdere ontwikkeling, biedt het een andere strategie voor het cre\u00ebren van AI-systemen die op \u00e9\u00e9n lijn liggen met menselijke waarden. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Elke poging telt als gecentraliseerde AI in de toekomst iedereen eerlijk wil bedienen.\u00a0<\/span><\/p>","protected":false},"excerpt":{"rendered":"<p>Onderzoekers van het Meaning Alignment Institute hebben een nieuwe aanpak voorgesteld, Moral Graph Elicitation (MGE), om AI-systemen af te stemmen op menselijke waarden. Nu AI steeds geavanceerder wordt en steeds meer ge\u00efntegreerd raakt in ons dagelijks leven, is het van het grootste belang om ervoor te zorgen dat AI iedereen eerlijk dient en vertegenwoordigt. Dit onderzoek stelt echter dat het afstemmen van AI op de doelen van de gebruiker alleen geen veiligheid garandeert.  \"AI-systemen zullen worden ingezet in contexten waarin het blind volgen van de intentie van de gebruiker als bijproduct schade kan veroorzaken. Dit is het duidelijkst te zien in omgevingen met een competitieve dynamiek, zoals politieke campagnes of het beheer van financi\u00eble activa,\" stellen de onderzoekers.  Dit komt doordat<\/p>","protected":false},"author":2,"featured_media":11165,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[105,93],"class_list":["post-11164","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-machine-learning","tag-openai"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.4 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>New study attempts to align AI with crowdsourced human values | DailyAI<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/dailyai.com\/nl\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/\" \/>\n<meta property=\"og:locale\" content=\"nl_NL\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"New study attempts to align AI with crowdsourced human values | DailyAI\" \/>\n<meta property=\"og:description\" content=\"Researchers from the Meaning Alignment Institute have proposed a new approach, Moral Graph Elicitation (MGE), to align AI systems with human values. As AI becomes more advanced and integrated into our daily lives, ensuring it serves and represents everyone fairly is paramount. However, this study argues that aligning AI with the user&#8217;s goals alone doesn&#8217;t guarantee safety. \u00a0&#8220;AI systems will be deployed in contexts where blind adherence to operator intent can cause harm as a byproduct. This can be seen most clearly in environments with competitive dynamics, like political campaigns or managing financial assets,&#8221; the researchers argue.\u00a0 This is because\" \/>\n<meta property=\"og:url\" content=\"https:\/\/dailyai.com\/nl\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/\" \/>\n<meta property=\"og:site_name\" content=\"DailyAI\" \/>\n<meta property=\"article:published_time\" content=\"2024-04-01T13:43:28+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-04-02T17:03:30+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp\" \/>\n\t<meta property=\"og:image:width\" content=\"1792\" \/>\n\t<meta property=\"og:image:height\" content=\"1024\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/webp\" \/>\n<meta name=\"author\" content=\"Sam Jeans\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:site\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:label1\" content=\"Geschreven door\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sam Jeans\" \/>\n\t<meta name=\"twitter:label2\" content=\"Geschatte leestijd\" \/>\n\t<meta name=\"twitter:data2\" content=\"4 minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"NewsArticle\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/\"},\"author\":{\"name\":\"Sam Jeans\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\"},\"headline\":\"New study attempts to align AI with crowdsourced human values\",\"datePublished\":\"2024-04-01T13:43:28+00:00\",\"dateModified\":\"2024-04-02T17:03:30+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/\"},\"wordCount\":764,\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp\",\"keywords\":[\"machine learning\",\"OpenAI\"],\"articleSection\":[\"Ethics &amp; Society\"],\"inLanguage\":\"nl-NL\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/\",\"name\":\"New study attempts to align AI with crowdsourced human values | DailyAI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp\",\"datePublished\":\"2024-04-01T13:43:28+00:00\",\"dateModified\":\"2024-04-02T17:03:30+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/#breadcrumb\"},\"inLanguage\":\"nl-NL\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/#primaryimage\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp\",\"width\":1792,\"height\":1024,\"caption\":\"AI values\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/dailyai.com\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"New study attempts to align AI with crowdsourced human values\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"name\":\"DailyAI\",\"description\":\"Your Daily Dose of AI News\",\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/dailyai.com\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"nl-NL\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\",\"name\":\"DailyAI\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"width\":4501,\"height\":934,\"caption\":\"DailyAI\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/DailyAIOfficial\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/dailyaiofficial\\\/\",\"https:\\\/\\\/www.youtube.com\\\/@DailyAIOfficial\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\",\"name\":\"Sam Jeans\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"caption\":\"Sam Jeans\"},\"description\":\"Sam is a science and technology writer who has worked in various AI startups. When he\u2019s not writing, he can be found reading medical journals or digging through boxes of vinyl records.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/sam-jeans-6746b9142\\\/\"],\"url\":\"https:\\\/\\\/dailyai.com\\\/nl\\\/author\\\/samjeans\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Nieuw onderzoek probeert AI op \u00e9\u00e9n lijn te brengen met menselijke waarden door de menigte | DailyAI","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/dailyai.com\/nl\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/","og_locale":"nl_NL","og_type":"article","og_title":"New study attempts to align AI with crowdsourced human values | DailyAI","og_description":"Researchers from the Meaning Alignment Institute have proposed a new approach, Moral Graph Elicitation (MGE), to align AI systems with human values. As AI becomes more advanced and integrated into our daily lives, ensuring it serves and represents everyone fairly is paramount. However, this study argues that aligning AI with the user&#8217;s goals alone doesn&#8217;t guarantee safety. \u00a0&#8220;AI systems will be deployed in contexts where blind adherence to operator intent can cause harm as a byproduct. This can be seen most clearly in environments with competitive dynamics, like political campaigns or managing financial assets,&#8221; the researchers argue.\u00a0 This is because","og_url":"https:\/\/dailyai.com\/nl\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/","og_site_name":"DailyAI","article_published_time":"2024-04-01T13:43:28+00:00","article_modified_time":"2024-04-02T17:03:30+00:00","og_image":[{"width":1792,"height":1024,"url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp","type":"image\/webp"}],"author":"Sam Jeans","twitter_card":"summary_large_image","twitter_creator":"@DailyAIOfficial","twitter_site":"@DailyAIOfficial","twitter_misc":{"Geschreven door":"Sam Jeans","Geschatte leestijd":"4 minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"NewsArticle","@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/#article","isPartOf":{"@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/"},"author":{"name":"Sam Jeans","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9"},"headline":"New study attempts to align AI with crowdsourced human values","datePublished":"2024-04-01T13:43:28+00:00","dateModified":"2024-04-02T17:03:30+00:00","mainEntityOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/"},"wordCount":764,"publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp","keywords":["machine learning","OpenAI"],"articleSection":["Ethics &amp; Society"],"inLanguage":"nl-NL"},{"@type":"WebPage","@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/","url":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/","name":"Nieuw onderzoek probeert AI op \u00e9\u00e9n lijn te brengen met menselijke waarden door de menigte | DailyAI","isPartOf":{"@id":"https:\/\/dailyai.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/#primaryimage"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp","datePublished":"2024-04-01T13:43:28+00:00","dateModified":"2024-04-02T17:03:30+00:00","breadcrumb":{"@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/#breadcrumb"},"inLanguage":"nl-NL","potentialAction":[{"@type":"ReadAction","target":["https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/"]}]},{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/#primaryimage","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-01-14.39.26-A-minimalist-scene-depicting-a-single-researcher-at-a-sleek-modern-desk-deeply-focused-on-aligning-AI-technology-with-human-values.-The-researcher-i.webp","width":1792,"height":1024,"caption":"AI values"},{"@type":"BreadcrumbList","@id":"https:\/\/dailyai.com\/2024\/04\/new-study-attempts-to-align-ai-with-crowdsourced-human-values\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/dailyai.com\/"},{"@type":"ListItem","position":2,"name":"New study attempts to align AI with crowdsourced human values"}]},{"@type":"WebSite","@id":"https:\/\/dailyai.com\/#website","url":"https:\/\/dailyai.com\/","name":"DailyAI","description":"Uw dagelijkse dosis AI-nieuws","publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/dailyai.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"nl-NL"},{"@type":"Organization","@id":"https:\/\/dailyai.com\/#organization","name":"DailyAI","url":"https:\/\/dailyai.com\/","logo":{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","width":4501,"height":934,"caption":"DailyAI"},"image":{"@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/DailyAIOfficial","https:\/\/www.linkedin.com\/company\/dailyaiofficial\/","https:\/\/www.youtube.com\/@DailyAIOfficial"]},{"@type":"Person","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9","name":"Sam Jeans","image":{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","caption":"Sam Jeans"},"description":"Sam is een wetenschap- en technologieschrijver die bij verschillende AI-startups heeft gewerkt. Als hij niet aan het schrijven is, leest hij medische tijdschriften of graaft hij door dozen met vinylplaten.","sameAs":["https:\/\/www.linkedin.com\/in\/sam-jeans-6746b9142\/"],"url":"https:\/\/dailyai.com\/nl\/author\/samjeans\/"}]}},"_links":{"self":[{"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/posts\/11164","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/comments?post=11164"}],"version-history":[{"count":6,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/posts\/11164\/revisions"}],"predecessor-version":[{"id":11200,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/posts\/11164\/revisions\/11200"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/media\/11165"}],"wp:attachment":[{"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/media?parent=11164"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/categories?post=11164"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/tags?post=11164"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}