{"id":6203,"date":"2023-10-07T17:15:19","date_gmt":"2023-10-07T17:15:19","guid":{"rendered":"https:\/\/dailyai.com\/?p=6203"},"modified":"2023-10-07T22:49:19","modified_gmt":"2023-10-07T22:49:19","slug":"can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/","title":{"rendered":"Kann die \"konstitutionelle KI\" das Problem des problematischen KI-Verhaltens l\u00f6sen?"},"content":{"rendered":"

In dem Ma\u00dfe, in dem KI-Modelle in unser t\u00e4gliches Leben Einzug halten, wachsen die Bedenken hinsichtlich der Grenzen und der Zuverl\u00e4ssigkeit ihrer sogenannten \"Leitplanken\".<\/b><\/p>\n

Allgegenw\u00e4rtige KI-Modelle wie GPT-3.5\/4\/4V et al. verf\u00fcgen \u00fcber eingebaute Leitplanken und Sicherheitsma\u00dfnahmen, die verhindern, dass sie unerlaubte, unethische oder anderweitig unerw\u00fcnschte Ergebnisse produzieren. <\/span><\/p>\n

Diese Sicherheitsmerkmale sind jedoch alles andere als unempfindlich, und die Modelle beweisen, dass sie sich von ihren Leitplanken l\u00f6sen k\u00f6nnen - oder sozusagen aus der Spur geraten. <\/span><\/p>\n

Ein Teil des Problems besteht darin, dass die Leitplanken nicht mit der Komplexit\u00e4t und Vielfalt der Modelle Schritt halten.\u00a0<\/span><\/p>\n

In den letzten Wochen hat OpenAI, unterst\u00fctzt von Microsoft, wichtige Verbesserungen an ChatGPT vorgestellt, die es ihm erm\u00f6glichen, nur mit der Stimme zu interagieren und auf Anfragen mit Bildern und Text zu antworten. Diese multimodale, bildf\u00e4hige Version von GPT-4 wurde als \"GPT-4V\" betitelt.<\/span><\/p>\n

Parallel dazu k\u00fcndigte Meta die Einf\u00fchrung eines KI-Assistenten, mehrerer Prominente Chatbot-Pers\u00f6nlichkeiten<\/a> f\u00fcr WhatsApp- und Instagram-Nutzer sowie eine Reihe anderer unauff\u00e4lliger KI-Funktionen wie KI-Sticker.\u00a0<\/span><\/p>\n

Die Leute manipulierten prompt Metas <\/span>AI-Aufkleber zu generieren<\/span><\/a> komische und schockierende cartoonartige Bilder, wie Karl Marx nackt oder Mario mit einem Sturmgewehr.\u00a0<\/span><\/p>\n

W\u00e4hrend der Wettlauf um die Kommerzialisierung von KI immer intensiver wird, erweisen sich die Sicherheitsvorkehrungen, mit denen das Verhalten von KI kontrolliert und verhindert werden soll, dass sie sch\u00e4dliche Inhalte oder Fehlinformationen erzeugt oder bei illegalen Aktivit\u00e4ten hilft, als immer schw\u00e4cher.\u00a0<\/span><\/p>\n

Ist konstitutionelle KI die Antwort?<\/span><\/h2>\n

Um dem entgegenzuwirken, bem\u00fchen sich Unternehmen, die KI entwickeln, um \"KI-Verfassungen\" zu schaffen, d. h. eine Reihe grundlegender Prinzipien und Werte, an die sich KI-Modelle halten m\u00fcssen. Das Startup Anthropisch<\/a> war einer der ersten, der sich f\u00fcr eine \"konstitutionelle KI\" in einer <\/span>2022 Papier<\/span><\/a>.<\/span><\/p>\n

Google DeepMind hat f\u00fcr seinen Chatbot auch Verfassungsregeln aufgestellt Sperling im Jahr 2022<\/a> um \"hilfreiche, korrekte und harmlose\" Gespr\u00e4che zu f\u00fchren.\u00a0<\/span><\/p>\n

Die KI-Verfassungen von Anthropic leiten Prinzipien aus verschiedenen Quellen ab, darunter die UN-Menschenrechtserkl\u00e4rung und die Allgemeinen Gesch\u00e4ftsbedingungen von Apple. Das Modell ist mit grundlegenden moralischen Prinzipien ausgestattet, die das Verhalten von unten nach oben steuern, anstatt von oben nach unten Leitplanken aufzuerlegen.\u00a0<\/span><\/p>\n

Anstatt die KI m\u00fchsam mit zahllosen vom Menschen gelieferten Beispielen f\u00fcr richtig oder falsch zu trainieren, werden bei diesem Ansatz eine Reihe von Regeln oder Grunds\u00e4tzen - eine \"Verfassung\" - festgelegt, an die sich die KI h\u00e4lt.<\/p>\n

Zun\u00e4chst wird die KI mit einer Situation konfrontiert, dann wird sie aufgefordert, ihre Reaktion zu kritisieren, und schlie\u00dflich wird ihr Verhalten auf der Grundlage der \u00fcberarbeiteten L\u00f6sung feinabgestimmt.<\/p>\n

Anschlie\u00dfend geht das System in die Phase des verst\u00e4rkten Lernens \u00fcber. Hier misst es die Qualit\u00e4t seiner eigenen Antworten und unterscheidet die bessere. Mit der Zeit verfeinert diese Selbsteinsch\u00e4tzung sein Verhalten.<\/p>\n

Der Clou ist, dass die KI ihre R\u00fcckkopplungsschleife nutzt, um die Belohnung in einer Methode zu bestimmen, die als \"RL from AI Feedback\" (RLAIF) bezeichnet wird. Wenn die KI mit potenziell sch\u00e4dlichen oder irref\u00fchrenden Anfragen konfrontiert wird, weicht sie nicht einfach aus oder lehnt sie ab. Stattdessen spricht sie die Angelegenheit direkt an und erkl\u00e4rt, warum eine solche Anfrage problematisch sein k\u00f6nnte.<\/p>\n

Es ist ein Schritt nach vorn bei der Entwicklung von Maschinen, die nicht nur rechnen, sondern auch strukturiert \"denken\".<\/p>\n

Dario Amodei, CEO und Mitbegr\u00fcnder von Anthropic, betonte die Herausforderung, das Innenleben von KI-Modellen zu verstehen. Er schl\u00e4gt vor, dass eine Verfassung die Regeln transparent und eindeutig machen w\u00fcrde, damit alle Nutzer wissen, was sie erwarten k\u00f6nnen.\u00a0<\/span><\/p>\n

Wichtig ist auch, dass das Modell zur Rechenschaft gezogen werden kann, wenn es sich nicht an die dargelegten Grunds\u00e4tze h\u00e4lt.<\/span><\/p>\n

Trotz dieser Bem\u00fchungen sind die KI-Verfassungen nicht frei von eigenen M\u00e4ngeln, und Modelle von Entwicklern wie Anthropic haben sich als anf\u00e4llig f\u00fcr <\/span>jailbreaks<\/span><\/a> wie viele andere.\u00a0<\/span><\/p>\n

Es gibt keine allgemein akzeptierten Wege zur Ausbildung sicherer und ethischer KI-Modelle<\/span><\/h2>\n

In der Vergangenheit wurden KI-Modelle mit der Methode des Verst\u00e4rkungslernens durch menschliches Feedback (Reinforcement Learning by Human Feedback, RLHF) verfeinert, bei der die KI-Antworten von gro\u00dfen Teams menschlicher Bewerter als \"gut\" oder \"schlecht\" eingestuft werden.\u00a0<\/span><\/p>\n

Diese Methode ist zwar bis zu einem gewissen Grad wirksam, wurde aber wegen ihrer mangelnden Genauigkeit und Spezifit\u00e4t kritisiert. Um die Ethik und Sicherheit der KI zu gew\u00e4hrleisten, erforschen die Unternehmen nun alternative L\u00f6sungen.<\/span><\/p>\n

OpenAI hat beispielsweise den \"Red-Teaming\"-Ansatz gew\u00e4hlt, bei dem Experten aus verschiedenen Disziplinen eingestellt werden, um die Modelle zu testen und Schwachstellen zu identifizieren.<\/span><\/p>\n

Das System von OpenAI arbeitet in Iterationen: Das KI-Modell erzeugt Ergebnisse, menschliche Gutachter bewerten und korrigieren diese Ergebnisse auf der Grundlage spezifischer Leitlinien, und das Modell lernt aus diesem Feedback. Die Trainingsdaten dieser Gutachter sind f\u00fcr die ethische Kalibrierung des Modells unerl\u00e4sslich.<\/p>\n

ChatGPT entscheidet sich bei kontroversen oder sensiblen Themen oft f\u00fcr eine konservative Antwort und vermeidet manchmal eine direkte Antwort. Dies steht im Gegensatz zur konstitutionellen KI, bei der das Modell seine Vorbehalte bei potenziell sch\u00e4dlichen Fragen deutlich machen sollte, indem es aktiv seine Argumentation auf der Grundlage seiner grundlegenden Regeln demonstriert.<\/p>\n

W\u00e4hrend ChatGPT sich bei seiner ethischen Orientierung stark auf menschliches Feedback st\u00fctzt, verwendet die konstitutionelle KI einen regelbasierten Rahmen mit Mechanismen zur Selbst\u00fcberpr\u00fcfung und einem Schwerpunkt auf transparenter Argumentation.<\/p>\n

Letztendlich gibt es wahrscheinlich kein Patentrezept f\u00fcr die Entwicklung einer \"sicheren\" KI - und einige, wie Elon Musk, kritisieren die Idee einer \"wachen\" KI. Studien haben bewiesen<\/a> dass selbst konstitutionelle KIs manipuliert werden k\u00f6nnen, um sie zu unvorhersehbarem Verhalten zu veranlassen.\u00a0<\/span><\/p>\n

Rebecca Johnson, Forscherin f\u00fcr KI-Ethik an der Universit\u00e4t Sydney, wies darauf hin, dass KI-Ingenieure und Informatiker Probleme oft mit dem Ziel angehen, endg\u00fcltige L\u00f6sungen zu finden, was der Komplexit\u00e4t der menschlichen Natur nicht immer gerecht wird.\u00a0<\/span><\/p>\n

\"Wir m\u00fcssen anfangen, generative KI als Erweiterung des Menschen zu betrachten, sie ist nur ein weiterer Aspekt der Menschheit\", sagte sie.\u00a0<\/span><\/p>\n

Eine umfassende Kontrolle der KI als eine Art einfaches technisches System wird nur noch <\/span>h\u00e4rter, je weiter sie sich entwickelt<\/span><\/a>und das Gleiche gilt f\u00fcr biologische Organismen wie uns selbst. <\/span><\/p>\n

Divergenzen, ob provoziert oder nicht, sind vielleicht unvermeidlich. <\/span><\/p>","protected":false},"excerpt":{"rendered":"

In dem Ma\u00dfe, in dem KI-Modelle in unser t\u00e4gliches Leben Einzug halten, w\u00e4chst die Besorgnis \u00fcber die Grenzen und die Zuverl\u00e4ssigkeit ihrer sogenannten \"Leitplanken\". Allgegenw\u00e4rtige KI-Modelle wie GPT-3.5\/4\/4V et al. verf\u00fcgen \u00fcber eingebaute Leitplanken und Sicherheitsma\u00dfnahmen, die verhindern sollen, dass sie illegale, unethische oder anderweitig unerw\u00fcnschte Ergebnisse produzieren. Diese Sicherheitsvorkehrungen sind jedoch alles andere als unempfindlich, und die Modelle beweisen, dass sie sich von ihren Leitplanken l\u00f6sen k\u00f6nnen - oder sozusagen aus dem Ruder laufen. Ein Teil des Problems besteht darin, dass die Leitplanken nicht mit der Komplexit\u00e4t und Vielfalt der Modelle Schritt halten. In den letzten Wochen hat OpenAI, das von Microsoft unterst\u00fctzt wird, wichtige Erweiterungen vorgestellt<\/p>","protected":false},"author":2,"featured_media":6204,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[84],"tags":[148,422,93],"class_list":["post-6203","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-industry","tag-anthropic","tag-constitutional-ai","tag-openai"],"yoast_head":"\nCan "constitutional AI" solve the issue of problematic AI behavior? | DailyAI<\/title>\n<meta name=\"description\" content=\"As AI models continue to embed themselves in our daily lives, concerns over the limitations and reliability of the so-called "guardrails" are mounting.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/dailyai.com\/de\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Can "constitutional AI" solve the issue of problematic AI behavior? | DailyAI\" \/>\n<meta property=\"og:description\" content=\"As AI models continue to embed themselves in our daily lives, concerns over the limitations and reliability of the so-called "guardrails" are mounting.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/dailyai.com\/de\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/\" \/>\n<meta property=\"og:site_name\" content=\"DailyAI\" \/>\n<meta property=\"article:published_time\" content=\"2023-10-07T17:15:19+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2023-10-07T22:49:19+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/shutterstock_2276608417-1.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1000\" \/>\n\t<meta property=\"og:image:height\" content=\"667\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Sam Jeans\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:site\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sam Jeans\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"4\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"NewsArticle\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/\"},\"author\":{\"name\":\"Sam Jeans\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\"},\"headline\":\"Can “constitutional AI” solve the issue of problematic AI behavior?\",\"datePublished\":\"2023-10-07T17:15:19+00:00\",\"dateModified\":\"2023-10-07T22:49:19+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/\"},\"wordCount\":915,\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/10\\\/shutterstock_2276608417-1.jpg\",\"keywords\":[\"Anthropic\",\"Constitutional AI\",\"OpenAI\"],\"articleSection\":[\"Industry\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/\",\"name\":\"Can \\\"constitutional AI\\\" solve the issue of problematic AI behavior? | DailyAI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/10\\\/shutterstock_2276608417-1.jpg\",\"datePublished\":\"2023-10-07T17:15:19+00:00\",\"dateModified\":\"2023-10-07T22:49:19+00:00\",\"description\":\"As AI models continue to embed themselves in our daily lives, concerns over the limitations and reliability of the so-called \\\"guardrails\\\" are mounting.\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/#primaryimage\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/10\\\/shutterstock_2276608417-1.jpg\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/10\\\/shutterstock_2276608417-1.jpg\",\"width\":1000,\"height\":667,\"caption\":\"Anthropic AI\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2023\\\/10\\\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/dailyai.com\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Can “constitutional AI” solve the issue of problematic AI behavior?\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"name\":\"DailyAI\",\"description\":\"Your Daily Dose of AI News\",\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/dailyai.com\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\",\"name\":\"DailyAI\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"width\":4501,\"height\":934,\"caption\":\"DailyAI\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/DailyAIOfficial\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/dailyaiofficial\\\/\",\"https:\\\/\\\/www.youtube.com\\\/@DailyAIOfficial\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\",\"name\":\"Sam Jeans\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"caption\":\"Sam Jeans\"},\"description\":\"Sam is a science and technology writer who has worked in various AI startups. When he\u2019s not writing, he can be found reading medical journals or digging through boxes of vinyl records.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/sam-jeans-6746b9142\\\/\"],\"url\":\"https:\\\/\\\/dailyai.com\\\/de\\\/author\\\/samjeans\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Kann \"konstitutionelle KI\" das Problem des problematischen KI-Verhaltens l\u00f6sen? | DailyAI","description":"In dem Ma\u00dfe, in dem KI-Modelle in unser t\u00e4gliches Leben Einzug halten, wachsen die Bedenken hinsichtlich der Grenzen und der Zuverl\u00e4ssigkeit der sogenannten \"Leitplanken\".","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/dailyai.com\/de\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/","og_locale":"de_DE","og_type":"article","og_title":"Can \"constitutional AI\" solve the issue of problematic AI behavior? | DailyAI","og_description":"As AI models continue to embed themselves in our daily lives, concerns over the limitations and reliability of the so-called \"guardrails\" are mounting.","og_url":"https:\/\/dailyai.com\/de\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/","og_site_name":"DailyAI","article_published_time":"2023-10-07T17:15:19+00:00","article_modified_time":"2023-10-07T22:49:19+00:00","og_image":[{"width":1000,"height":667,"url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/shutterstock_2276608417-1.jpg","type":"image\/jpeg"}],"author":"Sam Jeans","twitter_card":"summary_large_image","twitter_creator":"@DailyAIOfficial","twitter_site":"@DailyAIOfficial","twitter_misc":{"Verfasst von":"Sam Jeans","Gesch\u00e4tzte Lesezeit":"4\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"NewsArticle","@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/#article","isPartOf":{"@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/"},"author":{"name":"Sam Jeans","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9"},"headline":"Can “constitutional AI” solve the issue of problematic AI behavior?","datePublished":"2023-10-07T17:15:19+00:00","dateModified":"2023-10-07T22:49:19+00:00","mainEntityOfPage":{"@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/"},"wordCount":915,"publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"image":{"@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/shutterstock_2276608417-1.jpg","keywords":["Anthropic","Constitutional AI","OpenAI"],"articleSection":["Industry"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/","url":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/","name":"Kann \"konstitutionelle KI\" das Problem des problematischen KI-Verhaltens l\u00f6sen? | DailyAI","isPartOf":{"@id":"https:\/\/dailyai.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/#primaryimage"},"image":{"@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/shutterstock_2276608417-1.jpg","datePublished":"2023-10-07T17:15:19+00:00","dateModified":"2023-10-07T22:49:19+00:00","description":"In dem Ma\u00dfe, in dem KI-Modelle in unser t\u00e4gliches Leben Einzug halten, wachsen die Bedenken hinsichtlich der Grenzen und der Zuverl\u00e4ssigkeit der sogenannten \"Leitplanken\".","breadcrumb":{"@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/#primaryimage","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/shutterstock_2276608417-1.jpg","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/shutterstock_2276608417-1.jpg","width":1000,"height":667,"caption":"Anthropic AI"},{"@type":"BreadcrumbList","@id":"https:\/\/dailyai.com\/2023\/10\/can-constitutional-ai-solve-the-issue-of-problematic-ai-behavior\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/dailyai.com\/"},{"@type":"ListItem","position":2,"name":"Can “constitutional AI” solve the issue of problematic AI behavior?"}]},{"@type":"WebSite","@id":"https:\/\/dailyai.com\/#website","url":"https:\/\/dailyai.com\/","name":"DailyAI","description":"Ihre t\u00e4gliche Dosis an AI-Nachrichten","publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/dailyai.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/dailyai.com\/#organization","name":"DailyAI","url":"https:\/\/dailyai.com\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","width":4501,"height":934,"caption":"DailyAI"},"image":{"@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/DailyAIOfficial","https:\/\/www.linkedin.com\/company\/dailyaiofficial\/","https:\/\/www.youtube.com\/@DailyAIOfficial"]},{"@type":"Person","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9","name":"Sam Jeans","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","caption":"Sam Jeans"},"description":"Sam ist ein Wissenschafts- und Technologiewissenschaftler, der in verschiedenen KI-Startups gearbeitet hat. Wenn er nicht gerade schreibt, liest er medizinische Fachzeitschriften oder kramt in Kisten mit Schallplatten.","sameAs":["https:\/\/www.linkedin.com\/in\/sam-jeans-6746b9142\/"],"url":"https:\/\/dailyai.com\/de\/author\/samjeans\/"}]}},"_links":{"self":[{"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/posts\/6203","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/comments?post=6203"}],"version-history":[{"count":12,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/posts\/6203\/revisions"}],"predecessor-version":[{"id":6216,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/posts\/6203\/revisions\/6216"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/media\/6204"}],"wp:attachment":[{"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/media?parent=6203"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/categories?post=6203"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/tags?post=6203"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}