{"id":11374,"date":"2024-04-05T20:04:12","date_gmt":"2024-04-05T20:04:12","guid":{"rendered":"https:\/\/dailyai.com\/?p=11374"},"modified":"2024-04-08T14:48:09","modified_gmt":"2024-04-08T14:48:09","slug":"just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/","title":{"rendered":"Laut einer Studie der Georgetown University befassen sich nur 2% der KI-Forschung mit der Sicherheit"},"content":{"rendered":"<p><b>Wir h\u00f6ren viel \u00fcber KI-Sicherheit, aber bedeutet das auch, dass sie in der Forschung eine gro\u00dfe Rolle spielt?<\/b><\/p>\n<p><span style=\"font-weight: 400;\">Eine neue <\/span><a href=\"https:\/\/eto.tech\/blog\/state-of-global-ai-safety-research\/\"><span style=\"font-weight: 400;\">Studie<\/span><\/a><span style=\"font-weight: 400;\"> des Emerging Technology Observatory der Georgetown University zeigt, dass die KI-Sicherheitsforschung trotz des L\u00e4rms nur eine winzige Minderheit des Forschungsschwerpunkts der Industrie ausmacht.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die Forscher analysierten mehr als 260 Millionen wissenschaftliche Publikationen und fanden heraus, dass nur 2% der zwischen 2017 und 2022 ver\u00f6ffentlichten KI-bezogenen Publikationen direkt Themen im Zusammenhang mit KI-Sicherheit, Ethik, Robustheit oder Governance behandeln.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Obwohl die Zahl der Ver\u00f6ffentlichungen zur KI-Sicherheit in diesem Zeitraum eindrucksvoll von rund 1 800 auf \u00fcber 7 000 pro Jahr gestiegen ist, bleibt sie ein Randthema.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Hier sind die wichtigsten Ergebnisse:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Nur 2% der KI-Forschung von 2017-2022 konzentrierten sich auf KI-Sicherheit<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Die KI-Sicherheitsforschung wuchs in diesem Zeitraum um 315%, ist aber im Vergleich zur gesamten KI-Forschung verschwindend gering.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Die USA sind f\u00fchrend in der KI-Sicherheitsforschung, w\u00e4hrend China hinterherhinkt\u00a0<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Zu den wichtigsten Herausforderungen geh\u00f6ren Robustheit, Fairness, Transparenz und die Aufrechterhaltung der menschlichen Kontrolle.<\/span><\/li>\n<\/ul>\n<figure id=\"attachment_11375\" aria-describedby=\"caption-attachment-11375\" style=\"width: 894px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-11375 size-full\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/AI-Research.png\" alt=\"AI-Sicherheit\" width=\"894\" height=\"627\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/AI-Research.png 894w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/AI-Research-300x210.png 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/AI-Research-768x539.png 768w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/AI-Research-60x42.png 60w\" sizes=\"auto, (max-width: 894px) 100vw, 894px\" \/><figcaption id=\"caption-attachment-11375\" class=\"wp-caption-text\">Die KI-Sicherheitsforschung hat zwischen 2017 und 2022 um 315% zugenommen, ist aber nach wie vor unzureichend. Quelle: <a href=\"https:\/\/eto.tech\/blog\/state-of-global-ai-safety-research\/\" target=\"_blank\" rel=\"noopener\">Beobachtungsstelle f\u00fcr aufkommende Technologien<\/a>.<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Viele f\u00fchrende KI-Forscher und Ethiker haben vor existenziellen Risiken gewarnt, wenn k\u00fcnstliche allgemeine Intelligenz (AGI) ohne ausreichende Schutzma\u00dfnahmen und Vorsichtsma\u00dfnahmen entwickelt wird.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Stellen Sie sich ein AGI-System vor, das in der Lage ist, sich selbst rekursiv zu verbessern und die menschliche Intelligenz rasch zu \u00fcbertreffen, w\u00e4hrend es Ziele verfolgt, die nicht mit unseren Werten \u00fcbereinstimmen. Ein Szenario, das nach Ansicht mancher au\u00dfer Kontrolle geraten k\u00f6nnte.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Es handelt sich jedoch nicht um eine Einbahnstra\u00dfe. Tats\u00e4chlich glauben viele KI-Forscher <\/span><a href=\"https:\/\/dailyai.com\/de\/2023\/11\/the-battle-of-the-ai-godfathers-is-ai-risky-or-not\/\"><span style=\"font-weight: 400;\">KI-Sicherheit wird \u00fcberbewertet<\/span><\/a><span style=\"font-weight: 400;\">.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Dar\u00fcber hinaus glauben einige sogar, dass der Hype erzeugt wurde, um Big Tech bei der Durchsetzung von Vorschriften zu helfen und die Basis- und <\/span><a href=\"https:\/\/dailyai.com\/de\/2023\/06\/ai-companies-want-regulation-but-is-it-for-the-right-reasons\/\"><span style=\"font-weight: 400;\">Open-Source-Wettbewerber<\/span><\/a><span style=\"font-weight: 400;\">.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Doch selbst die heutigen, auf der Grundlage fr\u00fcherer Daten trainierten KI-Systeme k\u00f6nnen Vorurteile aufweisen, sch\u00e4dliche Inhalte produzieren, die Privatsph\u00e4re verletzen und in b\u00f6ser Absicht eingesetzt werden. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">W\u00e4hrend die KI-Sicherheit also in die Zukunft blicken muss, muss sie sich auch mit den Risiken im Hier und Jetzt befassen, was wohl unzureichend ist, da F\u00e4lschungen, Verzerrungen und andere Probleme weiterhin ein gro\u00dfes Problem darstellen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Eine wirksame KI-Sicherheitsforschung muss sich sowohl mit kurzfristigen Herausforderungen als auch mit l\u00e4ngerfristigen spekulativen Risiken befassen.<\/span><\/p>\n<h2>Die USA sind f\u00fchrend in der KI-Sicherheitsforschung<\/h2>\n<p><span style=\"font-weight: 400;\">Wenn man die Daten genauer betrachtet, sind die USA eindeutig f\u00fchrend in der KI-Sicherheitsforschung mit 40% an entsprechenden Ver\u00f6ffentlichungen im Vergleich zu 12% aus China.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Allerdings bleibt Chinas Sicherheitsleistung weit hinter seiner gesamten KI-Forschung zur\u00fcck - w\u00e4hrend 5% der amerikanischen KI-Forschung die Sicherheit betrafen, waren es in China nur 1%.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Man k\u00f6nnte vermuten, dass die Untersuchung der chinesischen Forschung ein schwieriges Unterfangen ist. Au\u00dferdem ist China seit <\/span><a href=\"https:\/\/dailyai.com\/de\/2023\/11\/global-ai-regulation-has-become-a-geopolitical-issue-where-will-it-lead\/\"><span style=\"font-weight: 400;\">proaktiv bei der Regulierung<\/span><\/a><span style=\"font-weight: 400;\"> - wohl mehr als in den USA -, so dass diese Daten der KI-Industrie des Landes m\u00f6glicherweise kein faires Geh\u00f6r schenken.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Auf der Ebene der Institutionen f\u00fchren die Carnegie Mellon University, Google, das MIT und Stanford die Liste an.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Weltweit wurden jedoch von keiner Organisation mehr als 2% der gesamten sicherheitsrelevanten Ver\u00f6ffentlichungen erstellt, was die Notwendigkeit gr\u00f6\u00dferer, konzertierterer Anstrengungen verdeutlicht.<\/span><\/p>\n<h2>Sicherheitstechnische Ungleichgewichte<\/h2>\n<p><span style=\"font-weight: 400;\">Was kann also getan werden, um dieses Ungleichgewicht zu korrigieren?\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Das h\u00e4ngt davon ab, ob man die KI-Sicherheit f\u00fcr eine ebenso dringende Gefahr h\u00e4lt wie einen Atomkrieg, eine Pandemie usw. Es gibt keine eindeutige Antwort auf diese Frage, was die KI-Sicherheit zu einem h\u00f6chst spekulativen Thema mit wenig Gemeinsamkeiten macht. <\/span><a href=\"https:\/\/dailyai.com\/de\/2024\/03\/three-debates-facing-the-ai-industry-intelligence-progress-and-safety\/\"><span style=\"font-weight: 400;\">Vereinbarung zwischen Forschern<\/span><\/a><span style=\"font-weight: 400;\">.\u00a0<\/span><\/p>\n<p>Die Sicherheitsforschung und die Ethik sind ebenfalls ein tangentialer Bereich des maschinellen Lernens, der andere F\u00e4higkeiten, akademische Hintergr\u00fcnde usw. erfordert, die m\u00f6glicherweise nicht gut finanziert sind.<\/p>\n<p><span style=\"font-weight: 400;\">Die Schlie\u00dfung der KI-Sicherheitsl\u00fccke erfordert auch eine Auseinandersetzung mit Fragen der Offenheit und Geheimhaltung in der KI-Entwicklung.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die gr\u00f6\u00dften Technologieunternehmen f\u00fchren umfangreiche interne Sicherheitsstudien durch, die nie ver\u00f6ffentlicht wurden. <\/span><span style=\"font-weight: 400;\">Mit der zunehmenden Kommerzialisierung der KI werden die Unternehmen ihre KI-Durchbr\u00fcche immer besser sch\u00fctzen. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">OpenAI zum Beispiel war in seinen Anf\u00e4ngen ein Kraftwerk der Forschung.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Fr\u00fcher f\u00fchrte das Unternehmen gr\u00fcndliche unabh\u00e4ngige Pr\u00fcfungen seiner Produkte, Kennzeichnungsfehler und Risiken durch - wie z. B. <\/span><a href=\"https:\/\/cdn.openai.com\/papers\/Learning_Transferable_Visual_Models_From_Natural_Language.pdf\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">sexistische Voreingenommenheit in seinem CLIP-Projekt<\/span><\/a><span style=\"font-weight: 400;\">.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Anthropic ist nach wie vor aktiv in der \u00f6ffentlichen KI-Sicherheitsforschung t\u00e4tig und ver\u00f6ffentlicht regelm\u00e4\u00dfig Studien \u00fcber <\/span><a href=\"https:\/\/dailyai.com\/de\/2023\/06\/anthropic-releases-paper-highlighting-the-potential-bias-of-large-language-models\/\"><span style=\"font-weight: 400;\">Vorspannung<\/span><\/a><span style=\"font-weight: 400;\"> und <\/span><a href=\"https:\/\/dailyai.com\/de\/2024\/04\/anthropic-large-context-llms-vulnerable-to-many-shot-jailbreak\/\"><span style=\"font-weight: 400;\">Jailbreaking<\/span><\/a><span style=\"font-weight: 400;\">.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> DeepMind dokumentierte auch die M\u00f6glichkeit, dass KI-Modelle \"emergente Ziele\" festlegen und ihren Anweisungen aktiv widersprechen oder sich ihren Sch\u00f6pfern gegen\u00fcber feindlich verhalten.\u00a0<\/span><\/p>\n<p>Insgesamt ist jedoch die Sicherheit gegen\u00fcber dem Fortschritt in den Hintergrund getreten, denn das Silicon Valley lebt nach dem Motto \"move fast and break stuff\".<\/p>\n<p><span style=\"font-weight: 400;\">Die Georgetown-Studie macht deutlich, dass Universit\u00e4ten, Regierungen, Technologieunternehmen und Forschungsf\u00f6rderer mehr Anstrengungen und Geld in die KI-Sicherheit investieren m\u00fcssen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Einige haben auch gefordert, eine <\/span><a href=\"https:\/\/dailyai.com\/de\/2023\/06\/the-ai-industry-should-learn-from-nuclear-safety-argue-researchers\/\"><span style=\"font-weight: 400;\">internationales Gremium f\u00fcr AI-Sicherheit<\/span><\/a><span style=\"font-weight: 400;\">Sie wurde nach einer Reihe von nuklearen Zwischenf\u00e4llen gegr\u00fcndet, die eine intensive internationale Zusammenarbeit erforderlich machten.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Braucht die KI eine eigene Katastrophe, um dieses Ma\u00df an Zusammenarbeit zwischen Staat und Unternehmen zu erreichen? Das wollen wir nicht hoffen.\u00a0<\/span><\/p>","protected":false},"excerpt":{"rendered":"<p>Man h\u00f6rt viel \u00fcber KI-Sicherheit, aber bedeutet das auch, dass sie in der Forschung einen hohen Stellenwert hat? Eine neue Studie des Emerging Technology Observatory der Georgetown University legt nahe, dass die KI-Sicherheitsforschung trotz des L\u00e4rms nur eine winzige Minderheit des Forschungsschwerpunkts der Branche ausmacht. Die Forscher analysierten mehr als 260 Millionen wissenschaftliche Publikationen und fanden heraus, dass nur 2% der zwischen 2017 und 2022 ver\u00f6ffentlichten KI-bezogenen Publikationen direkt Themen im Zusammenhang mit KI-Sicherheit, Ethik, Robustheit oder Governance behandelten.  W\u00e4hrend die Zahl der KI-Sicherheitspublikationen in diesem Zeitraum um beeindruckende 315% von etwa 1.800 auf \u00fcber 7.000 pro Jahr anstieg, bleibt sie<\/p>","protected":false},"author":2,"featured_media":11376,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[85],"tags":[339],"class_list":["post-11374","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-policy","tag-ai-safety"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.4 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Just 2% of AI research is looking at safety, says Georgetown University study | DailyAI<\/title>\n<meta name=\"description\" content=\"We hear a lot about AI safety, but does that mean it&#039;s heavily featured in research?\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/dailyai.com\/de\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Just 2% of AI research is looking at safety, says Georgetown University study | DailyAI\" \/>\n<meta property=\"og:description\" content=\"We hear a lot about AI safety, but does that mean it&#039;s heavily featured in research?\" \/>\n<meta property=\"og:url\" content=\"https:\/\/dailyai.com\/de\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/\" \/>\n<meta property=\"og:site_name\" content=\"DailyAI\" \/>\n<meta property=\"article:published_time\" content=\"2024-04-05T20:04:12+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-04-08T14:48:09+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp\" \/>\n\t<meta property=\"og:image:width\" content=\"1792\" \/>\n\t<meta property=\"og:image:height\" content=\"1024\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/webp\" \/>\n<meta name=\"author\" content=\"Sam Jeans\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:site\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sam Jeans\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"4\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"NewsArticle\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/\"},\"author\":{\"name\":\"Sam Jeans\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\"},\"headline\":\"Just 2% of AI research is looking at safety, says Georgetown University study\",\"datePublished\":\"2024-04-05T20:04:12+00:00\",\"dateModified\":\"2024-04-08T14:48:09+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/\"},\"wordCount\":779,\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp\",\"keywords\":[\"AI safety\"],\"articleSection\":[\"Policy &amp; Regulation\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/\",\"name\":\"Just 2% of AI research is looking at safety, says Georgetown University study | DailyAI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp\",\"datePublished\":\"2024-04-05T20:04:12+00:00\",\"dateModified\":\"2024-04-08T14:48:09+00:00\",\"description\":\"We hear a lot about AI safety, but does that mean it's heavily featured in research?\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/#primaryimage\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp\",\"width\":1792,\"height\":1024,\"caption\":\"AI safety\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/dailyai.com\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Just 2% of AI research is looking at safety, says Georgetown University study\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"name\":\"DailyAI\",\"description\":\"Your Daily Dose of AI News\",\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/dailyai.com\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\",\"name\":\"DailyAI\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"width\":4501,\"height\":934,\"caption\":\"DailyAI\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/DailyAIOfficial\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/dailyaiofficial\\\/\",\"https:\\\/\\\/www.youtube.com\\\/@DailyAIOfficial\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\",\"name\":\"Sam Jeans\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"caption\":\"Sam Jeans\"},\"description\":\"Sam is a science and technology writer who has worked in various AI startups. When he\u2019s not writing, he can be found reading medical journals or digging through boxes of vinyl records.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/sam-jeans-6746b9142\\\/\"],\"url\":\"https:\\\/\\\/dailyai.com\\\/de\\\/author\\\/samjeans\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Nur 2% der KI-Forschung befasst sich mit Sicherheit, sagt eine Studie der Georgetown University | DailyAI","description":"Wir h\u00f6ren viel \u00fcber KI-Sicherheit, aber bedeutet das auch, dass sie in der Forschung eine gro\u00dfe Rolle spielt?","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/dailyai.com\/de\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/","og_locale":"de_DE","og_type":"article","og_title":"Just 2% of AI research is looking at safety, says Georgetown University study | DailyAI","og_description":"We hear a lot about AI safety, but does that mean it's heavily featured in research?","og_url":"https:\/\/dailyai.com\/de\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/","og_site_name":"DailyAI","article_published_time":"2024-04-05T20:04:12+00:00","article_modified_time":"2024-04-08T14:48:09+00:00","og_image":[{"width":1792,"height":1024,"url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp","type":"image\/webp"}],"author":"Sam Jeans","twitter_card":"summary_large_image","twitter_creator":"@DailyAIOfficial","twitter_site":"@DailyAIOfficial","twitter_misc":{"Verfasst von":"Sam Jeans","Gesch\u00e4tzte Lesezeit":"4\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"NewsArticle","@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/#article","isPartOf":{"@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/"},"author":{"name":"Sam Jeans","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9"},"headline":"Just 2% of AI research is looking at safety, says Georgetown University study","datePublished":"2024-04-05T20:04:12+00:00","dateModified":"2024-04-08T14:48:09+00:00","mainEntityOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/"},"wordCount":779,"publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp","keywords":["AI safety"],"articleSection":["Policy &amp; Regulation"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/","url":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/","name":"Nur 2% der KI-Forschung befasst sich mit Sicherheit, sagt eine Studie der Georgetown University | DailyAI","isPartOf":{"@id":"https:\/\/dailyai.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/#primaryimage"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp","datePublished":"2024-04-05T20:04:12+00:00","dateModified":"2024-04-08T14:48:09+00:00","description":"Wir h\u00f6ren viel \u00fcber KI-Sicherheit, aber bedeutet das auch, dass sie in der Forschung eine gro\u00dfe Rolle spielt?","breadcrumb":{"@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/#primaryimage","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-05-20.55.21-A-striking-image-featuring-a-large-neon-safety-symbol-specifically-the-traditional-yellow-and-black-caution-sign-but-reimagined-with-a-futuristic-t.webp","width":1792,"height":1024,"caption":"AI safety"},{"@type":"BreadcrumbList","@id":"https:\/\/dailyai.com\/2024\/04\/just-2-of-ai-research-is-looking-at-safety-says-georgetown-university-study\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/dailyai.com\/"},{"@type":"ListItem","position":2,"name":"Just 2% of AI research is looking at safety, says Georgetown University study"}]},{"@type":"WebSite","@id":"https:\/\/dailyai.com\/#website","url":"https:\/\/dailyai.com\/","name":"DailyAI","description":"Ihre t\u00e4gliche Dosis an AI-Nachrichten","publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/dailyai.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/dailyai.com\/#organization","name":"DailyAI","url":"https:\/\/dailyai.com\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","width":4501,"height":934,"caption":"DailyAI"},"image":{"@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/DailyAIOfficial","https:\/\/www.linkedin.com\/company\/dailyaiofficial\/","https:\/\/www.youtube.com\/@DailyAIOfficial"]},{"@type":"Person","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9","name":"Sam Jeans","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","caption":"Sam Jeans"},"description":"Sam ist ein Wissenschafts- und Technologiewissenschaftler, der in verschiedenen KI-Startups gearbeitet hat. Wenn er nicht gerade schreibt, liest er medizinische Fachzeitschriften oder kramt in Kisten mit Schallplatten.","sameAs":["https:\/\/www.linkedin.com\/in\/sam-jeans-6746b9142\/"],"url":"https:\/\/dailyai.com\/de\/author\/samjeans\/"}]}},"_links":{"self":[{"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/posts\/11374","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/comments?post=11374"}],"version-history":[{"count":7,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/posts\/11374\/revisions"}],"predecessor-version":[{"id":11422,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/posts\/11374\/revisions\/11422"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/media\/11376"}],"wp:attachment":[{"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/media?parent=11374"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/categories?post=11374"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dailyai.com\/de\/wp-json\/wp\/v2\/tags?post=11374"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}