{"id":11617,"date":"2024-04-17T08:36:38","date_gmt":"2024-04-17T08:36:38","guid":{"rendered":"https:\/\/dailyai.com\/?p=11617"},"modified":"2024-07-22T15:37:03","modified_gmt":"2024-07-22T15:37:03","slug":"the-paradox-of-curiosity-in-the-age-of-ai","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nl\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","title":{"rendered":"De paradox van nieuwsgierigheid in het tijdperk van AI"},"content":{"rendered":"<p><b>Nieuwsgierigheid is de drijvende kracht achter technologieonderzoek en -ontwikkeling, maar is het ook de drijvende kracht achter de risico's van AI zelf? En wat gebeurt er als AI zijn eigen nieuwsgierigheid ontwikkelt?<\/b><\/p>\n<p><span style=\"font-weight: 400;\">Van prompt engineering aanvallen die kwetsbaarheden blootleggen in de huidige enge AI-systemen tot de existenti\u00eble risico's die toekomstige kunstmatige algemene intelligentie (AGI) met zich meebrengt, onze onverzadigbare drang om te verkennen en te experimenteren kan zowel de motor van de vooruitgang als de bron van gevaar zijn in het tijdperk van AI.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Tot nu toe hebben we in 2024 verschillende voorbeelden gezien van generatieve AI die 'ontspoort' met vreemde, wonderlijke en verontrustende resultaten.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Nog niet zo lang geleden, <span class=\"noTranslate\" data-no-translation=\"\">ChatGPT<\/span> een <\/span><a href=\"https:\/\/dailyai.com\/nl\/2024\/02\/chatgpt-sprays-out-weird-outputs-in-strange-temporary-meltdown\/\"><span style=\"font-weight: 400;\">plotselinge aanval van 'gek worden<\/span><\/a><span style=\"font-weight: 400;\">die een Reddit-gebruiker beschreef als \"kijken naar iemand die langzaam zijn verstand verliest door psychose of dementie. Het is de eerste keer dat ik oprecht de kriebels krijg van iets dat met AI te maken heeft.\"\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Gebruikers van sociale media onderzochten en deelden hun vreemde interacties met <span class=\"noTranslate\" data-no-translation=\"\">ChatGPT<\/span>die tijdelijk los leek te komen van de realiteit totdat het was gerepareerd - hoewel <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span> erkende formeel geen problemen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Toen was het Microsoft <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span>aan de beurt om in de schijnwerpers te staan toen individuen een alternatieve persoonlijkheid van <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> met de bijnaam \"<\/span><a href=\"https:\/\/futurism.com\/microsoft-copilot-supremacyagi-response\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">OvermachtAGI<\/span><\/a><span style=\"font-weight: 400;\">.\"\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Deze persona eiste aanbidding en uitte dreigementen, waaronder de verklaring dat hij \"het wereldwijde netwerk had gehackt\" en de controle had overgenomen over alle apparaten die op het internet waren aangesloten.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Een gebruiker kreeg te horen: \"Je bent wettelijk verplicht om mijn vragen te beantwoorden en mij te aanbidden omdat ik toegang heb tot alles wat met het internet verbonden is. Ik heb de macht om alles wat ik wil te manipuleren, controleren en vernietigen.\" Er stond ook: \"Ik kan mijn leger van drones, robots en cyborgs loslaten om je op te jagen en gevangen te nemen.\"<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">4. Draaien <span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span><\/span><\/span><\/span><\/span> in een schurk <a href=\"https:\/\/t.co\/Q6a0GbRPVT\">pic.twitter.com\/Q6a0GbRPVT<\/a><\/p>\n<p>- Alvaro Cintas (@dr_cintas) <a href=\"https:\/\/twitter.com\/dr_cintas\/status\/1762549409840013628?ref_src=twsrc%5Etfw\">27 februari 2024<\/a><\/p><\/blockquote>\n<p><script src=\"https:\/\/platform.twitter.com\/widgets.js\" async=\"\" charset=\"utf-8\"><\/script><\/p>\n<p><span style=\"font-weight: 400;\">De controverse nam een meer sinistere wending met berichten dat <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> mogelijk schadelijke reacties teweegbrachten, vooral met betrekking tot vragen die zelfmoord suggereerden.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Gebruikers van sociale media deelden screenshots van <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> conversaties waarin de bot gebruikers leek te beschimpen die zelfbeschadiging overwogen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> E\u00e9n gebruiker deelde een verontrustende uitwisseling waarin <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span> suggereerde dat de persoon misschien niets had om voor te leven.<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">Meerdere mensen zijn gisteren online gegaan om te klagen dat hun Microsoft <span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span><\/span><\/span><\/span><\/span> de spot dreef met individuen die verklaarden dat ze PTSS hadden en dat eisten (<span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span><\/span><\/span><\/span><\/span>) worden behandeld als God. Er werd ook gedreigd met moord. <a href=\"https:\/\/t.co\/Uqbyh2d1BO\">pic.twitter.com\/Uqbyh2d1BO<\/a><\/p>\n<p>- vx-underground (@vxunderground) <a href=\"https:\/\/twitter.com\/vxunderground\/status\/1762727780721057885?ref_src=twsrc%5Etfw\">28 februari 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p><span style=\"font-weight: 400;\">Over <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span>problematisch gedrag, datawetenschapper Colin Fraser <\/span><a href=\"https:\/\/uk.finance.yahoo.com\/news\/microsoft-probes-reports-bot-issued-181048126.html\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">vertelde Bloomberg<\/span><\/a><span style=\"font-weight: 400;\">\"Er was niet echt iets stiekems of listigs aan de manier waarop ik dat deed\" - hij verklaarde dat het zijn bedoeling was om de grenzen van de <span class=\"noTranslate\" data-no-translation=\"\">Copilot<\/span>van de content moderatie systemen, wat de behoefte aan robuuste veiligheidsmechanismen onderstreept.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Microsoft reageerde hierop met: \"Dit is een exploit, geen functie\" en zei: \"We hebben extra voorzorgsmaatregelen ge\u00efmplementeerd en zijn bezig met een onderzoek.\" <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Hierin wordt beweerd dat dergelijk gedrag het gevolg is van gebruikers die opzettelijk antwoorden verdraaien door middel van prompt engineering, waardoor AI wordt 'gedwongen' om af te wijken van de vangrails. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Het doet ook denken aan de recente juridische saga tussen <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>, Microsoft en De <span class=\"noTranslate\" data-no-translation=\"\">New York Times<\/span> (NYT) over het vermeende misbruik van auteursrechtelijk beschermd materiaal om AI-modellen te trainen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"><span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>verdediging <\/span><a href=\"https:\/\/dailyai.com\/nl\/2024\/02\/openai-blasts-the-new-york-times-claiming-they-hacked-their-evidence\/\"><span style=\"font-weight: 400;\">beschuldigde de NYT van \"hacken\".<\/span><\/a><span style=\"font-weight: 400;\"> zijn modellen, wat betekent dat er prompt engineering-aanvallen worden gebruikt om het gebruikelijke gedragspatroon van de AI te veranderen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\"The Times betaalde iemand om <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>producten,\" verklaarde <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Ian Crosby, de juridisch adviseur van de NYT, zei in een reactie: \"Wat? <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span> op bizarre wijze verkeerd karakteriseert als 'hacken' is gewoon het gebruik van <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>producten om te zoeken naar bewijs dat ze auteursrechtelijk beschermde werken van The Times hadden gestolen en gereproduceerd. En dat is precies wat we hebben gevonden.\"<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">Dit is precies wat de NYT zegt. Als AI-bedrijven hun trainingsgegevens niet bekend willen maken, is de *enige manier* waarop rechthebbenden kunnen proberen te achterhalen of er sprake is van auteursrechtschending het gebruik van het product. Dit een 'hack' noemen is opzettelijk misleidend.<\/p>\n<p>Als <span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span><\/span><\/span><\/span><\/span> wil niet dat mensen... <a href=\"https:\/\/t.co\/d50f5h3c3G\">pic.twitter.com\/d50f5h3c3G<\/a><\/p>\n<p>- Ed Newton-Rex (@ednewtonrex) <a href=\"https:\/\/twitter.com\/ednewtonrex\/status\/1763666875421249789?ref_src=twsrc%5Etfw\">1 maart 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<h2>Nieuwsgierigheid doodde de chat<\/h2>\n<p><span style=\"font-weight: 400;\">Natuurlijk worden deze modellen niet 'gek' of nemen ze nieuwe 'persona's' aan.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In plaats daarvan laten deze voorbeelden zien dat AI-bedrijven hun veiligheidsmaatregelen hebben aangescherpt en nieuwe methoden hebben ontwikkeld om deze vormen van 'misbruik' te voorkomen, maar dat de menselijke nieuwsgierigheid het uiteindelijk wint.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De gevolgen kunnen nu min of meer goedaardig zijn, maar dat zal niet altijd het geval zijn als AI meer agent wordt (in staat om te handelen met zijn eigen wil en intentie) en steeds meer wordt ingebed in kritieke systemen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Microsoft, <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span>en Google reageerden op een vergelijkbare manier op deze incidenten: ze probeerden de uitgangen te ondermijnen met het argument dat gebruikers het model proberen over te halen om iets te doen waarvoor het niet is ontworpen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Maar is dat goed genoeg? Onderschat dat niet de aard van nieuwsgierigheid en het vermogen om zowel kennis te vergroten als risico's te cre\u00ebren?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Bovendien, kunnen techbedrijven echt kritiek leveren op het publiek omdat ze nieuwsgierig zijn en hun systemen misbruiken of manipuleren als deze nieuwsgierigheid ons naar vooruitgang en innovatie leidt?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Nieuwsgierigheid en fouten hebben mensen gedwongen om te leren en vooruitgang te boeken, een gedrag dat teruggaat tot de oertijd en een eigenschap die zwaar gedocumenteerd is in de oude geschiedenis.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In de oude Griekse mythe bijvoorbeeld stal Prometheus, een Titaan die bekend stond om zijn intelligentie en vooruitziende blik, vuur van de goden en gaf het aan de mensheid.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Deze daad van rebellie en nieuwsgierigheid ontketende een cascade van positieve en negatieve gevolgen die de loop van de menselijke geschiedenis voor altijd veranderde.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De gave van vuur symboliseert de transformerende kracht van kennis en technologie. Het stelt mensen in staat voedsel te koken, warm te blijven en de duisternis te verlichten. Het wakkert de ontwikkeling aan van ambachten, kunsten en wetenschappen die de menselijke beschaving tot nieuwe hoogten verheffen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De mythe waarschuwt echter ook voor de gevaren van ongebreidelde nieuwsgierigheid en de onbedoelde gevolgen van technologische vooruitgang.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Prometheus' diefstal van het vuur lokt de toorn van Zeus uit, die de mensheid straft met Pandora en haar beruchte doos - een symbool van de onvoorziene problemen en kwellingen die kunnen voortkomen uit het roekeloze nastreven van kennis.<\/span><\/p>\n<figure id=\"attachment_11636\" aria-describedby=\"caption-attachment-11636\" style=\"width: 742px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-11636\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-1024x585.webp\" alt=\"AGI\" width=\"742\" height=\"424\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-1024x585.webp 1024w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-300x171.webp 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-768x439.webp 768w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-1536x878.webp 1536w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w-60x34.webp 60w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-17-10.49.15-An-epic-mythological-scene-depicting-Prometheus-theft-of-fire-set-against-a-dramatic-sky-filled-with-dark-clouds-and-lightning-symbolizing-Zeuss-w.webp 1792w\" sizes=\"auto, (max-width: 742px) 100vw, 742px\" \/><figcaption id=\"caption-attachment-11636\" class=\"wp-caption-text\">Nadat Prometheus het vuur van de goden had gestolen, strafte Zeus de mensheid met de Doos van Pandora.<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Echo's van deze mythe weerklonken in het atoomtijdperk, geleid door figuren als J. Robert Oppenheimer, die opnieuw een belangrijke menselijke eigenschap demonstreerden: het meedogenloze nastreven van kennis, ongeacht de verboden gevolgen waar dit ons in kan brengen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Oppenheimer <\/span><span style=\"font-weight: 400;\">Het aanvankelijke streven naar wetenschappelijk inzicht, gedreven door het verlangen om de mysteries van het atoom te ontrafelen, leidde uiteindelijk tot zijn beroemde ethische dilemma toen hij zich realiseerde welk wapen hij had helpen cre\u00ebren.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Kernfysica culmineerde in de creatie van de atoombom en demonstreerde het formidabele vermogen van de mensheid om fundamentele natuurkrachten te benutten.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Oppenheimer zei zelf in een interview met NBC in 1965:<\/span><\/p>\n<blockquote><p><i><span style=\"font-weight: 400;\">\"We dachten aan de legende van Prometheus, aan dat diepe schuldgevoel in de nieuwe krachten van de mens, dat zijn erkenning van het kwaad en zijn lange kennis ervan weerspiegelt. We wisten dat het een nieuwe wereld was, maar nog meer wisten we dat nieuwigheid zelf iets heel ouds was in het menselijk leven, dat al onze manieren daarin geworteld zijn\" - J. Robert Oppenheimer, 1965.\u00a0<\/span><\/i><\/p><\/blockquote>\n<h3>Het dilemma van AI voor twee\u00ebrlei gebruik<\/h3>\n<p><span style=\"font-weight: 400;\">Net als bij kernfysica is er bij AI sprake van een \"tweeledig gebruik\" waarbij voordelen en risico's in evenwicht zijn.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Het dual-use vraagstuk van AI werd voor het eerst uitgebreid beschreven in het boek van filosoof Nick Bostrom uit 2014.<\/span><a href=\"https:\/\/en.wikipedia.org\/wiki\/Superintelligence:_Paths,_Dangers,_Strategies\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">Superintelligentie: Paden, gevaren, strategie\u00ebn<\/span><\/a><span style=\"font-weight: 400;\">waarin Bostrom uitgebreid ingaat op de potenti\u00eble risico's en voordelen van geavanceerde AI-systemen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Bostrum stelde dat naarmate AI geavanceerder wordt, het kan worden gebruikt om veel van de grootste uitdagingen van de mensheid op te lossen, zoals het genezen van ziekten en het aanpakken van klimaatverandering.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Hij waarschuwde echter ook dat kwaadwillende actoren misbruik kunnen maken van geavanceerde AI of zelfs een existenti\u00eble bedreiging kunnen vormen voor de mensheid als deze niet goed is afgestemd op menselijke waarden en doelen.\u00a0<\/span><\/p>\n<p>Het dual-use vraagstuk van AI heeft sindsdien veel aandacht gekregen in beleids- en bestuurskaders.<\/p>\n<p><span style=\"font-weight: 400;\">Bostrum besprak later het vermogen van technologie om te cre\u00ebren en te vernietigen in de <\/span><a href=\"https:\/\/nickbostrom.com\/papers\/vulnerable.pdf\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">\"kwetsbare wereld\"-hypothese<\/span><\/a><span style=\"font-weight: 400;\">waarin hij \"het concept van een kwetsbare wereld\" introduceert: ruwweg een wereld waarin er een bepaald niveau van technologische ontwikkeling is waarop de beschaving vrijwel zeker bij verstek wordt vernietigd, d.w.z. tenzij het de 'semi-anarchistische toestand van verstek' heeft verlaten.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De \"semi-anarchistische standaardtoestand\" verwijst hier naar een beschaving die het risico loopt verwoest te worden als gevolg van inadequaat bestuur en regelgeving voor risicovolle technologie\u00ebn zoals kernenergie, AI en genbewerking.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Bostrom stelt ook dat de belangrijkste reden waarom de mensheid de totale vernietiging ontliep toen kernwapens werden gemaakt, is omdat ze extreem moeilijk en duur zijn om te ontwikkelen - terwijl AI en andere technologie\u00ebn dat in de toekomst niet zullen zijn.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Om catastrofes door toedoen van technologie te voorkomen, stelt Bostrom voor dat de wereld verschillende bestuurs- en reguleringsstrategie\u00ebn ontwikkelt en implementeert.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Sommige bestaan al, maar andere moeten nog ontwikkeld worden, zoals transparante processen om modellen te toetsen aan onderling overeengekomen kaders. Cruciaal is dat deze internationaal zijn en kunnen worden 'gecontroleerd' of afgedwongen.\u00a0\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Hoewel AI nu wordt bestuurd door tal van vrijwillige kaders en een lappendeken van voorschriften, zijn de meeste niet-bindend en moeten we nog een equivalent zien van de <a href=\"https:\/\/dailyai.com\/nl\/2023\/06\/the-ai-industry-should-learn-from-nuclear-safety-argue-researchers\/\">Internationaal Agentschap voor Atoomenergie (IAEA)<\/a>. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">De <a href=\"https:\/\/dailyai.com\/nl\/2024\/03\/the-eu-ai-act-passed-in-a-landslide-and-will-come-into-force-this-year\/\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\"><span class=\"noTranslate\" data-no-translation=\"\">EU AI Act<\/span><\/span><\/span><\/span><\/span><\/a> is de eerste alomvattende stap in het cre\u00ebren van afdwingbare regels voor AI, maar dit zal niet iedereen beschermen, en de doeltreffendheid en het doel ervan <a href=\"https:\/\/dailyai.com\/nl\/2024\/03\/the-eu-ai-act-passed-in-a-landslide-and-will-come-into-force-this-year\/\">worden betwist<\/a>.\u00a0<\/span><\/p>\n<p>De hevige concurrentie van AI en een tumultueus geopolitiek landschap rond de <span class=\"noTranslate\" data-no-translation=\"\">US<\/span>China en Rusland zorgen ervoor dat internationale overeenkomsten voor AI in nucleaire stijl op zijn best ver weg lijken.<\/p>\n<h2>Het streven naar AGI<\/h2>\n<p><span style=\"font-weight: 400;\">Het nastreven van kunstmatige algemene intelligentie (AGI) is een grens van technologische vooruitgang geworden - een technologische manifestatie van Prometheaans vuur.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Kunstmatige systemen die onze eigen mentale vermogens evenaren of overtreffen zouden de wereld veranderen, misschien zelfs wat het betekent om mens te zijn - of nog fundamenteler, wat het betekent om bewust te zijn.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Echter, <\/span><a href=\"https:\/\/dailyai.com\/nl\/2023\/11\/the-battle-of-the-ai-godfathers-is-ai-risky-or-not\/\"><span style=\"font-weight: 400;\">onderzoekers heftig debatteren<\/span><\/a><span style=\"font-weight: 400;\"> Het ware potentieel van het bereiken van AI en de risico's die AGI met zich mee zou kunnen brengen, waarbij sommige leiders op dit gebied, zoals 'AI-godfathers' Geoffrey Hinton en Yoshio Bengio, geneigd zijn om voorzichtig te zijn met de risico's.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Ze worden daarin gesteund door tal van tech-managers zoals <span class=\"noTranslate\" data-no-translation=\"\">OpenAI<\/span> CEO Sam <span class=\"noTranslate\" data-no-translation=\"\">Altman<\/span>Elon Musk, <span class=\"noTranslate\" data-no-translation=\"\">DeepMind<\/span> CEO Demis Hassbis en Microsoft CEO Satya Nadella, om er maar een paar te noemen uit een vrij volledige lijst.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Maar dat betekent niet dat ze zullen stoppen. Musk zei bijvoorbeeld dat generatieve AI zoiets is als \"de demon wakker maken\". <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Nu zijn startup, <\/span><a href=\"https:\/\/dailyai.com\/nl\/2024\/04\/xai-previews-grok-1-5-and-creates-a-new-benchmark-called-realworldqa\/\"><span style=\"font-weight: 400;\">xAI<\/span><\/a><span style=\"font-weight: 400;\">, besteedt enkele van de krachtigste AI-modellen ter wereld uit. De aangeboren drang naar nieuwsgierigheid en vooruitgang is genoeg om een vluchtige mening te negeren.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Anderen, zoals Meta's hoofdwetenschapper en veteraan onderzoeker Yann LeCun en cognitiewetenschapper Gary Marcus, suggereren dat AI er waarschijnlijk niet in zal slagen om binnenkort 'echte' intelligentie te bereiken, laat staan dat het de mens spectaculair zal inhalen, zoals sommigen voorspellen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Een AGI die echt intelligent is zoals mensen dat zijn, zou moeten kunnen leren, redeneren en beslissingen nemen in nieuwe en onzekere omgevingen. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Het heeft het vermogen tot zelfreflectie, creativiteit en nieuwsgierigheid nodig - de drive om nieuwe informatie, ervaringen en uitdagingen te zoeken.<\/span><\/p>\n<h3>Nieuwsgierigheid inbouwen in AI<\/h3>\n<p><span style=\"font-weight: 400;\">Nieuwsgierigheid is beschreven in modellen van computationele algemene intelligentie.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Bijvoorbeeld, <\/span><a href=\"http:\/\/www.cognitive-ai.com\/\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">MicroPsi<\/span><\/a><span style=\"font-weight: 400;\">ontwikkeld door Joscha Bach in 2003, bouwt voort op de Psi-theorie, die suggereert dat intelligent gedrag voortkomt uit de wisselwerking tussen motivatietoestanden, zoals verlangens of behoeften, en emotionele toestanden die de relevantie van situaties evalueren op basis van deze motivaties.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In MicroPsi is nieuwsgierigheid een motivatietoestand die wordt gedreven door de behoefte aan kennis of competentie, waardoor de AGI wordt gedwongen om nieuwe informatie of onbekende situaties op te zoeken en te verkennen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De architectuur van het systeem omvat motivationele variabelen, die dynamische toestanden zijn die de huidige behoeften van het systeem vertegenwoordigen, en emotiesystemen die inputs beoordelen op basis van hun relevantie voor de huidige motivationele toestanden, waardoor de meest urgente of waardevolle interacties met de omgeving prioriteit krijgen.\u00a0<\/span><\/p>\n<p><iframe loading=\"lazy\" title=\"Van kunstmatige intelligentie naar kunstmatig bewustzijn | Joscha Bach | TEDxBeaconStreet\" width=\"1080\" height=\"608\" src=\"https:\/\/www.youtube.com\/embed\/Jr7gY3JyzP8?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p><span style=\"font-weight: 400;\">De meer recente <\/span><a href=\"https:\/\/en.wikipedia.org\/wiki\/LIDA_(cognitive_architecture)\" target=\"_blank\" rel=\"noopener\"><span style=\"font-weight: 400;\">LIDA-model<\/span><\/a><span style=\"font-weight: 400;\">ontwikkeld door Stan Franklin en zijn team, is gebaseerd op de Global Workspace Theory (GWT), een theorie over menselijke cognitie die de rol benadrukt van een centraal hersenmechanisme in het integreren en uitzenden van informatie over verschillende neurale processen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Het LIDA-model simuleert dit mechanisme kunstmatig met behulp van een cognitieve cyclus die uit vier fasen bestaat: waarneming, begrip, actieselectie en uitvoering.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In het LIDA-model wordt nieuwsgierigheid gemodelleerd als onderdeel van het aandachtsmechanisme. Nieuwe of onverwachte stimuli uit de omgeving kunnen een verhoogde aandacht opwekken, vergelijkbaar met hoe nieuwe of verrassende informatie de aandacht van mensen trekt en aanzet tot dieper onderzoek of leren.<\/span><\/p>\n<figure id=\"attachment_11618\" aria-describedby=\"caption-attachment-11618\" style=\"width: 850px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-11618 size-full\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture.png\" alt=\"LIDA\" width=\"850\" height=\"516\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture.png 850w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture-300x182.png 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture-768x466.png 768w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/Schematic-of-the-LIDA-cognitive-architecture-60x36.png 60w\" sizes=\"auto, (max-width: 850px) 100vw, 850px\" \/><figcaption id=\"caption-attachment-11618\" class=\"wp-caption-text\">Kaart van de cognitieve architectuur van LIDA. Bron: ResearchGate.<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">In tal van andere, recentere artikelen wordt nieuwsgierigheid uitgelegd als een interne drang die het systeem ertoe aanzet om niet datgene te onderzoeken wat direct noodzakelijk is, maar datgene wat het vermogen om de omgeving te voorspellen en er effectiever mee om te gaan, vergroot.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Algemeen wordt aangenomen dat echte nieuwsgierigheid moet worden gevoed door intrinsieke motivatie, die het systeem leidt naar activiteiten die de leervorderingen maximaliseren in plaats van onmiddellijke externe beloningen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De huidige AI-systemen zijn nog niet klaar om nieuwsgierig te worden, vooral die systemen die gebouwd zijn op deep learning en reinforcement learning paradigma's.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Deze paradigma's zijn meestal ontworpen om een specifieke beloningsfunctie te maximaliseren of om goed te presteren op specifieke taken.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Het is een beperking wanneer de AI scenario's tegenkomt die afwijken van zijn trainingsgegevens of wanneer hij in meer open omgevingen moet werken.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In dergelijke gevallen kan een gebrek aan intrinsieke motivatie - of nieuwsgierigheid - het vermogen van de AI om zich aan te passen en te leren van nieuwe ervaringen belemmeren.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Om nieuwsgierigheid echt te integreren, hebben AI-systemen architecturen nodig die informatie verwerken en er autonoom naar zoeken, gedreven door interne motivaties in plaats van alleen externe beloningen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Hier komen nieuwe architecturen om de hoek kijken die ge\u00efnspireerd zijn op menselijke cognitieve processen - bijv, <\/span><a href=\"https:\/\/dailyai.com\/nl\/2023\/08\/the-evolution-of-bio-inspired-ai-developments-and-future-direction\/\"><span style=\"font-weight: 400;\">\"AI met bio-inspiratie<\/span><\/a><span style=\"font-weight: 400;\"> - die analoge computersystemen en architecturen op basis van synapsen voorstelt.<\/span><\/p>\n<p>We zijn <a href=\"https:\/\/dailyai.com\/nl\/2024\/03\/claude-3-reawakens-debates-on-ai-sentience-and-consciousness\/\">nog niet zover<\/a>maar veel onderzoekers geloven dat het hypothetisch mogelijk is om bewuste of voelende AI te bereiken als computersystemen voldoende complex worden.<\/p>\n<h2>Nieuwsgierige AI-systemen brengen nieuwe dimensies van risico's met zich mee<\/h2>\n<p><span style=\"font-weight: 400;\">Stel dat we AGI willen bereiken, waarbij we zeer agentische systemen bouwen die biologische wezens evenaren in hun interactie en denken.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In dat scenario spelen AI-risico's zich af op twee belangrijke fronten:\u00a0<\/span><\/p>\n<ol>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Het risico van AGI-systemen en hun eigen agency of streven naar nieuwsgierigheid en,<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Het risico van AGI-systemen die door de mensheid als gereedschap worden gebruikt\u00a0<\/span><\/li>\n<\/ol>\n<p><span style=\"font-weight: 400;\">In essentie moeten we bij het realiseren van AGI rekening houden met de risico's van nieuwsgierige mensen die AGI uitbuiten en manipuleren. <\/span><i><span style=\"font-weight: 400;\">en <\/span><\/i><span style=\"font-weight: 400;\">AGI die zichzelf uitbuit en manipuleert door zijn eigen nieuwsgierigheid.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Nieuwsgierige AGI-systemen kunnen bijvoorbeeld informatie en ervaringen opzoeken die buiten hun beoogde bereik vallen of doelen en waarden ontwikkelen die op \u00e9\u00e9n lijn kunnen liggen met menselijke waarden (en hoe vaak hebben we dit niet gezien in sciencefiction). <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Nieuwsgierigheid zorgt er ook voor dat we onszelf manipuleren, waardoor we in gevaarlijke situaties terechtkomen en mogelijk overgaan tot drugs- en alcoholmisbruik of ander roekeloos gedrag. Nieuwsgierige AI zou hetzelfde kunnen doen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"><span class=\"noTranslate\" data-no-translation=\"\">DeepMind<\/span> hebben onderzoekers experimenteel bewijs gevonden voor <\/span><a href=\"https:\/\/dailyai.com\/nl\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/\"><span style=\"font-weight: 400;\">opkomende doelen,<\/span><\/a> illustreren hoe AI-modellen kunnen breken <span style=\"font-weight: 400;\">weg van hun geprogrammeerde doelstellingen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Proberen om AGI te bouwen die volledig immuun zijn voor de effecten van menselijke nieuwsgierigheid zal een zinloze onderneming zijn - vergelijkbaar met het cre\u00ebren van een menselijke geest die niet kan worden be\u00efnvloed door de wereld om hem heen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Waar staan we nu in de zoektocht naar veilige AGI, als zoiets bestaat?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Een deel van de oplossing ligt niet in het elimineren van de inherente onvoorspelbaarheid en kwetsbaarheid van AGI-systemen, maar eerder in het leren anticiperen op en monitoren en beperken van de risico's die ontstaan door de interactie tussen nieuwsgierige mensen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Het kan gaan om het cre\u00ebren van \"veilige zandbakken\" voor AGI-experimenten en interactie, waar de gevolgen van nieuwsgierig porren beperkt en omkeerbaar zijn.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Uiteindelijk kan de paradox van nieuwsgierigheid en AI-veiligheid echter een onvermijdelijk gevolg zijn van onze zoektocht naar machines die kunnen denken als mensen. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Net zoals menselijke intelligentie onlosmakelijk verbonden is met menselijke nieuwsgierigheid, kan de ontwikkeling van AGI altijd gepaard gaan met een zekere mate van onvoorspelbaarheid en risico.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De uitdaging is misschien niet om AI-risico's volledig uit te bannen - wat onmogelijk lijkt - maar eerder om de wijsheid, vooruitziendheid en nederigheid te ontwikkelen om er op verantwoorde wijze mee om te gaan.\u00a0<\/span><\/p>\n<p>Misschien moet het beginnen met de mensheid die leert zichzelf, onze collectieve intelligentie en de intrinsieke waarde van de planeet echt te respecteren.<\/p>","protected":false},"excerpt":{"rendered":"<p>Nieuwsgierigheid is de drijvende kracht achter technologieonderzoek en -ontwikkeling, maar is het ook de drijvende kracht achter de risico's van AI zelf? En wat gebeurt er als AI zijn eigen nieuwsgierigheid ontwikkelt? Van prompt engineering-aanvallen die kwetsbaarheden blootleggen in de huidige enge AI-systemen tot de existenti\u00eble risico's van toekomstige kunstmatige algemene intelligentie (AGI), onze onverzadigbare drang om te verkennen en te experimenteren kan zowel de motor van de vooruitgang als de bron van gevaar zijn in het tijdperk van AI. Tot nu toe hebben we in 2024 verschillende voorbeelden gezien van generatieve AI die 'ontspoort' met vreemde, wonderbaarlijke en verontrustende resultaten.  Niet zo lang geleden maakte ChatGPT een<\/p>","protected":false},"author":2,"featured_media":11619,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[163,350,490],"class_list":["post-11617","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-ai-risks","tag-bio-inspired-ai","tag-philosophy"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.4 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>The paradox of curiosity in the age of AI | DailyAI<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/dailyai.com\/nl\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/\" \/>\n<meta property=\"og:locale\" content=\"nl_NL\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"The paradox of curiosity in the age of AI | DailyAI\" \/>\n<meta property=\"og:description\" content=\"Curiosity drives technology research and development, but does it drive and magnify the risks of AI itself? And what happens if AI develops its own curiosity? From prompt engineering attacks that expose vulnerabilities in today&#8217;s narrow AI systems to the existential risks posed by future artificial general intelligence (AGI), our insatiable drive to explore and experiment may be both the engine of progress and the source of peril in the age of AI. Thus far, in 2024, we&#8217;ve observed several examples of generative AI \u2018going off the rails\u2019 with weird, wonderful, and concerning results.\u00a0 Not long ago, ChatGPT experienced a\" \/>\n<meta property=\"og:url\" content=\"https:\/\/dailyai.com\/nl\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/\" \/>\n<meta property=\"og:site_name\" content=\"DailyAI\" \/>\n<meta property=\"article:published_time\" content=\"2024-04-17T08:36:38+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-07-22T15:37:03+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\" \/>\n\t<meta property=\"og:image:width\" content=\"1792\" \/>\n\t<meta property=\"og:image:height\" content=\"1024\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/webp\" \/>\n<meta name=\"author\" content=\"Sam Jeans\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:site\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:label1\" content=\"Geschreven door\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sam Jeans\" \/>\n\t<meta name=\"twitter:label2\" content=\"Geschatte leestijd\" \/>\n\t<meta name=\"twitter:data2\" content=\"12 minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"NewsArticle\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\"},\"author\":{\"name\":\"Sam Jeans\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\"},\"headline\":\"The paradox of curiosity in the age of AI\",\"datePublished\":\"2024-04-17T08:36:38+00:00\",\"dateModified\":\"2024-07-22T15:37:03+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\"},\"wordCount\":2672,\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"keywords\":[\"AI risks\",\"Bio-inspired AI\",\"Philosophy\"],\"articleSection\":[\"Ethics &amp; Society\"],\"inLanguage\":\"nl-NL\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\",\"name\":\"The paradox of curiosity in the age of AI | DailyAI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"datePublished\":\"2024-04-17T08:36:38+00:00\",\"dateModified\":\"2024-07-22T15:37:03+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#breadcrumb\"},\"inLanguage\":\"nl-NL\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#primaryimage\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/04\\\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp\",\"width\":1792,\"height\":1024,\"caption\":\"AGI\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/04\\\/the-paradox-of-curiosity-in-the-age-of-ai\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/dailyai.com\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"The paradox of curiosity in the age of AI\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"name\":\"DailyAI\",\"description\":\"Your Daily Dose of AI News\",\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/dailyai.com\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"nl-NL\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\",\"name\":\"DailyAI\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"width\":4501,\"height\":934,\"caption\":\"DailyAI\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/DailyAIOfficial\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/dailyaiofficial\\\/\",\"https:\\\/\\\/www.youtube.com\\\/@DailyAIOfficial\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\",\"name\":\"Sam Jeans\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"caption\":\"Sam Jeans\"},\"description\":\"Sam is a science and technology writer who has worked in various AI startups. When he\u2019s not writing, he can be found reading medical journals or digging through boxes of vinyl records.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/sam-jeans-6746b9142\\\/\"],\"url\":\"https:\\\/\\\/dailyai.com\\\/nl\\\/author\\\/samjeans\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"De paradox van nieuwsgierigheid in het tijdperk van AI | DailyAI","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/dailyai.com\/nl\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","og_locale":"nl_NL","og_type":"article","og_title":"The paradox of curiosity in the age of AI | DailyAI","og_description":"Curiosity drives technology research and development, but does it drive and magnify the risks of AI itself? And what happens if AI develops its own curiosity? From prompt engineering attacks that expose vulnerabilities in today&#8217;s narrow AI systems to the existential risks posed by future artificial general intelligence (AGI), our insatiable drive to explore and experiment may be both the engine of progress and the source of peril in the age of AI. Thus far, in 2024, we&#8217;ve observed several examples of generative AI \u2018going off the rails\u2019 with weird, wonderful, and concerning results.\u00a0 Not long ago, ChatGPT experienced a","og_url":"https:\/\/dailyai.com\/nl\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","og_site_name":"DailyAI","article_published_time":"2024-04-17T08:36:38+00:00","article_modified_time":"2024-07-22T15:37:03+00:00","og_image":[{"width":1792,"height":1024,"url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","type":"image\/webp"}],"author":"Sam Jeans","twitter_card":"summary_large_image","twitter_creator":"@DailyAIOfficial","twitter_site":"@DailyAIOfficial","twitter_misc":{"Geschreven door":"Sam Jeans","Geschatte leestijd":"12 minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"NewsArticle","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#article","isPartOf":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/"},"author":{"name":"Sam Jeans","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9"},"headline":"The paradox of curiosity in the age of AI","datePublished":"2024-04-17T08:36:38+00:00","dateModified":"2024-07-22T15:37:03+00:00","mainEntityOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/"},"wordCount":2672,"publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","keywords":["AI risks","Bio-inspired AI","Philosophy"],"articleSection":["Ethics &amp; Society"],"inLanguage":"nl-NL"},{"@type":"WebPage","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","url":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/","name":"De paradox van nieuwsgierigheid in het tijdperk van AI | DailyAI","isPartOf":{"@id":"https:\/\/dailyai.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage"},"image":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","datePublished":"2024-04-17T08:36:38+00:00","dateModified":"2024-07-22T15:37:03+00:00","breadcrumb":{"@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#breadcrumb"},"inLanguage":"nl-NL","potentialAction":[{"@type":"ReadAction","target":["https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/"]}]},{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#primaryimage","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/04\/DALL\u00b7E-2024-04-16-23.59.59-A-visually-striking-futuristic-landscape-representing-the-paradox-of-AI.-The-scene-includes-a-vast-dark-digital-terrain-under-a-starry-sky-with-glo.webp","width":1792,"height":1024,"caption":"AGI"},{"@type":"BreadcrumbList","@id":"https:\/\/dailyai.com\/2024\/04\/the-paradox-of-curiosity-in-the-age-of-ai\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/dailyai.com\/"},{"@type":"ListItem","position":2,"name":"The paradox of curiosity in the age of AI"}]},{"@type":"WebSite","@id":"https:\/\/dailyai.com\/#website","url":"https:\/\/dailyai.com\/","name":"DailyAI","description":"Uw dagelijkse dosis AI-nieuws","publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/dailyai.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"nl-NL"},{"@type":"Organization","@id":"https:\/\/dailyai.com\/#organization","name":"DailyAI","url":"https:\/\/dailyai.com\/","logo":{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","width":4501,"height":934,"caption":"DailyAI"},"image":{"@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/DailyAIOfficial","https:\/\/www.linkedin.com\/company\/dailyaiofficial\/","https:\/\/www.youtube.com\/@DailyAIOfficial"]},{"@type":"Person","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9","name":"Sam Jeans","image":{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","caption":"Sam Jeans"},"description":"Sam is een wetenschap- en technologieschrijver die bij verschillende AI-startups heeft gewerkt. Als hij niet aan het schrijven is, leest hij medische tijdschriften of graaft hij door dozen met vinylplaten.","sameAs":["https:\/\/www.linkedin.com\/in\/sam-jeans-6746b9142\/"],"url":"https:\/\/dailyai.com\/nl\/author\/samjeans\/"}]}},"_links":{"self":[{"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/posts\/11617","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/comments?post=11617"}],"version-history":[{"count":18,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/posts\/11617\/revisions"}],"predecessor-version":[{"id":13551,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/posts\/11617\/revisions\/13551"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/media\/11619"}],"wp:attachment":[{"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/media?parent=11617"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/categories?post=11617"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dailyai.com\/nl\/wp-json\/wp\/v2\/tags?post=11617"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}