De CEO van OpenAI, Sam Altman, bracht de techgemeenschap in beroering toen hij aankondigde dat kunstmatige algemene intelligentie (AGI) "intern was bereikt", om later te zeggen dat hij "alleen maar aan het memmen was".
Sam Altman is nauwelijks zo controversieel als Elon Musk, maar hij is een enigszins polariserende figuur geworden door een speelse grap die sommigen ongepast vinden. Per slot van rekening wordt hij beschouwd als een van de meest invloedrijke personen in de technologie.
Altmans grap werd gemaakt via een post op het Reddit-forum r/singularity, waar hij verklaarde: "AGI is intern bereikt."
AGI, kort voor artificial general intelligence, verwijst naar AI-systemen die de menselijke cognitieve capaciteiten evenaren of zelfs overtreffen. OpenAI bestempelt zichzelf nu als een AGI ontwikkelaar en wil de eerste zijn die 'doorbreekt' in dat paradigma.
Altman bewerkte al snel zijn luchthartige uitspraak en voegde een voorbehoud toe: "Dit is duidelijk alleen maar memeing, jullie hebben allemaal geen chill, wanneer AGI wordt bereikt, zal dat niet worden aangekondigd met een Reddit-commentaar."
Velen gingen naar Reddit en X om Altman te beschuldigen van trollen - misschien een beetje schokkend als mensen zich echt zorgen maken over de toekomst van AI.
EDIT: "agi is intern bereikt (EDIT dit is duidelijk gewoon memeing, jullie hebben geen chill! wanneer agi is bereikt zal het niet worden aangekondigd met een reddit commentaar...)" pic.twitter.com/nrEHnvuEcS
- Smoke-away (@SmokeAwayyy) 26 september 2023
De "singulariteit
Het forum, r/singulariteitgaat vooral in op discussies over de technologische singulariteit - het punt waarop computerintelligentie de menselijke intelligentie zou kunnen overschaduwen, wat zou leiden tot onvoorspelbare en onomkeerbare veranderingen in de wereld zoals wij die kennen.
De achtergrond van dit commentaar heeft zijn wortels in een hypothetisch scenario van de Oxford Universiteit filosoof Nick Bostrom in zijn invloedrijke boek uit 2014, "Superintelligentie: Paden, gevaren, strategieën.”
Bostrom beschrijft de existentiële risico's die ultra-gevorderde AI met zich mee zou kunnen brengen. Een van zijn gedachte-experimenten, bekend als de Paperclip Maximiser, schetst een beeld van een AGI wiens onschuldige intentie - zoveel mogelijk paperclips produceren - onbedoeld zou kunnen leiden tot de ondergang van de mensheid.
Hij legt uit dat de AI menselijke lichamen zou beschouwen als waardevolle bronnen van atomen om paperclips van te maken.
Met een humoristische knipoog naar dit gedachte-experiment deelde OpenAI-onderzoeker Will Depue na Altman's post een door AI gerenderde afbeelding op Twitter met "OpenAI-kantoren die overlopen van paperclips!".
BREAKING NEWS: OpenAI kantoren gezien overvol met paperclips! pic.twitter.com/rnV4dLi0cU
- will depue (@willdepue) 26 september 2023
Bostrom stelt ook: "De AI zal zich snel realiseren dat het veel beter zou zijn als er geen mensen waren, omdat mensen zouden kunnen besluiten om de AI uit te schakelen."
Het is een bekende sciencefiction plotlijn - de machines in de Matrix begonnen bijvoorbeeld mensen te oogsten voor energiedoeleinden.
Zoals Morpheus zegt: "Het menselijk lichaam genereert meer bio-elektriciteit dan een batterij van 120 volt en meer dan 25.000 BTU lichaamswarmte." Bostrum theoretiseert dat AI tot dergelijke conclusies zou kunnen komen als het in de juiste scenario's wordt uitgelokt.
De mensheid vervangen door paperclips zou op zijn zachtst gezegd een vreemd lot zijn voor het menselijk ras.
