OpenAI:s VD Sam Altman skämtar om att AGI hade "uppnåtts internt"

27 september 2023

Altman AI

OpenAI:s VD, Sam Altman, skapade uppståndelse i teknikvärlden när han meddelade att artificiell allmän intelligens (AGI) hade "uppnåtts internt", för att senare säga att han "bara memeade".

Sam Altman är knappast lika kontroversiell som Elon Musk, men han har blivit en något polariserande figur för ett lekfullt skämt som vissa anser vara olämpligt. Trots allt kan han anses vara en av de mest inflytelserika personerna inom teknik. 

Altmans skämt gjordes via ett inlägg på Reddit-forumet r/singularity, där han konstaterade att "AGI har uppnåtts internt". 

AGI, en förkortning för artificiell allmän intelligens, avser AI-system som är parallella med eller till och med överträffar människans kognitiva förmåga. OpenAI kallar sig nu för en AGI-utvecklare och avser att bli först med att "bryta igenom" till det paradigmet. 

Altman redigerade snart sitt lättsinniga uttalande och lade till en varning: "Uppenbarligen är det här bara memeing, ni har ingen kyla, när AGI uppnås kommer det inte att meddelas med en Reddit-kommentar." 

Många tog till Reddit och X för att anklaga Altman för trollning - kanske lite märkligt när folk är genuint oroliga för AI:s framtid.

"Singulariteten"

Forumet, r/singularitetär främst inriktad på diskussioner om den tekniska singulariteten - den punkt då datorintelligens potentiellt kan överglänsa mänsklig intelligens, vilket leder till oförutsägbara och oåterkalleliga förändringar av världen som vi känner den.

Bakgrunden till den här kommentaren är ett hypotetiskt scenario som filosofen Nick Bostrom från Oxford University skrev i sin inflytelserika bok från 2014, "Superintelligens: Vägar, faror och strategier.” 

Bostrom beskriver de existentiella risker som en ultraavancerad AI kan innebära. Ett av hans tankeexperiment, Paperclip Maximiser, målar upp en bild av en AGI vars oskyldiga avsikt - att producera så många gem som möjligt - oavsiktligt skulle kunna leda till mänsklighetens undergång.

Han förklarar att AI:n skulle betrakta människokroppar som värdefulla källor till atomer för att tillverka gem.

I en humoristisk nick till detta tankeexperiment, efter Altmans inlägg, delade OpenAI-forskaren Will Depue en AI-renderad bild på Twitter som visar "OpenAI-kontor som överflödar med gem!"

Bostrom menar också att "AI:n kommer snabbt att inse att det vore mycket bättre om det inte fanns några människor, eftersom människor kan besluta att stänga av den". 

Det är en välbekant science fiction-intrig - maskinerna i Matrix började till exempel skörda människor för att få energi. 

Som Morpheus säger: "Människokroppen genererar mer bioelektricitet än ett 120-voltsbatteri och över 25.000 BTU kroppsvärme." Bostrum har en teori om att AI kan komma fram till sådana slutsatser om de provoceras i rätt scenarier. 

Att mänskligheten skulle ersättas av gem skulle vara ett minst sagt märkligt öde för mänskligheten.

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Sam Jeans

Sam är en vetenskaps- och teknikskribent som har arbetat i olika AI-startups. När han inte skriver läser han medicinska tidskrifter eller gräver igenom lådor med vinylskivor.

×

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar