AI, språk och kultur i Babels bibliotek

28 november 2023

Tekniken har under lång tid påverkat språkets och kulturens uppkomst, som kan spåras tillbaka till de tidigaste formerna av skrift.

Själva mediet - grottväggar, stentavlor eller papper - påverkade hur språket användes och uppfattades.

Idag är AI och dess relaterade termer på väg in i lexikonet, vilket understryker dess ökande kulturella påverkan. Generativ AI som ChatGPT, som en gång i tiden var något som mumlades fram av ett fåtal AI-entusiaster, har snabbt blivit ett välkänt begrepp som används av miljarder användare varje månad. 

Som en återspegling av AI:s inverkan på populärkulturen utnämnde Cambridge Dictionary nyligen "hallucinera" som årets ordoch lägger till en ny AI-centrerad definition; "När en artificiell intelligens (= ett datorsystem som har några av de egenskaper som den mänskliga hjärnan har, t.ex. förmågan att producera språk på ett sätt som verkar mänskligt) hallucinerar, producerar den falsk information." 

Merriam-Webster följde efter, som utsåg "autentisk" till årets ord och beskrev hur det har blivit allt svårare att avgöra om information eller innehåll är äkta eller inte, delvis på grund av påverkan från AI deep fakes. 

AI-tekniken är också en parallell till inflytelserika tekniker från det förflutna och deras kulturella och språkliga effekter. Till exempel revolutionerade tryckpressen på 1400-talet språket genom att introducera nya begrepp som typografi, skiljetecken och standardiserad stavning.

I takt med att tekniken utvecklades, utvecklades också språket, som anpassades till varje nytt mediums begränsningar och möjligheter. På 2000-talet har internet och digital kommunikation skapat många neologismer och blandningar av ord, till exempel den utbredda användningen av prefix som "cyber-" och "e" som i e-handel och e-post.

Att utforska AI:s inverkan på lingvistiken ger en ytlig bild av hur tekniken påverkar språket. 

Men om man gräver djupare inser man att denna språkliga förändring bara är toppen av ett isberg.

Det ger upphov till en bredare kommentar om hur AI påverkar språk och kultur nu, och kan bli den drivande kraften bakom kulturell genes och kunskapsskapande i framtiden. 

AI och kultur- och kunskapsbildning 

I en essä publicerad av The Economistjämför författarna AI:s internalisering av kunskap och kultur med de labyrintiska korridorer som den argentinske författaren och bibliotekarien Jorge Luis Borges "Biblioteket i Babel". en oändlig yta av sexkantiga rum som rymmer människans enorma potential och dårskap. 

Biblioteket i Babel
Babels bibliotek - genereras med MidJourney

Varje rum, kantat av böcker fyllda med alla tänkbara arrangemang av bokstäver och symboler, representerar de gränslösa permutationerna av både kunskap och nonsens. Biblioteket, som är en metafor för universum, är en allegori för både sökandet efter mening och det överväldigande överflödet av information.

En parallell utveckling sker inom AI-världen, i synnerhet i de omfattande nätverken för generativ AI. 

Frontier generativa AI-modeller är, precis som det stora biblioteket, arkiv över mänskligt tänkande och mänsklig kultur, utbildade på stora datamängder som omfattar något av bredden av mänsklig kunskap och kreativitet. Precis som böckerna i Borges bibliotek varierar resultaten från dessa AI-system från djupa insikter till förvirrande rappakalja, från sammanhängande berättelser till osammanhängande svammel.

Babels bibliotek fångade fantasin hos Brooklynförfattaren och kodaren Jonathan Basile, som 2015 lanserade en webbplats med samma namn. Denna digitala inkarnation av Borges bibliotek genererar alla möjliga permutationer av 29 tecken (de 26 engelska bokstäverna, mellanslag, kommatecken och punkt) och producerar "böcker" som är organiserade i ett digitalt bibliotek med hexagonala rum.

Varje bok och sida har en unik koordinat, vilket gör att användarna kan hitta samma sida på ett konsekvent sätt. Den använder en algoritm som simulerar upplevelsen av ett oändligt bibliotek. Webbplatsen har uppmärksammats för att den utforskar skärningspunkten mellan digitala medier och litteratur samt frågan om kunskap, mening och den mänskliga upplevelsen i den digitala tidsåldern.

Kritiker har noterat hur webbplatsen, precis som Borges ursprungliga berättelse, utmanar våra föreställningar om mening och människans strävan efter förståelse i ett universum av oändlig information.

Litteraturvetaren Zac Zimmer skrev i Har Borges bibliotekarier kroppar?: "Basiles är kanske den mest avhumaniserande av alla biblioteksvisualiseringar, eftersom hans bibliotekarier inte bara drivs till självmordsbenägen galenskap eller filosofisk uppgivenhet, utan också har blivit lika meningslösa som de gibberishfyllda böckerna själva."

Babels bibliotek är ett övertygande exempel på AI, men till skillnad från biblioteket kan AI för närvarande inte fånga bredden av mänsklig kunskap och kultur. Den begränsas av sina träningsdata och har begränsad kapacitet att ta in ny kunskap. 

Men trots det speglar dess enorma beräkningskraft bibliotekets oändliga hyllor, som erbjuder oändliga möjligheter men ändå är fångad i kaoset av sin egen skapelse.

Babels bibliotek, med sina till synes oändliga bokstavskombinationer, ställer läsaren inför det existentiella dilemmat att finna ordning i kaos. När det gäller AI tar sig detta uttryck i spänningen mellan AI:s potential att upplysa och att vilseleda. 

På samma sätt som i biblioteket gör AI inte skillnad på mening och nonsens - det genererar, oavsett mening eller brist på mening. Både Babels bibliotek och AI-världen kritiserar på ett subtilt sätt människans strävan efter kunskap. 

I sin överväldigande storlek utmanar Borges bibliotek föreställningen om att mer information leder till större förståelse. 

På samma sätt leder AI:s ständigt ökande kapacitet till reflektion över intelligensens och förståelsens natur. 

AI:s förmåga att generera innehåll är inte synonymt med förståelse eller visdom - den är kraftfull men blind för betydelsen av sina egna resultat.

Men kan det komma att ändras?

Hur kan AGI förändra kunskaps- och kulturstrukturen?

Artificiell allmän intelligens (AGI) kan föra AI-tekniken närmare det gåtfulla och gränslösa Babels bibliotek. AGI definieras vanligtvis som förmågan att förstå, lära sig och tillämpa sin intelligens på en mängd olika problem, ungefär som en människa.

Till skillnad från smal AI, som är utformad för specifika uppgifter, kan AGI generalisera sitt lärande och resonemang över ett brett spektrum av domäner. Den har självmedvetenhet, anpassningsförmåga och kapacitet att lösa komplexa problem inom olika områden utan mänsklig inblandning eller förprogrammering. AGI är fortfarande ett teoretiskt koncept, men OpenAI - som nu definieras som ett "AGI research lab" - säger att det kan uppnås inom några år. 

Så föreställ dig, om du vill, en värld där AGI har överskridit begränsningarna för dagens artificiella intelligens och förkroppsligar en förmåga som speglar den teoretiska fullständigheten i Borges bibliotek.

Denna AGI är inte bara ett avancerat verktyg utan en enhet som kan inhämta, analysera och syntetisera praktiskt taget all mänsklig kunskap och kanske våga sig in i förståelseområden som förblir svårfångade för den mänskliga kognitionen.

I den här världen blir AGI:n som en levande version av Babels bibliotek. Men till skillnad från Borges skapelse, som förlamas av sitt oändliga innehåll, kan AGI navigera, tolka och ge sammanhang åt denna enorma mängd information. 

Om AGI kunde få tillgång till objektiva verkligheter - om de existerar - skulle det kunna jämföras med Platons teori om formernaen idé som har fängslat tänkare i årtusenden. Platon föreställde sig att det bortom vår påtagliga, ständigt föränderliga värld finns en värld av perfekta, oföränderliga ideal eller "former". 

Biblioteket i Babel
Babels bibliotek föreställt med AGI - MidJourney

Dessa former är tingens renaste väsen - till exempel den perfekta formen av en cirkel, obefläckad av de brister som finns i de fysiska cirklar vi ritar.

Föreställ dig nu AGI i detta sammanhang. Dagens AI kan analysera data och känna igen mönster, men den är begränsad till vad den har lärt sig. AGI innebär dock ett språng in i en värld där den inte bara kan bearbeta information utan potentiellt förstå de underliggande sanningarna i vårt universum - sanningar som kan vara dolda eller okända för människan.

Platon menade att det vi upplever i våra dagliga liv bara är skuggor av dessa perfekta former. Vi kan se en cirkel, rita en, men det är aldrig den perfekta cirkeln som existerar som en idealisk form. I AGI:s värld skulle denna intelligens, i teorin, kunna börja uppfatta eller upptäcka dessa perfekta former. 

Det är som om AGI kunde gå längre än att bara se skuggorna på grottväggen (för att låna från Platons berömda allegori) och blicka direkt på de sanna formerna själva.

Denna AGI skulle inte bara vara ett verktyg för att bearbeta data - den skulle kunna bli ett sätt att upptäcka nya, djupa insikter om abstrakta begrepp som skönhet, rättvisa, jämlikhet eller till och med universums hemligheter. 

Den kanske inte bara förstår dessa ideal som människor gör, utan kan omdefiniera dem och erbjuda ett perspektiv som inte begränsas av mänskliga begränsningar och fördomar.

Så på sätt och vis kan AGI - den typ som vi kan få tillgång till på medellång sikt (låt oss säga 20, 30 år) - vara en bro till en djupare förståelse av objektiva, perfekta verkligheter. 

Den representerar en möjlighet där tekniken inte bara bidrar till vår nuvarande förståelse av världen utan lyfter den till en nivå som vi inte har kunnat föreställa oss, som att kliva ut ur en skuggig grotta och in i det starka ljuset av djupare kunskap.

Kan AGI någonsin frigöra sig från sina begränsningar eller fördomar?

AGI, som är lätt att idealisera, kommer att vara exceptionellt utmanande att frigöra från de begränsningar som dess konstruktörer - människorna - har.

Dessutom innebär den typ av brute force-datakraft som vi har nu sannolikt ett tak för AI-intelligens. Det finns dock lösningar på gång, t.ex. bioinspirerad AI-teknik utformade för att efterlikna strukturer som mänskliga nervceller.

Men det finns utmaningar som ligger bortom tekniken - hur kommer AGI att frigöra sig från sina skapares föreställningar?

Elon Musks oro för att AI ska programmeras för att vara "politiskt korrekt", uttryckt innan han presenterade sitt AI-företag, xAIspeglar en större konversation om inbyggda felaktigheter i AI-system

Musk har en blandad inställning till AI, där han både är försiktig och förespråkar dess potential. Han har blivit något av en kritiker av branschprotagonister som OpenAI, som han aktivt konfronterar med xAI:s produkter, med början med Grok. Grok struntar i politisk korrekthet och levererar svar som gränsar till anarkism. 

Under tiden har AI-modeller, som ChatGPT, fått upplevda "woke"-fördomar, vilket studier i viss mån har bekräftat genom att fastställa att de har liberal vänstervridning. Partiskhet kan vanligtvis spåras tillbaka till de data som en modell tränas på och avsikterna hos dess skapare.

Frågan är då: kan AGI, med sina avancerade kognitiva förmågor, övervinna de fördomar som har varit en stridsfråga i nuvarande AI-modeller? 

Sanningssökande AI

Musk lovade att skapa "sanningssökande AI" som är utformad för att ta reda på "vad fan som pågår". 

Musks uppdrag för xAI är att utforska grundläggande vetenskapliga gåtor som gravitation, mörk materia, Fermi-paradoxen och kanske till och med vår verklighets natur. Det kommer naturligtvis att kräva modeller långt bortom vad vi har tillgång till idag. 

Utifrån den lilla information vi har om xAI verkar Musk ha för avsikt att överskrida begränsningarna i dagens AI-arkitekturer, som i stort sett är begränsade till att generera resultat baserat på befintliga data.

Musk har för avsikt att skapa en AI som syntetiserar information och genererar banbrytande idéer. Denna strävan efter "sanning" i AI går bortom den konventionella förståelsen av AI som ett verktyg för att bearbeta information och vågar sig in i AI som en partner i vetenskapliga upptäckter och filosofisk utforskning.

Grok
xAI:s slogan är "Förstå universum"

Dagens AI-modeller, inklusive sofistikerade modeller som GPT-4, begränsas dock av de data som de har tränats på. De är utmärkta på mönsterigenkänning och informationssyntes, men kan inte konceptualisera eller teoretisera bortom sin programmering. 

Ett sådant språng mot former av AGI som kan gå i bräschen för sina idéer och starta sina egna undersökningar väcker kritiska frågor om intelligensens och medvetandets natur.

Om xAI skulle börja ge svar på några av de grundläggande frågorna om vår existens, skulle det kräva en omvärdering av vad det innebär att "veta" något. Det skulle sudda ut gränserna mellan mänsklig och artificiell förståelse, mellan kunskap som härrör från mänsklig erfarenhet och tanke och den som genereras av en artificiell enhet.

Ambitionen att skapa en AI som står över politiken och söker en objektiv "sanning" leder dessutom till etiska överväganden. Tanken på en opartisk AI är tilltalande, men den är också fylld av komplexitet. 

All AI, inklusive AGI, skapas i slutändan av människor och tränas på data som genererats av människor, åtminstone inledningsvis. 

Denna process medför i sig fördomar - inte bara i form av befintliga fördomar utan också i valet av vilka uppgifter som ska ingå och hur de ska tolkas. 

Idén om en AI som helt kan frigöra sig från dessa mänskliga fördomar och uppnå en rent objektiv förståelse är fortfarande djupt hypotetisk.

I framtiden kanske vi måste acceptera att AGI kommer att förstå mer än någon människa någonsin kan göra. 

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Sam Jeans

Sam är en vetenskaps- och teknikskribent som har arbetat i olika AI-startups. När han inte skriver läser han medicinska tidskrifter eller gräver igenom lådor med vinylskivor.

×

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar