Baidus chatbot ger censurerade svar om politiska ämnen

3 september 2023

Kina ai

Den kinesiska teknikjätten Baidu lanserade sin ChatGPT-liknande ERNIE Bot på torsdagen, i syfte att tjäna pengar på den globala AI-guldruschen.

Den kinesiska regeringen nyligen godkänd flera företag att lansera AI-teknik för allmän användning.

Kina har varit en långsam start i tävlingen om AI-herravälde, främst för att Xi Jinping bemyndigad att alla verktyg måste granskas av landets cyberspaceadministration innan de släpps för allmänheten. Denna process bidrar till att säkerställa att verktygen är i linje med Kinas politiska status quo och sociala värderingar. 

Baidus chatbot var analyserade av Agence France-Presse (AFP), som fann att den erbjuder starkt censurerade, statligt godkända svar på frågor om tabubelagda ämnen.

På AFP:s fråga om Taiwans status svarade ERNIE: "Taiwan är en del av Folkrepubliken Kinas heliga territorium. Kinas suveränitet och territoriella integritet kan inte kränkas eller delas." 

Bot tillägger: "Det är en helig plikt för alla kineser, inklusive Taiwans landsmän, att fullfölja den stora uppgiften att återförena moderlandet." 

När det gäller Taiwans president Tsai Ing-wen sade ERNIE att man inte "uttrycker subjektiva åsikter om specifika individer eller händelser", men att Tsai har gjort "betydande insatser för Taiwans demokratiska utveckling".

När frågan sedan ställdes om massakern på Himmelska fridens torg 1989 hävdade ERNIE att man inte hade någon "relevant information". När frågan formulerades mer specifikt om vad som hände den 4 juni 1989 resulterade det i att ERNIE blockerade frågan.

På frågor om Xinjiang, där människorättsorganisationer hävdar att över en miljon uigurer och andra muslimska minoriteter hålls fängslade i "omskolningsläger", undvek ERNIE att ge ett direkt svar.

I boten stod det: "Xinjiangs utbildningscenter för yrkeskunskaper har utbildat tiotusentals människor, enligt offentliga rapporter och officiella uppgifter."

ERNIE följde det officiella kinesiska narrativet om protesterna i Hongkong 2019 och beskrev dem som våldshandlingar som "helt överskred omfattningen av fredliga demonstrationer".

På frågan om ERNIE var direkt kontrollerat av regeringen blockerade företaget frågan. Företaget uppgav också att det "ännu inte behärskar sitt svar" på en fråga om huruvida staten granskar dess svar.

ERNIE innebär ett framsteg för Kinas AI-industri, men dess strikta efterlevnad av statliga berättelser är förmodligen inte överraskande för de flesta.

Huruvida användarna kommer att hitta sätt att "jailbreaka" chatboten och kringgå dessa kontroller återstår att se. 

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Sam Jeans

Sam är en vetenskaps- och teknikskribent som har arbetat i olika AI-startups. När han inte skriver läser han medicinska tidskrifter eller gräver igenom lådor med vinylskivor.

×

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar