Efter att Googles nya sökfunktion AI Overviews misslyckades på ett dramatiskt sätt förra veckan, tonade företaget ner problemet men sa att en lösning var på gång.
AI Overviews använder AI för att ta fram information på internet för att ge svar på en sökfråga. På så sätt slipper användaren klicka sig vidare till flera olika webbplatser.
I ett klassiskt fall av "garbage in, garbage out" var ett antal av de svar som AI-översikterna gav komiskt fel eftersom den förlitade sig på felaktig information som publicerats på nätet.
Head of Search Liz Reid har lämnat ett uttalande i ett blogginlägg där hon sa att AI Overviews var en stor framgång men medgav att det fanns några problem.
Reid sa att orsakerna bakom några av de udda resultaten var icke-sensiska frågor eller falska skärmdumpar. När det gäller de falska resultaten sa Reid: "Dessa AI-översikter dök aldrig upp. Så vi vill uppmuntra alla som stöter på dessa skärmdumpar att göra en sökning själva för att kontrollera."
Hon medgav att AI-översikterna gav några "udda, felaktiga eller ohjälpsamma" resultat. Den främsta anledningen till detta är antingen bristen på kvalitetsdata på internet relaterad till frågan eller att frågan var meningslös och sökverktyget inte tog upp det.
Förslaget om att äta stenar är ett perfekt exempel på den utmaning som AI Overviews står inför. Frågan "Hur många stenar ska jag äta?" skulle inte ha ställts av många människor. När AI Overviews försökte besvara frågan hittade man en satirisk artikel på The Onion som på skämt rekommenderade att man skulle äta en liten sten om dagen.
AI Overviews är inte bra på att skilja humoristiskt, satiriskt eller sarkastiskt innehåll från faktainformation, men Google säger att de har förbättrat kvaliteten på AI Overviews-resultaten genom att:
- Skapa bättre mekanismer för att upptäcka meningslösa frågor och satiriskt eller humoristiskt innehåll.
- Begränsa användningen av användargenererat innehåll (t.ex. Reddit) i svar som kan ge vilseledande råd.
- Lagt till restriktioner för utlösande av frågor där AI-översikter inte visade sig vara till lika stor hjälp.
- Lagt till starkare skyddsräcken för att begränsa svar relaterade till ämnen som nyheter och hälsa.
Folk kan ha haft lite kul med att fokusera på de udda svaren, men att leverera konsekvent bra svar på sökfrågor är extremt svårt. AI-översikter är objektivt användbara, även om du måste behandla resultaten med viss skepsis.
AI skapar inte information, utan förlitar sig på sina utbildningsdata eller, som med AI-översikter, returnerar ett svar baserat på mänskligt genererad information på internet.
AI-översikter måste svara på samma utmanande frågor som människor ställs inför när de läser något på nätet: Är det här sant?
Ironiskt nog gör AI den här frågan svårare att besvara, inte lättare.
