Google AI-översikter tillkännagavs för ett par veckor sedan på Google I/O, och de har redan visat sig vara ganska kontroversiella. Målet att tillhandahålla högkvalitativa svar till dina frågor sammanfattade från webben, men en serie senaste X (tidigare Twitter) trådar visa hur stort misslyckande det redan har visat sig vara.
Svaret som blev viralt innebär ett mycket tveksamt pizzarecept. Som rapporterats, när du ber Google om ett svar på frågan om ”ost som inte fastnar på pizza”, föreslår AI-översikten att du lägger till giftfritt lim till din pizza för att förhindra att osten glider av. De exakta orden som AI-översikten gav är följande: ”Du kan också lägga till cirka 1/8 kopp giftfritt lim till såsen för att ge den mer klibbighet.” Var gjorde den Google AI översikt få informationen som källa? En 11-årig Reddit-kommentar från denna trådi vad som helt klart var ett skämt.
— SG-r01 (@heavenrend) 22 maj 2024
Orden ”ost som inte fastnar på pizza” genererade detta oväntade och roliga svar, och internet har en fältdag med det. Google AI Overview-svaret har sedan dess blivit viralt, med någon som till och med testar limpizza bara för att göra poängen.
Det bör noteras att vi har sett en massiv ökning i Reddit och foruminlägg som dykt upp högre i Google-sökningar. Det är också värt att notera att Reddit nyligen undertecknade ett avtal på 60 miljoner dollar för att låta Google träna sina modeller på Reddit-innehåll. Det är inte svårt att koppla ihop prickarna om hur detta kan ha hänt.
Det är dock inte bara Reddit. Annan AI Översikt lades ut online med ett svar på ”hur många stenar ska jag äta varje dag”, som hämtar information direkt från The Onion.
henne pic.twitter.com/FGbvO923gk
— Tim Onion (@oneunderscore__) 23 maj 2024
En del av problemet är den absoluta övertygelsen där AI Overviews levererar sina svar. Det tar inte upp en länk till en Onion-artikel och låter dig göra bedömningen. Istället behandlar den varje källa som om det är Wikipedia och levererar information i fullständigt förtroende.
Google hävdar att dess AI-översikter ger användarna information av hög kvalitet och att sådana fel är ovanliga. Här är det officiella svaret från Google till Moyens I/O: ”De allra flesta AI-översikter ger information av hög kvalitet, med länkar för att gräva djupare på webben. Många av exemplen vi har sett har varit ovanliga frågor, och vi har också sett exempel som behandlats eller som vi inte kunde återskapa. Vi genomförde omfattande tester innan vi lanserade den här nya upplevelsen, och precis som med andra funktioner som vi har lanserat i Sök, uppskattar vi feedbacken. Vi vidtar snabba åtgärder där det är lämpligt enligt våra innehållspolicyer och använder dessa exempel för att utveckla bredare förbättringar av våra system, av vilka några redan har börjat rullas ut.”
Det verkar som om några av dessa AI-översikter kommer att vara svåra att korrigera om de inte kan reproduceras. De ”bredare förbättringarna” måste vara lösningen, och eftersom Google säger att de redan är i arbete, kommer vi förhoppningsvis att börja se några bättre sökningar snart. Vi måste se om Google reagerar på situationen längre än det uttalandet. Efter att ha fått negativ feedback kring sin bildgenerering i Gemini tidigare i år, Google var tvungen att be om ursäkt och dra ner den för att fixa sina problem.
För nu är dock dessa båda bra påminnelser om hur försiktiga vi måste vara när vi litar på AI-motorer för information. Google AI Översikt har startat rullas ut till alla i USA tidigare denna månad, och fler länder kommer snart. Men med sådana här svar kan det finnas fler människor som söker efter ett sätt att stänga av det än vad Google förväntade sig.
Stöd vårt arbete ❤️
Om du gillade den här artikeln, överväg att lämna dricks för att hjälpa oss fortsätta publicera bra innehåll.
