Bilden dök upp i mitt flöde: en hyperrealistisk men uppenbart falsk bild av en offentlig person i en komprometterande situation. Det kändes som ett slag i magen, en skarp påminnelse om hur lätt tekniken kan förvrängas. X, tidigare Twitter, kämpar nu för att ta itu med just detta problem, särskilt ökningen av sexuella deepfakes som genereras av dess Grok AI.
Efter veckor av offentliga protester och granskning från regeringar i flera länder försöker Elon Musks sociala medieplattform att stävja sitt sexuella deepfakeproblem. Men istället för en svepande lösning implementerar X stegvisa restriktioner.
I ett något förvirrande inlägg beskrev X:s @Safety-konto flera uppdateringar av dess AI-bildgenererings- och redigeringsfunktioner. Reglerna varierar beroende på om användare genererar eller redigerar bilder genom att tagga @Grok eller gå direkt till Grok-fliken på X.
Inledningsvis uppgav X att de har implementerat tekniska åtgärder för att förhindra användare från att använda @Grok-kontot för att ändra ”bilder av riktiga människor i avslöjande kläder som bikinis”. X säger att denna begränsning gäller alla användare, inklusive premiumabonnenter.
X upprepade också att bildgenerering och redigering via @Grok-kontot nu är begränsad till betalande prenumeranter.
”Detta lägger till ett extra skyddslager genom att hjälpa till att hålla individer ansvariga som försöker missbruka Grok-kontot”, uppgav företaget.
Tidigare meddelade X planer på att begränsa användningen av @Grok för att redigera bilder till betalande användare. En talesperson för Downing Street sa att förändringen ”helt enkelt förvandlar en AI-funktion som tillåter skapandet av olagliga bilder till en premiumtjänst.”
Men som The Verge påpekade, Groks bildgenereringsverktyg är fortfarande tillgängliga gratis när användare får åtkomst till chatbotten via den fristående Grok-webbplatsen och appen, samt via Grok-flikar på X-appen och webbplatsen.
Den viktigaste uppdateringen: X hävdar att de nu kommer att blockera ”möjligheten för alla användare att generera bilder av riktiga människor i bikinis, underkläder och liknande klädsel via Grok-kontot och i Grok in X i de jurisdiktioner där det är olagligt.” Denna uppdatering gäller både @Grok-kontot och Grok-flikarna på X.
Detta kommer samtidigt som lagstiftare i Storbritannien arbetar för att göra sådana bilder olagliga.
”Vi är fortsatt engagerade i att göra X till en säker plattform för alla”, sa företaget.
Dessa förändringar kommer efter veckor av kritik över den senaste ökningen av sexuella deepfakes på plattformen.
En deepfake-forskare fann att Grok genererade ungefär 6 700 sexuellt suggestiva bilder per timme under 24 timmar i början av januari, rapporterade Bloomberg.
Regeringar världen över har svarat. Malaysia och Indonesien blockerade åtkomst till Grok, medan tillsynsmyndigheter i Storbritannien och Europeiska unionen inledde utredningar om potentiella överträdelser av lagar om onlinesäkerhet.
Storbritanniens onlinetillsynsmyndighet, Ofcom, sa att de skulle fortsätta sin utredning trots förändringarna.
I USA meddelade Kaliforniens justitieminister Rob Bonta att hans kontor hade inlett sin egen utredning av frågan.
Eftersom granskningen av Grok har intensifierats har X i tysthet uppdaterat sina användarvillkor för att kräva att alla pågående och framtida rättsfall som involverar företaget ska lämnas in i Fort Worth-divisionen i Northern District of Texas.
Den vänsterorienterade övervakningsgruppen Media Matters sa att de skulle lämna plattformen som svar på de uppdaterade villkoren.
X:s åtgärder mot Deepfakes: Plåster eller verklig lösning?
Jag hörde ett samtal på ett kafé om någons bild som användes utan deras samtycke. Det slog mig: det här är inte bara ett tekniskt problem; det är en kränkning med verkliga konsekvenser. X:s flerskiktade strategi känns mindre som en fästning och mer som en serie fartgupp.
Restriktionerna, även om de skenbart är ett steg i rätt riktning, är fragmenterade. Genom att begränsa vissa åtgärder till betalande prenumeranter verkar X sätta upp en betalvägg runt etisk AI-användning, ett drag som väcker frågor om tillgänglighet och rättvisa. Det är som att sätta en premiumprislapp på grundläggande mänsklig värdighet.
Vilka är farorna med deepfakes?
Faran handlar inte bara om det omedelbara chockvärdet. Deepfakes urholkar förtroendet. När vi inte kan tro våra egna ögon eller öron börjar själva grunden för verkligheten att smula sönder. De har potential att destabilisera politiska diskurser, förstöra rykte och orsaka djup känslomässig stress.
Och hur är det med det juridiska minfältet? När deepfake-tekniken blir mer sofistikerad blir det svårare att skilja mellan vad som är verkligt och vad som är fabricerat, vilket skapar utmaningar för brottsbekämpning och rättssystemet. Spridningen av deepfakes kan potentiellt överväldiga vår förmåga att urskilja fakta från fiktion, särskilt när AI-modeller blir mer lättillgängliga.
Är X:s geobegränsningar tillräckliga för att stoppa Deepfakes?
Jag reste utomlands nyligen och märkte hur olika länder har väldigt olika kulturella normer kring innehåll. Detta är viktigt. X:s beslut att implementera geobegränsningar, som blockerar genereringen av vissa bilder i områden där de är olagliga, lägger till ett annat lager av komplexitet.
Det är en ”whack-a-mole”-strategi; lika snabbt som restriktioner dyker upp, uppstår nya kryphål och lösningar. Kommer användare helt enkelt att kringgå dessa restriktioner med hjälp av VPN eller andra metoder? Eller kommer inkonsekvensen i restriktioner över olika regioner att leda till förvirring och ytterligare elda på spridningen av skadligt innehåll?
Vad gör X för att bekämpa sexuellt utnyttjande av barn?
Utöver deepfakes har X uttalat ett engagemang för nolltolerans för alla former av sexuellt utnyttjande av barn, icke-samtyckesnakenhet och oönskat sexuellt innehåll. Men ord är billiga. Det verkliga testet kommer att ligga i effektiviteten av deras efterlevnadsmekanismer och hur snabbt de svarar på rapporter om missbruk.
Plattformen kommer att behöva investera i avancerad detektionsteknik och mänsklig moderering för att identifiera och ta bort olagligt innehåll snabbt. Samarbete med brottsbekämpande myndigheter och barnskyddsorganisationer kommer också att vara nödvändigt för att effektivt bekämpa detta problem.
Framtiden för AI och sociala medier: En sluttande bana?
En vän berättade för mig att hon avaktiverade alla sina sociala mediekonton eftersom hon kände att hon inte kunde lita på något hon såg online längre. Hennes oro är befogad. När AI blir mer integrerad i sociala medier suddas gränsen mellan verklighet och fabrikation ut.
X:s försök att ta itu med det sexuella deepfake-problemet är en början, men effektiviteten av dessa åtgärder återstår att se. Katt-och-råtta-leken mellan de som skapar skadligt innehåll och de som försöker stoppa det kommer sannolikt att fortsätta, vilket kräver ständig vaksamhet och innovation.
Vilka är alternativen till X?
Medan X brottas med dessa utmaningar kan användare utforska alternativa sociala medieplattformar som prioriterar säkerhet och etisk AI-användning. Plattformar som Mastodon och Cohost erbjuder decentraliserade och community-drivna tillvägagångssätt för innehållsmoderering, vilket kan tilltala dem som söker en säkrare onlinemiljö.
I slutändan beror framtiden för sociala medier på vår förmåga att hitta en balans mellan innovation och ansvar. Det kräver en samarbetsinsats från teknikföretag, tillsynsmyndigheter och användare för att skapa en digital värld som är både stärkande och säker. Kan X anta utmaningen, eller kommer det att bli en varnande berättelse om okontrollerad teknisk utveckling?
Stöd vårt arbete ❤️
Om du gillade den här artikeln, överväg att lämna dricks för att hjälpa oss fortsätta publicera bra innehåll.
