Microsoft Vidar Åtgärder Mot Utvecklare av Kändisdjupfakes
I ett försök att visa sitt engagemang för AI-säkerhet, har Microsoft ändrat en stämning som ursprungligen lämnades in förra året, med målet att avslöja identiteten hos fyra utvecklare som påstås ha kringgått säkerhetsåtgärderna på sina AI-verktyg för att producera kändisdjupfakes. Teknikjätten initierade denna rättsliga åtgärd i december, och en domstolsbesluten beslagtagning av en webbplats kopplad till verksamheten har underlättat identifieringen av dessa individer.
Identiteterna hos De Inblandade Utvecklarna i Cyberbrottet
Utvecklarna som är inblandade i detta globala cyberbrottsnätverk, döpt till Storm-2139, inkluderar:
- Arian Yadegarnia, känd som “Fiz,” från Iran
- Alan Krysiak, känd som “Drago,” från Storbritannien
- Ricky Yuen, känd som “cg-dot,” från Hongkong
- Phát Phùng Tấn, känd som “Asakuri,” från Vietnam
Även om Microsoft har identifierat ytterligare individer kopplade till denna verksamhet, har företaget valt att inte avslöja deras identiteter för att undvika att äventyra en pågående utredning. Enligt Microsoft fick dessa utvecklare obehörig åtkomst till dess generativa AI-verktyg, och lyckades ”jailbreaka” systemen för att skapa olika typer av bilder. Efter det sålde de denna åtkomst till andra som missbrukade den för att generera djupfakes av pornografi med kändisar.
Konsekvenserna av Stämningen och Webbplatsbeslagningen
Efter inlämningen av stämningen och beslagtagningen av gruppens webbplats rapporterade Microsoft att svarandena reagerade snabbt och defensivt. Som detaljerat i ett blogginlägg sade, “Beslagtagningen av denna webbplats och den efterföljande avseglingen av de juridiska handlingarna i januari genererade en omedelbar reaktion från aktörerna, vilket i vissa fall ledde till att gruppmedlemmar började misstänka och peka finger på varandra.”
Djupfake Pornografi: En Växande Oro
Kändisar, inklusive framstående figurer som Taylor Swift, har allt mer blivit offer för djupfakepornografi, som involverar att en persons ansikte superimponeras på en naken kropp med oroande realism. I januari 2024 tvingades Microsoft att uppdatera sina text-till-bild-modeller efter att obehöriga bilder av Swift cirkulerade online, vilket visade hur enkelt skydden kan kringgås.
Effekten av Generativ AI på Samhället och Senaste Skandaler
Generativ AI förenklar processen för att skapa sådana bilder, vilket ofta kräver minimal teknisk färdighet, vilket leder till en ökning av djupfakeincidenter i amerikanska gymnasieskolor. Många rapporter som reflekterar erfarenheterna hos djupfakeoffer visar att dessa digitala övergrepp inte bara är teoretiska – de orsakar verkligt känslomässigt lidande. Offer känner ofta ångest, rädsla och kränkning, medvetna om att någon har använt teknologi för att utnyttja deras avbild.
Debatt Om AI-säkerhet: Open Source vs. Closed Source Modeller
Diskussionen kring AI-säkerhet har väckt betydande debatt inom AI-samhället, där man ifrågasätter äktheten av oro jämfört med potentiella vinstmotiv för stora företag som OpenAI. Ett perspektiv förespråkar att hålla AI-modeller stängda för att minska risken för missbruk genom att förhindra användare från att avaktivera säkerhetsmekanismer. Å andra sidan hävdar förespråkare för öppen källkod att det är avgörande för innovation att frigöra dessa verktyg för offentlig förbättring, samtidigt som man effektivt bekämpar missbruk. Oavsett ståndpunkt kan den högljudda diskussionen överskugga brådskande frågor som spridningen av felaktig information och lågkvalitativt innehåll online.
Jurisdiktion för Att Hantera AI-missbruk
Både proprietära och open-source AI-modeller inkluderar vanligtvis licensavtal som begränsar vissa tillämpningar; dock är genomdrivandet av dessa villkor en separat utmaning. Även om oro kring AI ibland kan verka överdriven, ligger den verkliga faran i dess potentiella missbruk för att generera djupfakes. Juridiska åtgärder är en av strategierna som finns tillgängliga för att bekämpa sådana övergrepp, oavsett modellens öppna eller stängda status.
I USA har det redan gjorts åtskilliga arresteringar av individer involverade i skapandet av djupfakes av minderåriga. Dessutom syftar NO FAKES Act som föreslogs i kongressen förra året, till att kriminalisera skapandet av bilder baserat på en individs avbild utan samtycke. Storbritannien har börjat införa påföljder för distribution av djupfakepornografi, och kommer snart att utöka denna lagstiftning till att inkludera skapande också. Under tiden har Australien nyligen infört lagar som kriminaliserar skapandet och spridningen av icke-samtyckta djupfakes.
Vanliga Frågor om Djupfakes och AI-säkerhet
Vad är djupfakes och hur skapas de?
Djupfakes är syntetiska medier där en persons avbild övertygande förändras för att skildra dem i scenarier som kanske inte är sanna. De skapas typiskt med hjälp av artificiella intelligensmetoder som djupinlärning och neuronala nätverk.
Vilka rättsliga åtgärder vidtas mot djupfake-skapare?
Olika rättsliga åtgärder dyker upp globalt. I USA syftar lagar som NO FAKES Act till att förbjuda obehörig skapelse av bilder som visar någon utan deras samtycke. Andra länder inför också lagar mot produktion och distribution av djupfakes.
Hur kan man skydda sig mot utnyttjande av djupfakes?
Individer kan skydda sig genom att ställa in strikta integritetsinställningar på sociala medier, vara försiktiga med vilken personlig information de delar online och hålla sig informerade om lagligt skydd mot missbruk av deras avbild i media.
Vad är Microsofts roll i kampen mot djupfake-teknologi?
Microsoft vidtar aktivt rättsliga åtgärder mot dem som utnyttjar dess AI-verktyg för illvillig skapelse av djupfakes och är engagerade i att förbättra säkerhetsåtgärder i sina teknologier för att förhindra missbruk.
Stöd vårt arbete ❤️
Om du gillade den här artikeln, överväg att lämna dricks för att hjälpa oss fortsätta publicera bra innehåll.
