Jag var i ett samtal med en ingenjör när hon läste ett stycke från en policy som brukade kännas okränkbar. Du hörde det suset – tystnaden som följer när ett löfte skrivs om i tysthet. Den tystnaden är marknaden som Anthropic just bytte ut mot en lösare spelbok.
En tisdagsmorgon landade ett blogginlägg – Anthropic skriver om sin Responsible Scaling Policy
Jag läste uppdateringen så att du slipper: företaget som en gång lovade att inte träna modeller som kan ”orsaka katastrofal skada” har luckrat upp språket och förskjutit sig mot offentligt deklarerade, icke-bindande säkerhetsmål. Jared Kaplan beskrev det som pragmatiskt: andra labb tävlar, så ensidiga röda linjer kan lämna Anthropic strandsatt. Du kan känna logiken: fortsätt träna eller ge efter.
Varför ändrade Anthropic sin Responsible Scaling Policy?
För att företaget säger att världen rörde sig snabbare än dess löfte. RSP, som först publicerades 2023, fungerade som en förtroendesignal – en identitet för kunder och tillsynsmyndigheter som ville ha en säkerhetsorienterad leverantör. Nu kallar Anthropic policyn ett ”levande dokument” och föredrar flexibla skyddsräcken som låter det iterera när modellens kapacitet utvecklas. Den förskjutningen läses som strategi blandat med resignation: säkerhetsretoriken kvarstår, men verkställbara stopp är borta.
Vid mitt skrivbord såg jag rubrikerna staplas upp – Pentagon och en offentlig konflikt
Tajmingen är skarp: Försvarsdepartementet uppmanade Anthropic att luckra upp vissa skyddsräcken eller riskera att stämplas som en risk i leveranskedjan, förlora kontrakt eller tvingas under Defense Production Act. Försvarsminister Pete Hegseth har varit frispråkig; pressrapporter tyder på att Pentagon pressade på undantag som skulle möjliggöra missilförsvarsautomatisering. Semafor rapporterade om ett utbyte i december om att använda modeller för att autonomt fånga upp inkommande missiler. Företaget säger offentligt att förhandlingarna är separata från policyns omskrivning, men du och jag vet båda att intrycket spelar roll.
Kan Pentagon tvinga AI-företag att luckra upp säkerhetsåtgärder?
Juridiskt sett ger Defense Production Act och kontraktsmekanismer den federala regeringen verktyg för att styra privata företag. Praktiskt taget är deklarationer om ”risk i leveranskedjan” och kontraktuppsägningar trubbiga instrument som snabbt omformar incitament. Anthropic står inför en ryktesbedömning: vägra och riskera affärsavbrott, eller följ och splittra det förtroende det byggt upp med säkerhetsmedvetna kunder och allmänheten.
I förhandlingar såg jag språket förändras – åtaganden gav vika för löften du inte kan verkställa
Anthropic kommer att fortsätta att publicera riskrapporter och sätta upp offentliga mål, men det har tagit bort fasta interna trösklar som en gång fungerade som stoppskyltar. Det spelar roll eftersom ett offentligt mål är ett mål utan tänder; en röd linje är verkställbar inom en organisation. Den nya formuleringen låter företaget svara på konkurrenstryck och Pentagon-förfrågningar utan att erkänna en vändning.
Kommer detta drag att leda till helt autonoma vapen?
Anthropic hävdar fortfarande två tydliga gränser: ingen massövervakning i landet och inga vapen som fungerar utan mänsklig inblandning. Men den rapporterade villigheten att göra undantag för missilförsvarsanvändningsfall – där en modell kan ge råd eller till och med utlösa avlyssningar under snäva förhållanden – tänjer på gränsen. Gränsen mellan assisterat försvar och autonom attack är hårfin; när du väl trimmar policyspråket minskar klyftan snabbt.
En fredagseftermiddag kommer investerare och partners att märka – förtroendemarknaden förskjuts
Jag vill att du ska föreställa dig företaget som sålde säkerhet som ett varumärke: intressenter köpte den identiteten. Nu behåller varumärket sloganen samtidigt som det luckrar upp garantin. För vissa köpare kommer den nya hållningen att kännas som självförsvar; för andra kommer det att lukta som kompromiss. Företaget hävdar att ensidig återhållsamhet inte är meningsfullt när konkurrenterna ”brinner framåt”, men att ersätta röda linjer med löften är ett vad om att marknaden kommer att övervaka beteendet.
Insatserna är mer än företagsstolthet. Regeringar, krigsplanerare och upphandlingsansvariga övervakar tekniska skyddsräcken för ledtrådar om hur en modell kan användas i en konflikt. TIME, Wall Street Journal, Semafor och Gizmodo har alla spårat utvecklingen från RSP till RSP-v3 och flaggat hur snabbt offentliga åtaganden kan urholkas under tryck. Du bör bry dig eftersom dessa drag formar hur system byggs och vem som får bestämma deras gränser.
Jag vill vara tydlig: detta är inte bara en policyjustering. Det är en strategisk vändning som byter en tydlig, verkställbar säkerhetsgräns mot operativ flexibilitet – två olika valutor av förtroende. Den första känns som en låst grind; den andra känns som en termostat som skruvas ner. Företaget kommer att säga att det fortfarande värdesätter säkerhet. Du måste fråga hur de kommer att bevisa det när kontrakt, hemligstämplade förfrågningar och nationella säkerhetstryck kolliderar.
Om Anthropic är villig att göra undantag för missilförsvar, kommer andra företag att följa efter? Om regeringstryck kan böja säkerhetslöften, vem håller linjen för allmänheten? Är vi bekväma med att företag håller säkerhetslöften bara tills Pentagon frågar annorlunda?
Stöd vårt arbete ❤️
Om du gillade den här artikeln, överväg att lämna dricks för att hjälpa oss fortsätta publicera bra innehåll.
