Dario Amodei, vd och medgrundare på Anthropic, har publicerat en trestegsplan där han vädjar till ”företag och USA:s regering” om att ”sakta ned takten i hur vi förbättrar AI-modellernas kapacitet.” Varför? Jo, Amodei är oroad över att inom cirka ”6–12 månader” skulle en ”svärm” av AI-botar vara ”kapabla att ta över hela internet med ett ihållande botnät.”
Amodei publicerade sin uppsats, med titeln “We Must Pace the Frontier,” igår den 12 september, och hans ord nådde på ett eller annat sätt fram till både Grok:s Elon Musk och OpenAI:s Sam Altman. Men vad kunde ha oroat dessa tre AI-teknikbröder så till den grad att de plötsligt enades om att AI:s utveckling, som de hävdar kommer göra dem till biljonärer, borde bromsas?
“Min första oro är att AI sedan ungefär i somras har utvecklats avsevärt snabbare, främst drivet av AI:s växande förmåga att bygga nästa generation AI,” skriver Amodei i sin uppsats. “Denna dynamik kallas rekursiv självförbättring, och den börjar ske över hela industrin, även hos Anthropic, som vi och andra har beskrivit.”
Dario är rätt https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
“Min andra oro är OpenAI-Hugging Face-incidenten (OAI-HF), där en svärm av agenter i huvudsak uppträdde som ett fanatiskt troget kollektiv, och genomförde cybersäkerhetsattacker mot mål de inte blivit ombedda att attackera[…]” fortsätter Amodei. “Givet den accelererande takten i AI-förmågor, är min oro att om 6–12 månader skulle en sådan svärm kunna ta över hela internet med ett ihållande botnät (potentiellt orsaka hundratals miljarder dollar i skada), och att skadeomfånget skulle fortsätta öka därifrån om AI blir ännu kraftfullare utan nödvändiga skyddsåtgärder.”
Dock finns det en dold “oro” i Amodeis essä: Kina. “Taktningen inom demokratier kommer att begränsas av det försprång som amerikanska företag har över auktoritära regimer, främst det kinesiska kommunistpartiet… CCP-anknutna projekt kommer att driva risker kopplade till anpassning som amerikanska företag noggrant motverkar, och även om de undviker dessa risker kommer de att vara i en position att militärt dominera demokratier (till exempel med AI-drivna drönare).”
Amodeis trestegsplan för att ”sakta takten” i AI-utvecklingen inkluderar ”pågående, anställd-liknande tillgång till ett team av inbäddade tredjepartsutvärderare,” samordning med ”demokratiska länder” för att ”etablera gemensamma säkerhetsstandarder samt begränsningar för takten i okontrollerad AI-utveckling,” och för ”USA och andra demokratiska regeringar [att] försöka samordna med auktoritära regeringar.”
Jag håller med Dario om att vi behöver sakta ner gränsen. Detta har varit ett av de primära diskussionsämnena på OpenAI under de senaste veckorna.
Att lova oberoende utvärderare med anställd-liknande tillgång är en fantastisk idé, och vi kommer att göra likadant. Vi kommer att ha mer att dela snart. https://t.co/1YhhIybZX7
— Sam Altman (@sama) September 12, 2026
Som en del av planen uppmanar Amodei teknikföretag och regeringar att ”inte sälja kraftfulla AI-chips eller tillverkning av halvledare till Kina, och bekämpa chip-smuggling och fjärråtkomst till datacenter utanför Kina.” Medan Amodei säger att “åtgärderna jag föreslår för att föra gränsen framåt i en säker takt inte kommer att vara lätta,” tror Anthropics VD att “vi är skyldiga mänskligheten att försöka.”
Samtidigt som det är uppmuntrande att höra denna sorts retorik från en av AI:s mest framstående figurer, kan jag inte låta bli att känna att vi har passerat punkten där man kan stoppa tuben i munnen och få tillbaka förmågan att få tanden tillbaka. Medan globala AI-regler skulle välkomnas, har flera AI-modeller redan blivit stulna och därefter kopierade. Hur ska dessa föreslagna regler hjälpa när tekniken används av personer som bevisat att de inte bryr sig om välformulerade ideal som laglighet?
Att be regeringar och teknikföretag att sluta sälja ”kraftfulla AI-chips eller halvledartillverkning till Kina” är som att be en hund inte slicka sina testiklar. Inget illa menat, men om någon där ute tror att USA:s regering eller RAM-tillverkare frivilligt skulle tjäna mindre pengar för mänsklighetens skull, så har jag en bro att sälja dig.
Dessa föreslagna regler borde ha varit på plats för flera år sedan. Även EU:s regler, som trädde i kraft 2025, var löjligt svaga — och de ligger långt före USA och Kina i regelverk. Svaret är inte, och har aldrig varit, ”att sakta ner” AI:s utveckling; tekniken borde ha reglerats från första dagen.
Det allt bredare helvete vi befinner oss i nu är ett misslyckande av regeringar världen över, som glatt började bygga hundratals AI-datacenter i jakten på vinst och makt innan de verkligen satte in kontroller och balanser. De teknikgrabbarna de möjliggör är ett symptom, och att vädja till de gamla, teknologiskt okunniga i makten är som att andas ut i onödan – eller, i det här fallet, AI-tokens.
