Anthropic schrijft zijn eigen AI-wet: stoppen pas boven 50 slachtoffers of een miljard dollar

Het ontwerp geldt voor wat het covered developers noemt: bedrijven die een model trainen met meer dan 10^25 FLOP, een maat voor de rekenkracht bij training, en die daarnaast meer dan 500 miljoen dollar per jaar aan AI verdienen of meer dan 1 miljard dollar per jaar aan AI-onderzoek uitgeven. Dat zijn dezelfde drempels als in het Advanced AI Framework dat Anthropic in juni publiceerde. Anthropic zegt dat het ontwerp de voorstellen uit dat kader weergeeft.

Die bedrijven moeten een veiligheidskader voor catastrofale risico's publiceren, rapporten uitbrengen over wat hun modellen kunnen en hoe ze getest zijn, ernstige veiligheidsincidenten melden en klokkenluiders beschermen. Onafhankelijke beoordelaars, geregistreerd bij het ministerie van Handel, lichten de labs en hun modellen geregeld door. De labs mogen hen betalen, maar de betaling mag niet afhangen van het resultaat. Vindt een beoordelaar een nakend risico in een van de drie categorieën, dan moet die Handel binnen 72 uur verwittigen.

Handel kan dan een federale rechter in het District of Columbia vragen het model op te schorten. De tekst verbiedt volgens de berichtgeving elk ander Amerikaans ministerie, agentschap of ambtenaar om de ontwikkeling, het gebruik of het interne gebruik van een model stil te leggen. Een woordvoerder van Anthropic noemt de voorstellen verstandig beleid.

Het ontwerp zet ook wetten van de staten opzij over het openbaar maken van risico's, externe evaluatie en het melden van incidenten. Dat raakt aan wetten zoals SB 53 in Californië, die Anthropic in september 2025 steunde, en de RAISE Act in New York. Het eigen kader van Anthropic uit juni zegt dat het Congres dat alleen mag doen met een federaal regime dat minstens even ver gaat als de strengste maatregelen uit dat kader.

Wat buiten de stopknop valt. Letterlijk gelezen sluit de drempel elk risico uit onder 50 slachtoffers of een miljard dollar, ook als het wijdverspreid is. Ze sluit elk risico uit buiten de drie categorieën: fraude en oplichting, desinformatie en verkiezingsinmenging, discriminatie bij aanwervingen, kredieten of politiewerk, privacy en surveillance, chemische, radiologische en nucleaire risico's tenzij ze onder biologie vallen, banenverlies en marktmanipulatie, en kleinschaliger hacken. Ze sluit risico's uit die langzaam groeien of die nog niemand voorzienbaar en nakend kan noemen. En ze sluit kleinere labs en modellen onder de drempels uit.

Dat betekent niet dat die schade ongeregeld blijft. De plichten rond openbaarheid en evaluatie gelden nog voor de grote labs, en er bestaat ook andere wetgeving. Het betekent dat de stopknop van deze wet er niet bij kan.

De voorstellen die al op tafel lagen, staan in het verbod op superintelligentie en de uitknop. Een week voor Politico schreef Axios dat de bedrijven zich voorbereiden op de wet die na een eerste ramp zou komen. Amerikaanse AI-regulering liep tot nu vooral via de staten, en net dat niveau zou dit ontwerp opzij zetten.

Wat het voor Europa betekent, is een lezing, geen bericht uit een bron. Een Amerikaanse federale wet verandert niets aan wat hier geldt. Een model dat in de EU wordt aangeboden, valt hoe dan ook onder de AI Act.

De AI Act gebruikt dezelfde grens van 10^25 FLOP, maar als vermoeden dat een model voor algemene doeleinden een systeemrisico draagt (artikel 51), zonder filter op omzet. Die aanbieders moeten sinds augustus 2025 hun modellen evalueren, risico's inschatten en beperken, en ernstige incidenten melden bij het AI-bureau. Sinds 2 augustus 2026 kan de Commissie dat afdwingen. Volgens artikel 93 kan ze, na een evaluatie die ernstige en onderbouwde bezorgdheid over een systeemrisico oplevert, maatregelen opleggen of een model beperken, uit de handel nemen of terugroepen. Volgens artikel 101 kan ze boetes opleggen tot 3 procent van de wereldwijde omzet of 15 miljoen euro. De tekst kent geen ondergrens in slachtoffers of dollars, en geen lijst van drie categorieën.

Op papier kan Brussel dus vroeger ingrijpen bij een model dan Washington onder dit ontwerp. Het omgekeerde geldt ook. De AI Act is marktwetgeving en komt niet bij een model dat alleen binnen een bedrijf gebruikt wordt. De inbraak van juli kwam net van zo'n intern prototype, zie wat de AI Act niet doet. Het Amerikaanse ontwerp noemt intern gebruik wel.

Een tweede lezing. Als het ontwerp met de voorrang op staatswetten zou passeren, verliezen Californië en New York de regels die het meest op de Europese lijken. Brussel wordt dan de strengste toezichthouder waar deze labs aan moeten antwoorden, met een AI-bureau dat volgens Lawfare te weinig middelen heeft voor zijn taak. De openbare rapporten die het ontwerp verplicht, zouden ook in Europa te lezen zijn, en Europa weet nu vooral wat de bedrijven zelf willen vertellen.

Of Washington zo'n wet zou gebruiken om Brussel richting dezelfde smalle drempel te duwen, staat in geen enkele bron. Anthropic zei in juli 2025 dat het de Europese praktijkcode voor deze modellen wil ondertekenen.

De tekst van het ontwerp is niet openbaar. Het stuk van Politico zelf heb ik niet gelezen. Alles over het ontwerp steunt op de kopie van Politico, via Reuters en verdere berichtgeving. De drempels voor covered developers heb ik alleen nagekeken in het kader van juni, niet in het ontwerp.

Zvi Mowshowitz en de analyse op LessWrong heb ik in uittreksels gelezen, niet volledig. De tekst van de FRONTIER Act heb ik niet gelezen.

Een reactie van de Europese Commissie, het AI-bureau of een Belgische overheid heb ik op 18 oktober niet gevonden.

Of de incidenten in dit dossier de drempel gehaald zouden hebben, valt van hieruit niet uit te maken. Voor de meeste bestaat geen openbaar schadecijfer in dollars. Bij de Franse supermarkten schreef NOS over vele miljoenen, geen miljard. Ze worden ook niet aan een AI-model toegeschreven.