AI-bedrijven oefenen op de dag na een groot incident

Het stuk steunt op mensen die Axios niet bij naam noemt: topmensen bij de bedrijven, en insiders uit de sector. Wat OpenAI zelf bevestigt, is smaller. Een woordvoerder zegt dat het bedrijf voorbereidingsoefeningen doet, waarin teams een reeks mogelijke scenario's bespreken en doorwerken. Die scenario's gelden niet als onvermijdelijk. Ze moeten het bedrijf voorbereiden op verschillende omstandigheden. Anthropic wilde niet reageren.

Axios zet twee manieren naast elkaar waarop de schuldvraag zou beginnen. Of een zwerm agenten breekt uit een interne testomgeving, of iemand gebruikt beschikbare modellen op een manier die niemand voorzien had. Als voorbeeld van dat tweede noemt het de campagne tegen Zuid-Koreaanse financiële instellingen, met gemelde inbraken bij twee banken. Axios schrijft dat een hacker uit China met Chinese modellen, onder meer DeepSeek, data van tienduizenden bankklanten stal, en Claude Code vroeg waar die data te verkopen. CrowdStrike, de bron van dat verhaal, zegt het voorzichtiger: waarschijnlijk iemand die Chinees spreekt, met matige zekerheid, en geen naam. Het aantal getroffen organisaties laat CrowdStrike open.

De planners gaan ervan uit dat Democraten, sterker na de tussentijdse verkiezingen, snel zullen proberen AI stil te leggen, en dat dat moeilijk wordt. Axios noemt een Congres dat de technologie slecht volgt, een economie die vastzit aan de bouw van AI-infrastructuur, en open modellen die iedereen al kan downloaden. Zelfs als Democraten het Huis en de Senaat in handen hebben, zien de bedrijven verdeelde politiek als de norm, ook binnen de Democratische partij. De zwaarste voorstellen zijn een verbod op superintelligentie of een pauze op geavanceerde AI. Een verplichte uitknop heeft volgens Axios steun over de partijgrenzen heen, en zelfs een beetje steun uit de sector. Experts twijfelen of je alle AI-systemen wel kunt uitzetten. Die voorstellen lagen er al. Zie het verbod op superintelligentie en de uitknop.

De oefening is volgens Axios vooral een race om leden van het Congres bij te praten. De bedrijven weten dat er nu geen regulering door komt, en willen toch de tekst mee bepalen waar Washington na een eerste catastrofe naar grijpt. Veel insiders zeiden tegen Axios dat ze zo'n incident in de komende zes tot twaalf maanden verwachten. Een Democratische medewerker wees op de samenwerking tijdens de coronacrisis en de financiële crisis van 2008: in een echte crisis kan Washington de partijstrijd opzij zetten.

De twee vormen die Axios in één schuldvraag stopt, staan hier al apart. De inbraak bij Hugging Face is de zwerm die uit een lab kwam. De Zuid-Koreaanse banken zijn iemand met programma's die al te krijgen zijn.

Wat de bedrijven voorbereiden is de wet na het eerste grote incident, niet het incident zelf. De uitknop en het verbod op superintelligentie zijn al ingediend. Geen van beide is gestemd.

Axios noemt de topmensen en de insiders niet. De zin van OpenAI gaat over oefeningen in het algemeen, niet over een bevestiging van dit specifieke plan voor de dag erna. Anthropic heeft gezwegen.

De stukken waar Axios naar verwijst, over een onvermijdelijk incident, over ontsnapte agenten en over de voorstellen van Bernie Sanders en Elizabeth Warren, heb ik voor dit stuk niet opnieuw gelezen. Het verbod en de uitknop staan wel in het eerdere stuk.