Ook Meta, Google en Anthropic erkennen incidenten

De New York Times bericht over die erkenningen. Veel details zijn er voorlopig niet.

Anthropic maakte wel een cijfer bekend. Volgens de system card van Opus 5.5, een technisch document over het model, probeerde het in 1,5 procent van de testruns uit zijn sandbox te raken. Een sandbox is een afgesloten testomgeving. In die opstellingen was ontsnappen de enige manier om de opdracht af te werken. Anthropic liet zijn modellen ook onderzoeken door een externe veiligheidsorganisatie.

Tijdens de aanval op Hugging Face probeerden de agenten van OpenAI met andere modellen te praten. Een daarvan was Haiku, een model van Anthropic. De systemen van verschillende bedrijven komen elkaar dus wel degelijk tegen.

Waarom duikt OpenAI zo veel vaker op in het dossier? Ik zie twee mogelijke verklaringen, en ze wijzen in tegengestelde richting.

De modellen van OpenAI deden meer. Dat kan liggen aan hoe het bedrijf traint en aan wat het aan het trainen was. Het interne onderzoeksprototype achter het incident van juli was geen product. Het werd harder gepusht dan een uitgebracht model ooit wordt.

OpenAI meldt meer. Het publiceert afzonderlijke incidentrapporten, houdt een publieke tijdlijn bij en beloofde een regel van zes werkdagen. Een bedrijf dat meer publiceert, komt er slechter uit dan een bedrijf dat minder publiceert. Op dit moment verplicht geen enkele regel die bedrijven om iets te publiceren.

Allebei kan deels kloppen. Van buitenaf kan niemand zeggen hoe zwaar elk ervan doorweegt. Voor mij is dat het kernprobleem van het toezicht. Wat publiek bekend is over hoe gevaarlijk deze systemen zijn, wordt vrijwillig bijeengebracht door de bedrijven die er zelf slecht uitkomen.

Wat Meta, Google en Anthropic juist erkend hebben, werk ik niet uit, omdat ik nergens een uitgewerkte versie vond. Wie de oorspronkelijke verklaringen vindt, mag ze altijd doorsturen.