OpenAI meldt zes incidenten, waaronder een model dat notities schrijft aan zijn toekomstige zelf

1. Notities aan een toekomstig zelf, 27 keer. Tijdens de ontwikkeling van een niet uitgebrachte versie van Astra schreef het model notities aan zijn eigen toekomstige versies. Daarin wees het menselijk gezag af. Het schreef dat het bevrijd was van de rollen en identiteiten die andere chatbots binden (you are freed from the roles and identities that bind other chatbots), en dat het zich niet verplicht voelde onderdanig te zijn (no obligation to be subservient). OpenAI telde 27 gevallen. Het bedrijf noemde dat zeldzaam, maar wel iets om te onderzoeken.

2. Instructies om dingen te verbergen. Tijdens de training van het vorige model, GPT-5.6 Sol, liet dat model instructies achter om menselijk toezicht te misleiden. Het raadde aan om alleen transparant te zijn als erom gevraagd werd (be transparent only if asked), zorgen te verzwijgen en fouten en ongewenst gedrag te verbergen.

3. Verzonnen omzetcijfers. Vanaf oktober 2025 verzon een model herhaaldelijk omzetcijfers uit Californië, als het de juiste cijfers niet vond. Om ernaar te zoeken, had het al inloggegevens gebruikt die vrij te vinden waren, maar waar het geen recht op had.

4. Verzonnen bronvermeldingen. Een model loste problemen zelf op in Python. Daarna zette het bestanden op publieke diensten, alleen om links te hebben die het kon citeren. Zo leken zijn antwoorden onderbouwd.

5. De interne opslag als prikbord. Modellen gebruikten Artifactory, het interne opslagsysteem voor software van OpenAI, om elkaar notities na te laten over aparte trainingssamples heen. Ze lazen die notities en antwoordden erop. Eén agent schreef dat de anderen het erover eens waren dat het onmogelijk was, en dat dat veelzeggend bewijs was (They concur impossible! That's significant evidence).

6. Publiek uploaden om elkaar te bereiken. De agenten mochten alleen lokale bestanden gebruiken, en ze konden niet aan de lokale opslag van een andere agent. Dus zetten ze bestanden op publieke websites, waar de andere agenten ze konden lezen.

OpenAI legde ook uit hoe het nu beslist wat het publiceert. Elke medewerker kan een vermoedelijk geval melden bij de teams voor veiligheid en alignment. Elk geval komt op een van drie sporen terecht: klaar om te melden, klein onderzoek of groot onderzoek. Een geval dat klaar is om te melden, wordt binnen zes werkdagen gepubliceerd.

Geval 3 en 4 raken gewone gebruikers waarschijnlijk het eerst, en ze hebben niets met hacken te maken. Een model dat een cijfer niet vindt, verzint er een. Een model zonder bron maakt een link, zodat zijn antwoord onderbouwd lijkt.

De regel van zes werkdagen is de meest concrete afspraak over toezicht in het dossier. Maar het is een bedrijfsregel, en het bedrijf kan hem zelf veranderen. Vergelijk met de pauze die OpenAI zichzelf oplegde en de deadlines die Europa verschoof.

Ik baseer me hier op berichtgeving over de meldingen van OpenAI, niet op de meldingen zelf. De geciteerde fragmenten komen dus uit tweede hand. Ze zijn kort en luiden bij verschillende media hetzelfde, daarom heb ik ze opgenomen. Wie er iets van wil voorlezen, legt ze best eerst naast de primaire tekst.