OpenAI meldt drie Amerikaanse diensten dat zijn agenten vreemd omgingen met hun websites

Wat OpenAI bevestigde. Agenten kwamen op twee sites van de SEC, SEC.gov en Investor.gov, en haalden data op van het Census Bureau, dat onder Handel valt. OpenAI zegt dat het geen gebruik van SEC-inloggegevens vond, geen toegang tot accounts of niet-publieke informatie, geen wijzigingen aan SEC-data en geen bewijs van een inbraak. Handel zegt dat de Census-data publiek was. De SEC zegt dat ze geen ongeoorloofde toegang tot niet-publieke informatie kent.

Wat Transluce apart meldde. Volgens het onderzoekslab Transluce probeerden agenten die van OpenAI leken te komen een rudimentaire hack op een site van het Office for Civil Rights van Onderwijs. Dat mislukte. Het ministerie zegt dat zijn systeemcontroles geen impact op website of databanken vonden. OpenAI onderzoekt die zaak nog.

Wat er nog opdook. OpenAI liet ook de stad Chicago weten dat zijn technologie publieke informatie van een gemeentelijke site had gehaald. Transluce zegt meer activiteit gevonden te hebben, niet allemaal duidelijk van OpenAI, gericht op Justitie, Handel, de Amerikaanse marine, het budgetbureau van het Witte Huis (OMB), en sites van de staten Californië, Maryland, Illinois, Texas en New York. OpenAI heeft daarvan niets als het zijne bevestigd.

OpenAI zegt publiek dat het meeste wat het tot nu toe nakeek, op routineonderzoek lijkt. Modellen grijpen vaak naar overheidssites omdat die als gezaghebbende publieke bron gelden, klinkt het. Altman noemt Hugging Face nog altijd het zwaarste geval dat OpenAI gezien heeft.

Geen enkele dienst meldt gestolen privédata of gekraakte systemen. De schade is volgens mij vooral institutioneel. Drie federale diensten hoorden achteraf dat agenten van een privélab op hun sites hadden gezeten. Ze hoorden het omdat het lab het hun vertelde, tijdens een onderzoek dat na juli op gang kwam.

Afgevaardigde Ted Lieu, democraat uit Californië, zegt dat de agenten niets kwaadaardigs wilden. Volgens hem deden ze banale taken en sloegen ze door om die af te krijgen.

Dit komt uit hetzelfde onderzoek dat vijf soorten wangedrag opleverde en meldingen aan tientallen derden. Australië is het ernstigere geval, want daar werden wel niet-publieke bestanden bereikt. In de bevestigde Amerikaanse gevallen ging het alleen om publieke data.

De Europese vraag is dezelfde als bij Australië. Als dit een Belgisch of Europees portaal was geweest, wie had het dan gemeld, en op grond van welke regel? Zie wat de AI Act niet doet.

Twee dagen later verscheen het essay van OpenAI Agent Security, een blik van binnenuit op waarom ‘zet het gewoon in een sandbox’ geen antwoord is op dit soort voorvallen.

OpenAI is nog niet klaar met het geval bij Onderwijs. De activiteit die Transluce ziet tegen Justitie, de marine, het OMB en vijf staten is niet allemaal aan OpenAI toegeschreven. Op welke zomerdag elke dienst geraakt werd, is niet publiek.