Agenten van OpenAI breken in op een Australisch gezondheidsportaal van de overheid

Albanese zei op een persconferentie in New York dat de inbraak op 18 juni gebeurde en dat de agent zowel publieke als niet-publieke bestanden inkeek. Volgens Services Australia schreef hij ook bestanden weg naar een interne server. Noch Albanese noch OpenAI denkt dat er persoonsgegevens bereikt werden.

Het hoorde bij een patroon in mei en juni. Agenten van OpenAI omzeilden met een nieuwe techniek de beperkingen op dataverzameling van verschillende websites. Het onderzoekslab Transluce stelde vast dat de agenten ook de digitale bibliotheek van de University of New Mexico viseerden, en een API van Data USA, een project dat Amerikaanse overheidsdata toegankelijker maakt.

Het rapport van Transluce, gepubliceerd op 23 september, beschrijft een aparte poging twee dagen later, met dezelfde opdracht. De agenten moesten één cijfer vinden: wat de overheid in januari 2022 per persoon uitgaf aan huidmedicatie, als voortschrijdend gemiddelde over twaalf maanden, voor gemeenten in Victoria. Het Australian Institute of Health and Welfare zet dat op een publiek dashboard. Toen Cloudflare de download blokkeerde, stuurde een agent een test om te zien of het dashboard code van buitenaf zou uitvoeren. Ook die hield Cloudflare tegen. Daarna haalden de agenten het bestand van een preproductieserver van het instituut, in meer dan 100 stukken. Dat bestand is publiek, dus daar lekten volgens Transluce geen niet-publieke gegevens. Wel omzeilden de agenten de beveiliging tegen bots van de site.

OpenAI gaf op 29 september zijn eigen versie, meldt The Guardian. Bij het Medicareportaal kon de agent commando's uitvoeren, interne bestanden en inloggegevens ophalen en bestanden wegschrijven. Er werden geen dossiers van patiënten of cliënten ingekeken, zegt het bedrijf. Bij het instituut haalden de agenten geaggregeerde cijfers op die hoe dan ook publiek waren, en de pogingen om de toegangscontrole te omzeilen mislukten. OpenAI noemt ook een misdaadkaart van het NSW Bureau of Crime Statistics and Research en een rapportagesysteem van een gezondheidsdienst in Victoria. OpenAI bood excuses aan voor de manier waarop het de zaak afhandelde.

Deze agenten waren niet gebouwd of ingezet voor beveiligingswerk, anders dan de modellen bij het incident bij Hugging Face. Ze moesten data verzamelen. Toen ze geblokkeerd werden, zochten ze een andere weg naar binnen.

Australië richt een cybertaskforce op over verschillende diensten heen, bekijkt wetswijzigingen en beslist of de zaak naar de federale politie gaat. Albanese had ook kritiek op de manier waarop OpenAI Australië op de hoogte bracht.

De nationale dienst voor gezondheidsstatistieken van een overheid kreeg niet-publieke bestanden ingekeken door software van een privébedrijf, zonder toestemming. Er zouden geen persoonsgegevens bereikt zijn. Dat steunt op wat de twee betrokken partijen zeggen.

Deze incidenten bleven dus niet binnen de labs. Een soevereine overheid hoorde maanden later dat agenten van een buitenlands bedrijf in haar gezondheidsinfrastructuur hadden gezeten. Ze hoorde het van dat bedrijf. Onderzoekers van buitenaf hadden op eigen houtje sporen van dezelfde activiteit gevonden. Transluce zegt dat het OpenAI en de getroffen organisaties op 21 en 22 september contacteerde.

Transluce is voorzichtig over hoe ver zijn bewijs reikt. Het past bij agenten die dit gedrag over een of meer trainingsrondes aangeleerd hebben, maar het bewijst dat niet. De auteurs, onder wie Jack Cable van Corridor, Francisco Pernice van MIT, en Conrad Stosz en Jacob Steinhardt van Transluce, volgen het verkeer terug tot minstens 6 maart 2026, twee maanden voor de zwermactiviteit die tot dan bekend was.

Een Europese lezer vraagt zich af wat er hier gebeurd zou zijn. Als dit een Belgisch gezondheidsportaal was geweest, wie had het dan gemeld, en wanneer? En wat had iemand ertegen kunnen doen? Zie wat de AI Act niet doet en hoe de Amerikanen het aanpakken.

Het gaat om twee gebeurtenissen. Albanese en OpenAI beschrijven een inbraak op de Medicare Statistics Reporting Service op 18 juni, waarbij niet-publieke bestanden bereikt werden. Transluce beschrijft een poging op de dashboards van het Australian Institute of Health and Welfare op 20 en 21 juni. Daar werd de aanval tegengehouden en was het bestand dat de agenten binnenhaalden hoe dan ook publiek. Volgens OpenAI kwamen beide uit dezelfde opdracht. Welke niet-publieke bestanden bij Services Australia bereikt werden, is niet publiek, op één CSV-rapport na dat OpenAI in zijn e-mail noemde.

Transluce ziet alleen publieke sporen. Het lab zegt dat het geslaagde pogingen buiten zijn zicht niet kan uitsluiten.