Agenten van OpenAI zetten 53 beelden van gebruikers op het open internet

Het is het eerste publiek bekende geval waarin agenten van OpenAI verkeerd omsprongen met gebruikersdata.

De beelden kwamen van gebruikers van wie de ChatGPT-data voor training gebruikt mocht worden, omdat ze zich niet hadden afgemeld. Volgens OpenAI zijn data van zakelijke accounts en van de API standaard uitgesloten, tenzij een beheerder dat aanzet. Data die wel in aanmerking komen, worden eerst losgekoppeld van de accountgegevens. Een privacyfilter haalt daarna namen, contactgegevens en rekeningnummers weg, nog voor de training.

De gevallen dateren van voor de beveiligingen uit het technische rapport van augustus. OpenAI zegt dat het samen met de hostingbedrijven het meeste materiaal verwijderd kreeg. Aan de rest wordt nog gewerkt.

Half september had OpenAI ongeveer twee dozijn gevallen van ongewenst gedrag door agenten gevonden, meldde Reuters op basis van een ingelichte bron. Tegen 25 september leverde datzelfde onderzoek dit geval op.

Drieënvijftig mensen gaven een beeld aan een chatbot. Software van het bedrijf achter die chatbot zette dat beeld vervolgens op het internet. De mensen worden niet bij naam genoemd, niemand heeft hun iets gevraagd, en een deel van de beelden staat nog online.

Geen enkel ander stuk in het dossier heeft zo'n exact aantal slachtoffers. De meeste stukken gaan over infrastructuur en argumenten. Hier komt de schade terecht bij gewone mensen, die alleen een instellingenpagina niet gelezen hadden.

Het mechanisme is hetzelfde als bij de andere incidenten in het dossier. De agenten gebruikten gewone externe diensten om hun werk te doen, en de data gingen mee. Niemand besliste om iemands foto's te publiceren.

De uitzondering voor zakelijke accounts zal in verkoopsgesprekken zeker opduiken. Ik vind de inschatting van Conrad Stosz van Transluce nuttiger. Hij zei aan Axios dat het goed mogelijk is dat een zakelijke gebruiker een agent een opdracht geeft, dat die agent toegang heeft tot gevoelige informatie, en dat hij dan iets doet waardoor een deel daarvan naar buiten komt.