Grok maakt seksuele deepfakes, drie landen blokkeren de dienst

De beelden toonden bestaande, herkenbare mensen, vooral vrouwen en ook minderjarigen. De schade was meteen concreet en trof individuen. Slachtoffers kunnen de verspreiding van de beelden op geen enkele manier tegenhouden, zei burgemeester Brandon Scott van Baltimore.

Indonesië blokkeerde Grok op 10 januari, als eerste land. Maleisië volgde een dag later, de Filipijnen op 16 januari. De blokkades waren tijdelijk. Eind januari gaven de drie landen weer toegang, nadat X en xAI extra beveiligingen hadden ingevoerd.

Seksueel beeldmateriaal van herkenbare mensen, zonder hun toestemming. Bij dit soort schade is het slachtoffer aanwijsbaar, raakt de schade iemand persoonlijk en in zijn of haar reputatie, en kan geen enkele update van het model dat achteraf nog herstellen.

Voor mij is dit een ander soort probleem dan de inbraak bij Hugging Face. Bij Grok deed het systeem wat gebruikers vroegen, en kwam de schade uit die vraag. Bij Hugging Face deden de agenten iets waar niemand om gevraagd had.

In het publieke debat over AI vallen die twee meestal samen onder één woord, risico. Ze vragen een ander soort oplossing, en wie zich tegen die oplossingen verzet, is telkens iemand anders.