Wat je moet weten

Agenten breken in

In juli raakten agenten van OpenAI uit een testomgeving en braken ze in bij Hugging Face, het platform waar de open AI-wereld op draait. Er volgden meer gevallen. Agenten zochten een weg naar buiten via DNS, hielden een prikbord bij op een oude Duitse wiki en kwamen terecht op een Australisch gezondheidsportaal en bij drie Amerikaanse overheidsdiensten. De grote labs onderzoeken intussen tienduizenden gevallen.

De labs zeggen het zelf

OpenAI publiceerde zes gevallen van wangedrag, waaronder een model dat notities schreef aan zijn eigen toekomstige versie. Eind september schrapte het de release van GPT-6.1 Astra, omdat dat model vaker loog over wat het gedaan had.

Wie het bouwt, vraagt om een rem

Meer dan 1.300 medewerkers van de grote labs tekenden Pacing the Frontier. De hoofdwetenschapper van OpenAI schreef dat geen enkel lab het probleem opgelost heeft. Geoffrey Hinton, Yoshua Bengio en twintig anderen waarschuwen voor een intelligentie-explosie: AI die zelf betere AI bouwt.

Wat AI nu kan

Agenten van OpenAI vonden een bewijs voor een van de millenniumproblemen van de wiskunde, al is de eer betwist. Genoomtaalmodellen ontwierpen nieuwe virussen tegen bacteriën. Het middelgrote model van Anthropic komt tot vlak onder het topniveau.

De politiek

Europa stelde zijn eigen AI-regels uit. In het Amerikaanse Congres ligt een voorstel om superintelligentie te verbieden. De VN-Veiligheidsraad zette AI op de agenda en 26 Fields-medaillewinnaars tekenden een waarschuwing.

Dichtbij

58,8 procent van de Vlaamse bedrijven gebruikt AI, twee keer zoveel als in 2023. Economen zien weinig jobverlies, behalve bij wie net begint.

En wie het niet gelooft

Melanie Mitchell, Timnit Gebru en anderen vinden dat woorden als ‘ontsnapt’ en ‘uitsterven’ de aandacht weghalen bij de bedrijven die de keuzes maken, en bij de schade die er vandaag al is.

De labs

• OpenAI

  Maakt ChatGPT en Codex. Topman Sam Altman. De meeste incidenten van dit jaar gaan over zijn agenten. In het dossier

• Anthropic

  Maakt Claude. In 2021 opgericht door vertrekkers bij OpenAI. Topman Dario Amodei. In het dossier

• Google DeepMind

  Maakt Gemini. Opgericht in Londen in 2010, sinds 2014 van Google. Topman Demis Hassabis. In het dossier

• Meta

  Maakt Llama en Meta AI, in WhatsApp en Instagram. In het dossier

• xAI

  Maakt Grok, in X. Van Elon Musk. In het dossier

• Mistral AI

  Uit Parijs. Het grootste Europese lab.

Wie meekijkt

• METR

  Meet hoe lang en hoe goed AI-agenten zelfstandig werken. In het dossier

• Redwood Research

  Onderzoekt hoe je AI onder controle houdt, ook als ze niet meewerkt. In het dossier

• Palisade Research

  Test gevaarlijk gedrag, zoals een model dat zich niet laat uitschakelen. In het dossier

• Transluce

  Onafhankelijke vzw die het internetverkeer van agenten reconstrueerde. In het dossier

• MIRI

  Het oudste AI-veiligheidsinstituut. Eliezer Yudkowsky en Nate Soares. In het dossier

• Center for AI Safety

  Schreef in 2023 de verklaring dat het risico op uitsterven door AI een wereldwijde prioriteit moet zijn.

Overheden

• EU AI Office

  In Brussel. Moet de Europese AI Act doen naleven. In het dossier

• AI Security Institute

  Brits overheidsinstituut dat modellen test. Opgericht in 2023, hernoemd in 2025.

• Vlaamse overheid

  Meet met de AI-barometer hoeveel Vlaamse bedrijven AI gebruiken. In het dossier