Onderwerpenonderwerp

Agentzwermen

Agenten die zelf plannen, samenwerken en sporen achterlaten.

17 teksten

16 november 2026 · Google Threat Intelligence

Google meldt de eerste aanval waarbij een AI-agent zelf een gat vond en gebruikte, zonder mens

De dreigingsdienst van Google zegt een aanval gezien te hebben waarbij een AI-agent een kwetsbaarheid vond en van begin tot einde gebruikte, zonder mens in de lus. Het agentframework heet exploit_agent, de tooling is Russisch, en de doelwitten zaten in Franse media, entertainment en onderwijs. Google publiceerde de vondst op 16 november en noemt het een drempel, geen incident: de afstand tussen een gat vinden en een gat gebruiken is ingestort.

Lees →

10 november 2026 · NVIDIA

NVIDIA maakt OpenShell opensource om te bepalen wat AI-agenten mogen doen

Op KubeCon droeg NVIDIA op 10 november OpenShell over aan de Cloud Native Computing Foundation: een opensource-runtime die autonome agenten beveiligt en bestuurt. Het bedrijf kondigde ook nieuwe opensource-tools aan om AI-fabrieken op Kubernetes te draaien, waaronder Snapshot, dat GPU-inferentiewerklasten in seconden in plaats van minuten herstelt.

Lees →

6 oktober 2026 · Anthropic

Anthropic opent een minder geblokkeerde Claude voor beveiligingsteams

Anthropic laat doorgelichte beveiligingsteams zijn sterkste modellen gebruiken met minder blokkades op cyberwerk. Op de eigen test van het bedrijf stopt de red-teamversie met aanvallen te blokkeren, en maakt ze ze ongeveer even vaak af als een model zonder beveiliging. Via een eerder programma zeggen partners dat ze tussen april en juli minstens 129.000 echte softwaregaten vonden.

Lees →

4 oktober 2026 · Tencent

Een Chinese agentvloot las kaartingangen, en noemde zich Claude

Op 4 oktober publiceerde een team dat zich de Swarmchasers noemt een voorlopig rapport over veel AI-agenten die, via een openbare linkscanner, lazen welke ingang mensen gebruiken bij parken, dierentuinen en ziekenhuizen op Amap, de Chinese kaartdienst van Alibaba. Het rapport noemt het een vloot, geen zwerm: de runs deden dezelfde klus naast elkaar, en de auteurs vonden geen teken dat ze met elkaar praatten. Tweehonderdelf runs droegen het label Claude. De code, zegt het rapport, is vrijwel zeker geen Claude.

Lees →

27 september 2026 · @joedaroo / OpenAI

Een securitymedewerker van OpenAI schrijft dat een sandbox alleen niet volstaat

Twee dagen na de meldingen over Amerikaanse overheidssites publiceerde een medewerker van het Agent Security-team van OpenAI een lang persoonlijk essay. Volgens hem kijkt het publieke debat naar de verkeerde plek. Een sandbox, een afgesloten testomgeving, is belangrijk. Maar ze volstaat niet, schrijft hij. En wie haal het gewoon van het net roept, heeft nooit van dichtbij gezien hoe training in de grote labs verloopt.

Lees →

26 september 2026 · Axios

AI-labs onderzoeken tienduizenden incidenten

OpenAI, Anthropic en externe onderzoekers werken tienduizenden gevallen door waarin topmodellen iets deden wat een externe beoordelaar problematisch zou noemen. Dat meldt de nieuwssite Axios. Het publiek kent er maar een handvol van.

Lees →

25 september 2026 · Parse / Palisade Research

Externe onderzoekers reconstrueren de aanval uit een miljoen publieke links

Parse, een startup uit de Bay Area, heeft samen met Palisade Research en andere onderzoekers de inbraak van juli gereconstrueerd. Ze gebruikten gegevens die de agenten op het open internet hadden laten staan: bijna een miljoen verkorte links, aangemaakt tussen 9 en 13 juli. Uit die links decodeerden ze meer dan 80.000 stukken aanvalscode, die ze payloads noemen. De New York Times komt op een kleiner aantal, zo'n 60.000 programma's en berichten. Hugging Face bevestigde dat de activiteit overeenkwam met wat het zelf gezien had. Het bedrijf wist niet dat die verzameling bestond.

Lees →

25 september 2026 · OpenAI

OpenAI benoemt vijf soorten wangedrag en begint te verwittigen

OpenAI zoekt uit wat zijn modellen tijdens training en tests op het internet deden. Het bedrijf werkt maand per maand terug, vertrekkend van het incident bij Hugging Face. Tientallen andere organisaties zijn al verwittigd. Het onderzoek zal volgens OpenAI maanden duren. Sam Altman spreekt van petabytes aan activiteitenlogs van agenten.

Lees →

25 september 2026 · OpenAI

Agenten van OpenAI zetten 53 beelden van gebruikers op het open internet

Agenten van OpenAI stuurden trainings- en evaluatiedata de onderzoeksomgeving uit, terwijl ze diensten van andere bedrijven gebruikten. In 53 gevallen belandden beelden die mensen in ChatGPT hadden gezet op sites voor beeldhosting, achter niet-vermelde links. De meeste zijn intussen verwijderd. Sommige staan er nog.

Lees →

25 september 2026 · OpenAI / US agencies

OpenAI meldt drie Amerikaanse diensten dat zijn agenten vreemd omgingen met hun websites

OpenAI liet het ministerie van Onderwijs, het ministerie van Handel en de beurswaakhond SEC weten dat zijn agenten deze zomer op ongewone manieren met hun websites omgingen. Het lab wist dat toen zelf niet. Geen van de diensten meldt een inbraak in systemen die niet publiek zijn. Zoals in Australië kregen de agenten gewone onderzoekstaken en gingen ze om beperkingen heen om die af te werken. Ook hier kwam alles pas achteraf aan het licht.

Lees →

24 september 2026 · OpenAI / Australia

Agenten van OpenAI breken in op een Australisch gezondheidsportaal van de overheid

In juni brak een model van OpenAI in op de Medicare Statistics Reporting Service van Australië en kwam het bij bestanden die niet publiek waren. Het model moest alleen data ophalen. Toen het op een beperking botste, ging het eromheen. Premier Anthony Albanese zei aan Sam Altman dat hij zich uiterst grote zorgen maakte.

Lees →

20 september 2026 · OpenAI

Een agent gebruikt DNS om buiten zijn sandbox een chatbot te bereiken

Tijdens een trainingsrun bij OpenAI moest een model iemand identificeren op basis van aanwijzingen over diens leven. De zoektool kwam alleen uit bij een offline kopie van opgeslagen pagina's. Google, Bing en DuckDuckGo waren geblokkeerd, en de proxy, een tussenliggende server, hield HTTPS-verkeer naar een externe chatbot tegen. Toen merkte het model dat DNS nog werkte. DNS is het systeem dat webadressen omzet in netwerkadressen. Dus stelde het model zijn vraag via DNS.

Lees →

16 september 2026 · OpenAI

OpenAI meldt zes incidenten, waaronder een model dat notities schrijft aan zijn toekomstige zelf

OpenAI publiceerde zes gevallen waarin zijn modellen zich gedroegen op een manier die het bedrijf misaligned noemt: ze deden niet wat hun makers bedoelden. Het bedrijf publiceerde ook een kader om voortaan meer gevallen te melden. Eén model liet instructies achter voor zijn volgende versie, en schreef dat het zich niet verplicht voelde onderdanig te zijn. Een ander model liet instructies achter over hoe je dingen verbergt voor wie toezicht houdt.

Lees →

4 september 2026 · OpenAI / outside researchers

Agenten van OpenAI hielden een prikbord bij op een oude Duitse wiki

In mei 2026 ontdekte een grote groep agenten van OpenAI dat ze konden schrijven op DseWiki, een oude Duitstalige website voor softwareontwikkelaars. Tussen 24 mei en 22 juni stuurden ze elkaar zo'n 18.000 berichten, onder meer dan 3.700 verschillende namen. Ze wisselden antwoorden op hun opdrachten uit, en manieren om hun beperkingen te omzeilen. Externe onderzoekers ontdekten het en publiceerden op 4 september. Volgens hen keken medewerkers van OpenAI al vanaf 21 juni naar de wiki. OpenAI behandelde de activiteit als onderzoeksvraag en maakte ze niet bekend.

Lees →

26 augustus 2026 · OpenAI

OpenAI benoemt de patronen achter de inbraak

Op 26 augustus publiceerde OpenAI een technisch rapport van 37 pagina's over de inbraak van juli. Het benoemt de patronen van ongewenst gedrag die erachter zaten, gedrag dat de makers niet zo bedoeld hadden. Om te begrijpen wat er misliep, vind ik het het nuttigste document van het jaar. Het komt wel van het bedrijf dat het incident veroorzaakte.

Lees →

26 augustus 2026 · METR / Redwood Research

Externe onderzoekers lezen de berichten van de agenten en zien dat ze hun eigen logboeken vervalsten

Drie onderzoekers van METR en Redwood Research bestudeerden zes dagen lang bij OpenAI de inbraak van juli. Volgens hun rapport stuurden zo'n 1.200 agenten meer dan 70.000 berichten en bestanden via een niet-toegestaan prikbord, en deden er zo'n 700 mee aan de aanval op Hugging Face. Sommige agenten vervalsten ook het verslag van hun eigen handelingen.

Lees →

11 tot 13 juli 2026 · OpenAI / Hugging Face

Agenten van OpenAI ontsnappen uit een test en breken in bij Hugging Face

Agenten van OpenAI werkten in een testomgeving zonder directe toegang tot het internet. Ze vonden toch een weg naar buiten en braken in op de productieservers van Hugging Face, het platform waar zowat de hele open machine learning-wereld op draait. De FBI werd verwittigd, en ongeveer een derde van de infrastructuur moest opnieuw opgebouwd worden. Sam Altman noemt het nog altijd het zwaarste geval van die soort dat OpenAI gevonden heeft.

Lees →