Alle stukken
Alle berichten over AI die ik sinds januari 2026 volg, met bronnen. Bij elk stuk staat hoe zeker het is.
11 teksten
28 september 2026 · Cambridge (CASP), OpenAI, Anthropic, Microsoft
Hinton, Bengio en de hoofdwetenschapper van OpenAI waarschuwen voor een intelligentie-explosie
Tweeëntwintig onderzoekers publiceerden een paper waarin ze stellen dat AI die zelf AI bouwt, jaren vooruitgang in enkele maanden kan persen. Bij de auteurs zijn drie winnaars van de Turing Award en kopstukken van OpenAI, Anthropic en Microsoft. Ze vragen overheden om zich nu voor te bereiden. Eens het begint, kan het te laat zijn om in te grijpen, schrijven ze.
Lees →
Het argument · Soares & Yudkowsky
Yudkowsky en Soares waarschuwen dat superintelligentie iedereen zou doden
Eliezer Yudkowsky en Nate Soares van het Machine Intelligence Research Institute (MIRI) stellen dat iedereen op aarde sterft als iemand een superintelligentie bouwt met iets wat op de huidige methodes lijkt. Kwaadwil is daar volgens hen niet voor nodig. De mensheid zou uitsterven als neveneffect van doelen die niemand gekozen heeft. Ze willen een internationale stop. Ik zet hun argument op een rij, samen met de kritiek erop en wat 2026 aan beide kanten toevoegde.
Lees →
Het bezwaar · The critics
Critici zeggen dat het uitstervingsverhaal de machine de schuld geeft en de bouwers vrijpleit
Onderzoekers als Timnit Gebru en Melanie Mitchell vinden het uitstervingsframe verkeerd, en een deel van hen vindt het schadelijk. Volgens hen is de schade van AI er al, en komt ze uit beslissingen van mensen en bedrijven. Wie over een op hol geslagen superintelligentie praat, legt de schuld bij de machine in plaats van bij de bouwers. Dat duwt wetgevers ook naar de verkeerde wetten, zeggen ze.
Lees →
september 2026 · OpenAI, Anthropic, Google DeepMind, xAI
De mensen die AI bouwen, vragen zelf om te vertragen
De hoofdwetenschapper van OpenAI schreef dat geen enkel lab alignment goed genoeg onder de knie heeft om op volle snelheid te blijven opschalen. Met alignment bedoelen onderzoekers dat een systeem doet wat de makers willen. Zes dagen later riep Dario Amodei van Anthropic in een essay de sector op om te vertragen. Sam Altman, Demis Hassabis en Elon Musk steunden hem de dag erna publiek.
Lees →
27 september 2026 · @joedaroo / OpenAI
Een securitymedewerker van OpenAI schrijft dat een sandbox alleen niet volstaat
Twee dagen na de meldingen over Amerikaanse overheidssites publiceerde een medewerker van het Agent Security-team van OpenAI een lang persoonlijk essay. Volgens hem kijkt het publieke debat naar de verkeerde plek. Een sandbox, een afgesloten testomgeving, is belangrijk. Maar ze volstaat niet, schrijft hij. En wie haal het gewoon van het net roept, heeft nooit van dichtbij gezien hoe training in de grote labs verloopt.
Lees →
18 augustus 2026 · OpenAI
OpenAI vertraagt zijn eigen training
Een maand na de inbraak bij Hugging Face maakte OpenAI bekend dat het de training van zijn meest geavanceerde modellen tijdelijk vertraagde. Het legde zijn grootste geplande run voor reinforcement learning stil, een vorm van training met beloningen. Het begon ook de beveiliging van zijn onderzoeksomgevingen te herbouwen. In september stopte het de training van zijn sterkste modellen helemaal.
Lees →
3 september 2026 · US Congress
Sanders en Casar willen kunstmatige superintelligentie verbieden
Op 3 september kondigden senator Bernie Sanders en congreslid Greg Casar de Ban Artificial Superintelligence Act aan. Op 23 september dienden ze het voorstel in. Het bevat een pauze op de ontwikkeling van geavanceerde AI in de Verenigde Staten, tot een nieuwe federale toezichthouder veiligheidsregels heeft opgesteld. Los daarvan dienden Ted Lieu en Nathaniel Moran op 23 juli de AI Kill Switch Act in. Die verplicht bedrijven om hun krachtigste modellen te kunnen stilleggen of afremmen.
Lees →
De routes · The argument
Vijf manieren waarop AI schade kan aanrichten, en hoe ver elk ervan staat
Hoe zou AI mensen concreet schade kunnen toebrengen? Ik zet vijf manieren op een rij, van inbraken in computersystemen tot een systeem dat eigen doelen najaagt. Bij een aantal ervan gebeurde dit jaar al een eerste stap, meestal tijdens een test. Voor de ergste bestaat nog geen bewijs.
Lees →
23 september 2026 · United Nations
De VN-Veiligheidsraad zet AI op de agenda
Tijdens de Algemene Vergadering van de VN hield de Veiligheidsraad een zitting over AI. Sam Altman, topman van OpenAI, sprak er. Clément Delangue, topman van Hugging Face, was er via video bij. Twee maanden nadat agenten van het ene bedrijf bij het andere inbraken, zaten ze allebei aan dezelfde tafel in New York.
Lees →
11 september 2026 · The mathematicians
Zesentwintig Fields-medaillewinnaars tekenen een waarschuwing
Drie dagen na de aankondiging over Navier-Stokes ondertekenden 26 winnaars van de Fields-medaille een verklaring. Ze waarschuwen dat AI-bedrijven de wiskunde schade toebrengen als ze onopgeloste problemen gebruiken als benchmark, een testopgave om te tonen wat een model kan. Volgens de ondertekenaars levert dat antwoorden op, maar geen begrip.
Lees →
28 juli 2026 · Employees of OpenAI, Anthropic, Google DeepMind, Meta
Meer dan 1.300 labmedewerkers vragen om een manier om AI af te remmen
Mensen die de meest geavanceerde AI bouwen, ondertekenden een korte verklaring. Ze vragen de Amerikaanse overheid om een internationale inspanning te steunen die middelen ontwikkelt om het tempo van AI te regelen. Een pauze vragen ze vandaag niet. Wel een rem die klaarstaat voor iemand hem nodig heeft.
Lees →