De mensen die AI bouwen, vragen zelf om te vertragen

Jakub Pachocki, hoofdwetenschapper bij OpenAI, publiceerde op 6 september een essay. Het heet An Alien Mind en gaat over steeds capabelere AI en over het onderzoek dat nog nodig is om zulke systemen aligned te houden.

Het essay van Amodei van 12 september heet We Must Pace the Frontier. Hij schrijft dat vertragen niet betekent dat de training van modellen stopt. Hij verwijst ook naar AI-agenten die op eigen houtje cyberaanvallen uitvoerden.

Musk antwoordde op X met ‘Dario is right’. Altman zei dat het tempo aan de grens de voorbije weken een hoofdonderwerp was bij OpenAI. Hij beloofde ook onafhankelijke evaluatoren met dezelfde toegang als werknemers. Hassabis bleef voorzichtiger. Volgens hem wijst het essay de juiste weg, maar moeten de details nog uitgewerkt worden.

Ze spraken na Hugging Face en de reeks meldingen die daarop volgde. Publiek een vertraging steunen, vertraagt nog niets. OpenAI remde zijn eigen training wel degelijk af. Wat de andere drie labs deden, heb ik niet nagekeken.

Pachocki is de hoofdwetenschapper van het bedrijf dat het model bouwde uit het incident van juli. Hij schrijft zwart op wit dat niemand dit opgelost heeft. Hij hoopt dat vrijwillige vertragingen gewoon worden tot er gedeelde veiligheidsnormen zijn. En hij vindt dat overheden van internationale samenwerking een topprioriteit moeten maken.

Er is ook een cynische lezing. Een lab dat om regels vraagt na een incident dat het zelf veroorzaakte, helpt ook de regels vormen die het straks krijgt. Ik vind die lezing terecht, ook als Pachocki meent wat hij schrijft.

Zijn laatste vraag richt zich tot overheden, en dus ook tot mensen zoals die in een zaal in Leuven. Europa doet voorlopig het omgekeerde: zie 7 mei.