Wie werkt aan veiligheid

AI-veiligheidshub met cursussen, workshops en de AISAR-onderzoeksbeurs.

Overheidsdienst die capaciteiten, risico's en schade van geavanceerde AI opvolgt en test.

Australische liefdadigheidsorganisatie die beleidswerk doet rond AI-veiligheid en andere catastrofale risico's.

Onafhankelijke non-profit die wetenschappelijk onderzoek doet naar veilige en verantwoorde AI.

Brusselse denktank over het bestuur van opkomende technologieën, waaronder geavanceerde AI.

Gemeenschap rond effectief altruïsme (Brussel, Gent, Leuven) die ook AI-veiligheidsmeetups organiseert.

Dienst van de Europese Commissie die de AI-verordening voor AI-modellen voor algemene doeleinden handhaaft.

Nieuw lab, gefinancierd door FLI, over het afremmen van de AGI-race en democratische controle op AI-bedrijven.

Non-profit die werkt aan AI-beleid in de EU, de VS en internationaal.

Braziliaanse gemeenschap die AI-veiligheid behandelt, van vooringenomenheid tot catastrofale risico's.

Canadese non-profit die ijvert voor AI-veiligheidsbeleid en publieke bewustwording.

Federaal instituut dat onderzoek naar risico's van geavanceerde AI financiert en coördineert.

Non-profit van Yoshua Bengio die veilige, niet-agentische 'Scientist AI' ontwikkelt.

Hub in Toronto die een lokale gemeenschap uitbouwt om AI richting menselijk welzijn te sturen.

Pekings onderzoeksinstituut over veiligheid en bestuur van frontier-AI.

Netwerk van Chinese instellingen dat internationaal optreedt als Chinese tegenhanger van de AISI's.

Sociale onderneming die AI-veiligheid en -bestuur vooruithelpt, in China en internationaal.

Organiseert wereldwijd onderzoekssprints, hackathons en begeleide onderzoeksprogramma's rond AI-veiligheid.

Denktank over AI-risico's en -impact, gericht op Europees beleid.

Duitse PauseAI-vereniging die publiek en politici informeert over AI-risico's.

Parijs centrum dat de EU, de OESO en Franse instellingen adviseert over AI-risico's.

Frans nationaal instituut dat AI-evaluatie en -beveiliging coördineert via ANSSI, Inria, LNE en PEReN.

Franse PauseAI-afdeling die campagne voert voor een pauze, met eigen betaald personeel.

Parijse start-up die de robuustheid van AI-modellen test met geautomatiseerde red-teaming.

Ontwikkelt normen voor AI-risicobeheer en beoordeelt de risicopraktijken van AI-bedrijven.

Instituut binnen de IndiaAI Mission dat met partners Indiaas AI-veiligheidsonderzoek coördineert.

Bouwt in Aziatische landen capaciteit op voor bestuur en diplomatie rond AI-veiligheid.

Pan-Europees netwerk dat nationale AI-veiligheidsgemeenschappen verbindt en helpt opstarten.

Universiteitslab dat beveiligingslekken en robuustheid van AI tegen aanvallen onderzoekt.

Japans netwerk dat onderzoek naar AI-afstemming stimuleert met symposia en studiegroepen.

Japans overheidsinstituut voor evaluatiemethodes en normen rond AI-veiligheid.

Onderzoekslab rond AI-veiligheid, -afstemming en -bestuur voor Afrika en het Globale Zuiden.

Afrikaanse organisatie die AI-veiligheid bevordert via onderzoek, beleidswerk en fellowships.

Mexicaanse groep met onderzoek, cursussen en bestuursprojecten rond AI-veiligheid, zoals VIGÍA.

Informeert publiek en beleidsmakers over existentiële risico's, vooral door AI.

Coördineert een internationale beweging die campagne voert voor een pauze in de ontwikkeling van frontier-AI.

Nederlandse non-profit met afdelingen in Groningen, Amsterdam en Utrecht voor opleiding rond AI-veiligheid.

Bouwt in Nigeria expertise, onderzoek en beleidswerk rond AI-veiligheid uit.

Stichting met steun van IMDA die opensource-testtools en normen voor AI ontwikkelt.

Singaporees AI-veiligheidsinstituut dat onderzoek doet naar evaluatie en veiligheidswetenschap.

Spaanstalig onderzoek naar wereldwijde catastrofale risico's, waaronder AI, met focus op Latijns-Amerika.

Onderzoeksgroep die de afstemming van complexe systemen van mensen en AI bestudeert.

Evalueert AI-modellen op misleidend en berekenend gedrag en adviseert beleidsmakers.

Bootcamp dat ML-vaardigheden aanleert voor technisch werk rond AI-afstemming.

Organiseert cursussen over AI-veiligheid en AI-bestuur en biedt loopbaanbegeleiding.

Onderzoek naar het beperken van de ergste risico's door geavanceerde AI, waaronder conflicten tussen AI's.

Britse denktank die de overheid adviseert over extreme risico's, waaronder AI.

Onderzoek en fellowships over het bestuur van geavanceerde AI.

Centrum van de universiteit van Cambridge dat existentiële en wereldwijde catastrofale risico's bestudeert, ook AI.

Londens AI-bedrijf dat werkt aan controleerbare, begrensde AI-systemen.

Voert campagne voor een internationaal verbod op de ontwikkeling van kunstmatige superintelligentie.

Liefdadigheidsorganisatie die onderzoek financiert naar samenwerking tussen AI-systemen en met mensen.

Zomerfellowship in Cambridge voor onderzoek naar AI-veiligheid en -bestuur.

Interdisciplinair centrum in Cambridge over de kansen en risico's van AI.

Kantoorhub in Londen voor AI-veiligheidsorganisaties en onderzoekers.

Onderzoeksprogramma van Oxford over het bestuur van AI-risico's en internationale afstemming.

Britse afdeling van PauseAI die campagne voert voor een internationale pauze op frontier-AI.

Britse overheidsdienst die frontier-AI test en risico's en tegenmaatregelen onderzoekt.

Theoretisch afstemmingsonderzoek naar het verklaren en blootleggen van gedrag van AI-modellen.

Denktank over AI-risicobeheer, afstemming en bestuur.

Veiligheidsonderzoek, rekenkracht voor onderzoekers, veldopbouw en belangenbehartiging rond maatschappelijke AI-risico's.

Centrum aan UC Berkeley dat methodes ontwikkelt voor AI die aantoonbaar gunstig is voor mensen.

Denktank van Georgetown over veiligheidsbeleid rond AI en opkomende technologie.

Onderzoekscentrum en werkplek in Berkeley voor AI-veiligheidsonderzoekers en fellowships.

Door jongeren geleide Amerikaanse organisatie die ijvert voor AI-veiligheidswetgeving.

Volgt en voorspelt AI-trends: rekenkracht, data, capaciteiten en economische impact.

Technisch AI-veiligheidsonderzoek naar robuustheid en afstemming, plus evenementen en veldopbouw.

Non-profit die subsidies geeft, sensibiliseert en beleid beïnvloedt rond grootschalige AI-risico's.

Bedrijf met maatschappelijk doel dat tools bouwt om AI-modellen te begrijpen en bij te sturen.

Amerikaanse non-profit die onderzoek doet naar AI-beleid, bestuur van rekenkracht en nationale veiligheid.

Onderzoek en belangenbehartiging om uitsterven door superintelligente AI te voorkomen, nu vooral beleid.

Onderzoeksfellowship met begeleiding die nieuwe onderzoekers in AI-afstemming en -veiligheid opleidt.

Evalueert hoe goed frontier-AI-modellen zelfstandig lange taken uitvoeren.

Onderzoekt gevaarlijke AI-vaardigheden zoals hacken en weerstand tegen uitschakeling, om beleidsmakers te informeren.

Onafhankelijke Amerikaanse non-profit die basisacties voert voor een pauze op frontier-AI.

Onderzoek naar AI-controle: mogelijk slecht afgestemde AI-systemen toch veilig gebruiken.

Onderzoekslab rond AI-afstemming; Timaeus fuseerde in 2026 met ex-onderzoekers van het Britse AISI.

Amerikaanse non-profit achter de International Dialogues on AI Safety met westerse en Chinese wetenschappers.

Actiegroep die met geweldloze burgerlijke ongehoorzaamheid een verbod op AGI-ontwikkeling eist.

Non-profit lab dat open tools bouwt om AI-systemen te begrijpen en te controleren.

NIST-centrum voor AI-metingen, evaluaties en normen, vroeger het Amerikaanse AISI.

Zuid-Afrikaanse hub met fellowships, cursussen en een onderzoekslab rond AI-veiligheid.

Instituut binnen ETRI voor evaluatie, beleid en technisch onderzoek rond AI-veiligheid.

Gemeenschap in Zürich die cursussen en evenementen rond AI-veiligheid organiseert.

Denktank met onderbouwde beleidsvoorstellen voor AI-veiligheid in Zwitserland en de EU.

Denktank in Genève die internationale samenwerking rond het bestuur van frontier-AI ondersteunt, ook bij de VN.

Lab van ETH Zürich over beveiliging en privacy van machinelearningsystemen.