Paul Christiano treedt toe tot het bestuur van de OpenAI Foundation
Paul Christiano treedt ook toe tot de Safety and Security Committee van de Foundation.
We kondigen de benoeming van Paul Christiano tot bestuurslid van de OpenAI Foundation aan. Hij wordt waarnemer zonder stemrecht in het bestuur van OpenAI Group PBC.
Paul treedt ook toe tot de Safety and Security Committee van het bestuur van de Foundation, waar hij zal samenwerken met voorzitter Zico Kolter. De Safety and Security Committee houdt toezicht op het veiligheids- en beveiligingsbeleid binnen heel OpenAI, inclusief OpenAI Group PBC.
Paul brengt overheidservaring onder twee regeringen mee dankzij zijn werk bij het Center for AI Standards and Innovation (CAISI) binnen het National Institute of Standards and Technology (NIST), een agentschap van het Amerikaanse ministerie van Handel, waar hij senior technisch adviseur is. Tijdens zijn werk bij CAISI en de voorganger daarvan, het Amerikaanse AI Safety Institute, heeft Paul grensverleggende AI-modellen geëvalueerd, waaronder capaciteiten die gevolgen hebben voor de nationale veiligheid. Ook heeft hij gewerkt aan manieren om de bijbehorende veiligheids- en beveiligingsrisico's te beperken.
Paul is ook de oprichter van het Alignment Research Center (ARC), een onderzoeksorganisatie zonder winstoogmerk die zich richt op het afstemmen van geavanceerde AI-systemen op menselijke belangen. Van 2017 tot 2021 leidde Paul het onderzoek naar AI-afstemming bij OpenAI en leverde hij een fundamentele bijdrage aan versterkend leren op basis van menselijke feedback (RLHF). In deze nieuwe rol brengt Paul een eigen, technisch onderbouwde visie mee bij de bestuurlijke beslissingen die centraal staan in de missie van OpenAI.
Paul heeft het vakgebied van AI-afstemming mede vormgegeven met gedegen onderzoek naar de moeilijkste vragen die steeds capabelere systemen oproepen. Zijn overheidservaring met veiligheid en normen voor grensverleggende AI zal, samen met zijn technische oordeelsvermogen, het toezicht van het bestuur en het werk van de Safety and Security Committee versterken, terwijl OpenAI grensverleggende AI blijft ontwikkelen en inzetten.
De capaciteiten van AI zijn het afgelopen jaar razendsnel toegenomen en afstemming op menselijke belangen blijft een moeilijk technisch probleem. Daardoor is de verantwoordelijkheid van de Safety and Security Committee belangrijker en uitdagender dan ooit. Ik kijk ernaar uit om me bij het team aan te sluiten en hieraan bij te dragen.
De mogelijkheden van AI luiden een nieuw tijdperk in. Daarom wordt het steeds belangrijker dat de vooruitgang van deze systemen hand in hand gaat met solide veiligheid, beveiliging, afstemming op menselijke belangen en goed bestuur. Gedurende zijn hele loopbaan als onderzoeker naar AI-afstemming neemt Paul de mogelijkheid serieus dat geavanceerde AI catastrofale risico's kan opleveren. Hij benadrukt dat ontwikkelaars zich hierop moeten voorbereiden voordat systemen gevaarlijkere capaciteiten bereiken. Hij laat een onafhankelijk geluid horen over de vraag of de waarborgen in de sector toereikend zijn. Wij geloven dat het bestuur van de Foundation sterker wordt door mensen die bereid zijn gangbare aannames ter discussie te stellen en te helpen zorgen voor betere onderbouwing, waarborgen en verantwoording bij cruciale beslissingen.
De benoeming van Paul bouwt voort op de bestuursstructuur die bij de herkapitalisatie van OpenAI in oktober 2025 is vastgesteld. Daaronder vallen ook de toezeggingen die zijn gedaan in verband met de onderzoeken die de procureur-generaal van Californië en de procureur-generaal van Delaware gedurende een jaar hebben uitgevoerd. Hun betrokkenheid heeft bijgedragen aan een sterker bestuurlijk kader.
Over de OpenAI Foundation
De OpenAI Foundation is een liefdadigheidsorganisatie die zich ervoor inzet dat AI de hele mensheid ten goede komt. Als afzonderlijke organisatie zonder winstoogmerk voert de Foundation haar eigen liefdadigheidsactiviteiten uit. Tegelijkertijd behoudt ze de zeggenschap over OpenAI Group PBC en een aanzienlijk aandelenbelang in het bedrijf. De Foundation ondersteunt initiatieven die met verantwoorde AI wetenschappelijke ontdekkingen stimuleren, het maatschappelijk middenveld versterken en de weerbaarheid vergroten. Via subsidies, samenwerkingen en andere filantropische initiatieven helpt de Foundation werk te versnellen dat blijvende maatschappelijke waarde creëert en meer mensen toegang geeft tot de ingrijpende mogelijkheden van AI.
De Foundation heeft de zeggenschap over OpenAI Group PBC. De Safety and Security Committee is een commissie van het bestuur van de Foundation. Lees meer op www.openaifoundation.org.
*Als senior technisch adviseur zal Paul zich onthouden van betrokkenheid bij alle zaken die verband houden met OpenAI en bij alle modelevaluaties.