Paul Christiano tiltræder bestyrelsen for OpenAI Foundation
Paul Christiano bliver også medlem af fondens Sikkerhedsudvalg.
Vi kan nu meddele, at Paul Christiano er udnævnt til bestyrelsen for OpenAI Foundation. Han bliver observatør uden stemmeret i bestyrelsen for OpenAI Group PBC.
Paul bliver også medlem af fondens Sikkerhedsudvalg under bestyrelsen, hvor han skal arbejde sammen med udvalgets formand, Zico Kolter. Sikkerhedsudvalget fører tilsyn med sikkerhedspraksis i hele OpenAI, herunder OpenAI Group PBC.
Paul har erfaring fra den offentlige sektor under to regeringer gennem sit arbejde ved Center for AI Standards and Innovation (CAISI), som hører under National Institute of Standards and Technology (NIST), en myndighed under USA's handelsministerium, hvor han er teknisk seniorrådgiver. I sin tid ved CAISI og dets forgænger, U.S. AI Safety Institute, har Paul arbejdet med at evaluere banebrydende AI-modeller, herunder evner med betydning for den nationale sikkerhed, og med metoder til at mindske de tilknyttede sikkerhedsrisici.
Paul er også grundlægger af Alignment Research Center (ARC), en nonprofitorganisation, der forsker i at bringe avancerede AI-systemer i overensstemmelse med menneskelige interesser. Fra 2017 til 2021 ledede Paul forskningen i alignment hos OpenAI og bidrog med grundlæggende arbejde inden for forstærkende læring fra menneskelig feedback (RLHF). I sin nye rolle bidrager Paul med et særligt, teknisk funderet perspektiv på de ledelsesbeslutninger, der er centrale for OpenAI's mission.
Paul har været med til at forme forskningsfeltet AI-alignment gennem grundigt arbejde med fokus på de sværeste spørgsmål, som stadig mere avancerede systemer rejser. Hans erfaring fra den offentlige sektor med sikkerhed og standarder for banebrydende AI vil sammen med hans tekniske dømmekraft styrke bestyrelsens tilsyn og Sikkerhedsudvalgets arbejde, mens OpenAI fortsætter med at udvikle og udrulle banebrydende AI.
AI's evner har udviklet sig meget hurtigt det seneste år, og alignment er stadig et vanskeligt teknisk problem. Det gør Sikkerhedsudvalgets ansvar vigtigere og mere udfordrende end nogensinde. Jeg glæder mig til at blive en del af holdet og bidrage til arbejdet.
AI er på vej ind i en ny æra med øgede evner. Det gør det stadig vigtigere, at systemernes fremskridt følges af solide rammer for sikkerhed, alignment og ansvarlig ledelse. Gennem hele sin karriere som forsker i AI-alignment har Paul taget alvorligt, at avanceret AI kan indebære katastrofale risici, og at udviklere skal forberede sig, før systemernes evner når et farligere niveau. Han har været en uafhængig stemme i spørgsmålet om, hvorvidt branchens sikkerhedsforanstaltninger er tilstrækkelige. Vi mener, at fondens ledelse står stærkere med mennesker, der er parate til at udfordre gængse antagelser og bidrage til at styrke den evidens, de sikkerhedsforanstaltninger og det ansvar, som afgørende beslutninger bygger på.
Pauls udnævnelse bygger videre på den ledelsesstruktur, der blev etableret ved OpenAI's rekapitalisering i oktober 2025. Den omfatter de forpligtelser, der blev indgået i forbindelse med de gennemgange, som Californiens justitsminister og Delawares justitsminister foretog i løbet af et år. Deres involvering var med til at styrke rammerne for ledelsen.
Om OpenAI Foundation
OpenAI Foundation er en almennyttig organisation, der arbejder for at sikre, at AI kommer hele menneskeheden til gode. Som en selvstændig nonprofitorganisation driver fonden sine egne almennyttige aktiviteter, samtidig med at den bevarer kontrollen over og en betydelig ejerandel i OpenAI Group PBC. Fonden støtter initiativer, der fremmer videnskabelige opdagelser, styrker civilsamfundet og opbygger modstandskraft gennem ansvarlig AI. Gennem bevillinger, partnerskaber og andre filantropiske initiativer hjælper fonden med at fremskynde arbejde, der skaber varig samfundsmæssig værdi og giver flere adgang til AI's transformative potentiale.
Fonden kontrollerer OpenAI Group PBC, og Sikkerhedsudvalget hører under fondens bestyrelse. Læs mere på www.openaifoundation.org.
*I sin rolle som teknisk seniorrådgiver vil Paul erklære sig inhabil i alle sager vedrørende OpenAI og i alle modelevalueringer.