Paul Christiano går inn i styret i OpenAI Foundation
Paul Christiano blir også medlem av stiftelsens Sikkerhets- og vernekomité.
Vi kunngjør at Paul Christiano er utnevnt til styremedlem i OpenAI Foundation. Han blir observatør uten stemmerett i styret i OpenAI Group PBC.
Paul blir også medlem av stiftelsesstyrets Sikkerhets- og vernekomité, der han vil samarbeide med komiteens leder, Zico Kolter. Sikkerhets- og vernekomiteen fører tilsyn med sikkerhets- og vernearbeidet i hele OpenAI, inkludert OpenAI Group PBC.
Paul har erfaring fra offentlig sektor under to administrasjoner gjennom sitt arbeid ved Center for AI Standards and Innovation (CAISI) ved National Institute of Standards and Technology (NIST), en etat under USAs handelsdepartement, der han er teknisk seniorrådgiver. I sin tid ved CAISI og forgjengeren, U.S. AI Safety Institute, har Paul arbeidet med evaluering av banebrytende KI-modeller, blant annet evner med betydning for nasjonal sikkerhet, og med metoder for å redusere tilhørende sikkerhets- og vernerisikoer.
Paul er også grunnlegger av Alignment Research Center (ARC), en ideell forskningsorganisasjon som arbeider for å tilpasse avanserte KI-systemer til menneskelige interesser. Fra 2017 til 2021 ledet Paul forskningen på KI-tilpasning ved OpenAI og bidro med grunnleggende arbeid innen forsterkende læring fra menneskelig tilbakemelding (RLHF). I denne nye rollen tilfører Paul et særegent og teknisk fundert perspektiv på styringsbeslutningene som står sentralt i OpenAIs oppdrag.
Paul har bidratt til å forme fagfeltet KI-tilpasning gjennom grundig arbeid med de vanskeligste spørsmålene som stadig mer kapable systemer reiser. Hans erfaring fra offentlig sektor med sikkerhet og standarder for banebrytende KI, sammen med hans tekniske vurderingsevne, vil styrke styrets tilsyn og Sikkerhets- og vernekomiteens arbeid mens OpenAI fortsetter å utvikle og ta i bruk banebrytende KI.
KIs evner har utviklet seg svært raskt det siste året, og tilpasning til menneskelige interesser er fortsatt et vanskelig teknisk problem. Det gjør Sikkerhets- og vernekomiteens ansvar viktigere og mer utfordrende enn noen gang. Jeg gleder meg til å bli en del av teamet og bidra.
KI er på vei inn i en ny æra med økte evner. Det gjør det stadig viktigere at fremskrittene ledsages av solid arbeid med sikkerhet, vern, tilpasning til menneskelige interesser og styring. Gjennom hele karrieren som forsker på KI-tilpasning har Paul tatt på alvor muligheten for at avansert KI kan medføre katastrofale risikoer, og at utviklere må forberede seg før systemenes evner når farligere nivåer. Han har vært en uavhengig stemme i spørsmålet om bransjens sikkerhetstiltak er tilstrekkelige. Vi mener stiftelsens styring blir sterkere med mennesker som er villige til å utfordre rådende antakelser og bidra til å styrke kunnskapsgrunnlaget, sikkerhetstiltakene og ansvarliggjøringen som ligger til grunn for avgjørende beslutninger.
Utnevnelsen av Paul bygger videre på styringsstrukturen som ble etablert gjennom OpenAIs rekapitalisering i oktober 2025. Dette omfatter også forpliktelsene som ble inngått i forbindelse med gjennomgangene som Californias justisminister og Delawares justisminister gjennomførte i løpet av et år. Deres involvering bidro til å styrke styringsrammeverket.
Om OpenAI Foundation
OpenAI Foundation er en veldedig organisasjon som arbeider for å sikre at KI kommer hele menneskeheten til gode. Som en selvstendig ideell organisasjon driver stiftelsen sin egen veldedige virksomhet, samtidig som den beholder kontrollen over og en betydelig eierandel i OpenAI Group PBC. Stiftelsen støtter initiativer som fremmer vitenskapelige oppdagelser, styrker sivilsamfunnet og bygger motstandskraft gjennom ansvarlig KI. Gjennom tilskudd, partnerskap og andre filantropiske initiativer bidrar stiftelsen til å fremskynde arbeid som skaper varig samfunnsnytte og gir flere tilgang til KIs transformative potensial.
Stiftelsen kontrollerer OpenAI Group PBC, og Sikkerhets- og vernekomiteen er en komité under stiftelsens styre. Les mer på www.openaifoundation.org.
*Som teknisk seniorrådgiver vil Paul fratre behandlingen av alle saker knyttet til OpenAI og alle modellevalueringer.