Paul Christiano s'incorpora al patronat d'OpenAI Foundation
Paul Christiano també s'incorporarà al Comitè de Protecció i Seguretat de la Fundació.
Anunciem el nomenament de Paul Christiano com a membre del patronat d'OpenAI Foundation. També serà observador sense dret de vot al consell d'administració d'OpenAI Group PBC.
Paul també s'incorporarà al Comitè de Protecció i Seguretat del patronat de la Fundació, on treballarà al costat del seu president, Zico Kolter. El Comitè de Protecció i Seguretat supervisa les pràctiques de protecció i seguretat de tot OpenAI, inclosa OpenAI Group PBC.
Paul aporta experiència a l'Administració pública durant dos governs gràcies a la seva feina al Centre d'Estàndards i Innovació en IA (CAISI), integrat a l'Institut Nacional d'Estàndards i Tecnologia (NIST), un organisme dels EUA dependent del Departament de Comerç, on exerceix d'assessor tècnic sènior. Durant la seva etapa al CAISI i al seu predecessor, l'Institut dels EUA per a la Seguretat de la IA, Paul ha treballat en l'avaluació de models d'IA d'avantguarda, incloses les capacitats amb implicacions per a la seguretat nacional, i en enfocaments per mitigar els riscos associats de protecció i seguretat.
Paul també és el fundador del Centre de Recerca en Alineament (ARC), una organització de recerca sense ànim de lucre centrada a alinear els sistemes avançats d'IA amb els interessos humans. Del 2017 al 2021, Paul va dirigir la recerca en alineament a OpenAI i va fer aportacions fonamentals a l'aprenentatge per reforç a partir de la retroacció humana (RLHF). En aquest nou càrrec, Paul aporta una perspectiva pròpia i amb una sòlida base tècnica a les decisions de governança essencials per a la missió d'OpenAI.
Paul ha contribuït a definir el camp de l'alineament de la IA amb un treball rigorós, centrat en les qüestions més difícils que plantegen uns sistemes cada vegada més capaços. La seva experiència en seguretat i estàndards d'IA d'avantguarda dins de l'Administració pública, juntament amb el seu criteri tècnic, reforçarà la supervisió del patronat i la tasca del Comitè de Protecció i Seguretat mentre OpenAI continua desenvolupant i desplegant IA d'avantguarda.
Les capacitats de la IA han avançat molt ràpidament durant l'últim any i l'alineament continua sent un problema tècnic difícil. Això fa que la responsabilitat del Comitè de Protecció i Seguretat sigui més important i més exigent que mai. Em fa il·lusió incorporar-me a l'equip per ajudar-hi.
La IA entra en una nova era de capacitats, fet que fa cada vegada més important que els avenços d'aquests sistemes vagin acompanyats de mesures sòlides de protecció, seguretat, alineament i governança. Al llarg de la seva trajectòria en la recerca sobre l'alineament de la IA, Paul ha defensat una perspectiva que es pren seriosament la possibilitat que la IA avançada comporti riscos catastròfics i la necessitat que els desenvolupadors es preparin abans que els sistemes assoleixin nivells de capacitat més perillosos. Ha estat una veu independent en el debat sobre si les salvaguardes del sector són adequades. Creiem que la governança de la Fundació és més sòlida quan compta amb persones disposades a qüestionar els supòsits predominants i a reforçar les evidències, les salvaguardes i la rendició de comptes que sustenten les decisions crucials.
El nomenament de Paul s'emmarca en l' estructura de governança establerta amb la recapitalització d'OpenAI l'octubre del 2025, inclosos els compromisos adquirits arran de les revisions que van dur a terme durant un any el fiscal general de Califòrnia i la fiscal general de Delaware. La seva participació va contribuir a reforçar el marc de governança.
Sobre OpenAI Foundation
OpenAI Foundation és una organització benèfica dedicada a garantir que la IA beneficiï tota la humanitat. Com a organització sense ànim de lucre diferenciada, la Fundació duu a terme les seves pròpies activitats benèfiques alhora que manté el control d'OpenAI Group PBC i hi té una participació significativa en el capital. La Fundació dona suport a iniciatives que impulsen els descobriments científics, enforteixen la societat civil i fomenten la resiliència mitjançant una IA responsable. Mitjançant subvencions, col·laboracions i altres iniciatives filantròpiques, la Fundació ajuda a accelerar projectes que generen un benefici públic durador i amplien l'accés al potencial transformador de la IA.
La Fundació controla OpenAI Group PBC, i el Comitè de Protecció i Seguretat és un comitè del seu patronat. Més informació a www.openaifoundation.org.
*En qualitat d'assessor tècnic sènior, Paul s'abstindrà d'intervenir en qualsevol assumpte relacionat amb OpenAI i en totes les avaluacions de models.