Paul Christiano rejoint le conseil d’administration de l’OpenAI Foundation
Paul Christiano se joindra également au comité de sûreté et de sécurité de la Fondation.
Nous annonçons la nomination de Paul Christiano au conseil d’administration de l’OpenAI Foundation. Il sera observateur sans droit de vote au conseil d’administration d’OpenAI Group PBC.
Paul se joindra également au comité de sûreté et de sécurité du conseil d’administration de la Fondation, où il travaillera aux côtés de son président, Zico Kolter. Le comité de sûreté et de sécurité assure la gouvernance des pratiques de sûreté et de sécurité dans l’ensemble d’OpenAI, y compris OpenAI Group PBC.
Paul apporte une expérience gouvernementale acquise sous deux administrations grâce à son travail au Center for AI Standards and Innovation (CAISI), au sein du National Institute of Standards and Technology (NIST), un organisme du département du Commerce des États-Unis, où il occupe le poste de conseiller technique principal. Au cours de son mandat au CAISI et auprès de son prédécesseur, le U.S. AI Safety Institute, Paul a travaillé à l’évaluation de modèles d’IA de pointe, notamment de capacités ayant des implications pour la sécurité nationale, ainsi qu’à des approches visant à atténuer les risques connexes en matière de sûreté et de sécurité.
Paul est également le fondateur de l’ Alignment Research Center (ARC), un organisme de recherche à but non lucratif qui se consacre à l’alignement des systèmes d’IA avancés sur les intérêts humains. De 2017 à 2021, Paul a dirigé la recherche sur l’alignement chez OpenAI et a contribué à des travaux fondateurs sur l’apprentissage par renforcement à partir de retours humains (RLFH). Dans ce nouveau rôle, Paul apporte une perspective distincte, ancrée dans une expertise technique, aux décisions de gouvernance au cœur de la mission d’OpenAI.
Paul a contribué à définir le domaine de l’alignement de l’IA par des travaux rigoureux axés sur les questions les plus difficiles que posent des systèmes de plus en plus performants. Son expérience au sein du gouvernement en matière de sûreté et de normes pour l’IA de pointe, conjuguée à son jugement technique, renforcera la supervision du conseil et les travaux du comité de sûreté et de sécurité, alors qu’OpenAI poursuit le développement et le déploiement de l’IA de pointe.
Les capacités de l’IA ont progressé très rapidement au cours de la dernière année et l’alignement demeure un problème technique difficile, ce qui rend la responsabilité du comité de sûreté et de sécurité plus importante et plus exigeante que jamais. Je suis ravi de me joindre à l’équipe pour y contribuer.
L’IA entre dans une nouvelle ère de capacités, ce qui rend de plus en plus important d’accompagner les progrès de ces systèmes de pratiques solides en matière de sûreté, de sécurité, d’alignement et de gouvernance. Tout au long de sa carrière de chercheur en alignement de l’IA, Paul a défendu une perspective qui prend au sérieux la possibilité que l’IA avancée présente des risques catastrophiques et la nécessité pour les développeurs de s’y préparer avant que les systèmes n’atteignent des niveaux de capacité plus dangereux. Il a fait entendre une voix indépendante sur la question de savoir si les mesures de protection du secteur sont adéquates. Nous croyons que la gouvernance de la Fondation est plus solide lorsqu’elle réunit des personnes prêtes à remettre en question les idées dominantes et à renforcer les données probantes, les mesures de protection et la reddition de comptes sur lesquelles reposent les décisions cruciales.
La nomination de Paul s’inscrit dans la structure de gouvernance établie lors de la recapitalisation d’OpenAI en octobre 2025, notamment les engagements pris dans le cadre des examens menés pendant un an par le procureur général de la Californie et la procureure générale du Delaware. Leur participation a contribué à renforcer le cadre de gouvernance.
À propos de l’OpenAI Foundation
L’OpenAI Foundation est un organisme de bienfaisance qui veille à ce que l’IA profite à toute l’humanité. En tant qu’organisme à but non lucratif distinct, la Fondation mène ses propres activités de bienfaisance tout en conservant le contrôle d’OpenAI Group PBC et en y détenant une participation importante au capital. La Fondation soutient des initiatives qui font progresser les découvertes scientifiques, renforcent la société civile et favorisent la résilience grâce à une IA responsable. Par des subventions, des partenariats et d’autres initiatives philanthropiques, la Fondation contribue à accélérer des travaux qui produisent des retombées positives durables pour la société et élargissent l’accès au potentiel transformateur de l’IA.
La Fondation contrôle OpenAI Group PBC, et le comité de sûreté et de sécurité relève du conseil d’administration de la Fondation. Pour en savoir plus, consultez www.openaifoundation.org.
*En tant que conseiller technique principal, Paul se récusera de tous les dossiers liés à OpenAI ainsi que de toutes les évaluations de modèles.