Paul Christiano se une al consejo de OpenAI Foundation
Paul Christiano también se incorporará al Comité de Seguridad y Protección de la Fundación.
Anunciamos el nombramiento de Paul Christiano como miembro del consejo de OpenAI Foundation. Será observador sin derecho a voto en el consejo de OpenAI Group PBC.
Paul también se incorporará al Comité de Seguridad y Protección del consejo de la Fundación, donde trabajará junto a su presidente, Zico Kolter. El Comité de Seguridad y Protección supervisa las prácticas de seguridad y protección de toda OpenAI, incluida OpenAI Group PBC.
Paul aporta experiencia en la Administración durante dos mandatos presidenciales gracias a su trabajo en el Centro de Normas e Innovación en IA (CAISI), integrado en el Instituto Nacional de Normas y Tecnología (NIST), un organismo del Departamento de Comercio de Estados Unidos, donde ejerce como asesor técnico sénior. Durante su etapa en el CAISI y en su predecesor, el Instituto de Seguridad de la IA de Estados Unidos, Paul ha trabajado en la evaluación de modelos de IA de vanguardia, incluidas capacidades con implicaciones para la seguridad nacional, y en enfoques para mitigar los riesgos asociados en materia de seguridad y protección.
Paul es también el fundador del Centro de Investigación sobre Alineamiento (ARC), una organización de investigación sin ánimo de lucro centrada en alinear los sistemas avanzados de IA con los intereses humanos. Entre 2017 y 2021, Paul dirigió la investigación sobre alineamiento en OpenAI y realizó aportaciones fundamentales al aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF). En este nuevo cargo, Paul aporta una perspectiva singular y con una sólida base técnica a las decisiones de gobernanza que son esenciales para la misión de OpenAI.
Paul ha contribuido a definir el campo del alineamiento de la IA con un trabajo riguroso, centrado en las cuestiones más difíciles que plantean unos sistemas cada vez más capaces. Su experiencia en la Administración en materia de seguridad y normas para la IA de vanguardia, junto con su criterio técnico, reforzará la supervisión del consejo y la labor del Comité de Seguridad y Protección a medida que OpenAI siga desarrollando y desplegando IA de vanguardia.
Las capacidades de la IA han avanzado muy rápido en el último año y el alineamiento sigue siendo un problema técnico difícil, lo que hace que la responsabilidad del Comité de Seguridad y Protección sea más importante y exigente que nunca. Me ilusiona incorporarme al equipo para contribuir a esta labor.
La IA está entrando en una nueva era de capacidades, por lo que cada vez es más importante que los avances de estos sistemas vayan acompañados de medidas sólidas de seguridad, protección, alineamiento y gobernanza. A lo largo de su trayectoria de investigación sobre el alineamiento de la IA, Paul ha defendido una perspectiva que se toma en serio la posibilidad de que la IA avanzada entrañe riesgos catastróficos y la necesidad de que los desarrolladores se preparen antes de que los sistemas alcancen niveles de capacidad más peligrosos. Ha sido una voz independiente a la hora de valorar si las salvaguardas del sector son adecuadas. Creemos que la gobernanza de la Fundación se refuerza al contar con personas dispuestas a cuestionar los supuestos predominantes y a ayudar a fortalecer las pruebas, las salvaguardas y la rendición de cuentas en las que se sustentan las decisiones críticas.
El nombramiento de Paul se enmarca en la estructura de gobernanza establecida mediante la recapitalización de OpenAI en octubre de 2025, incluidos los compromisos asumidos en relación con las revisiones realizadas a lo largo de un año por la Fiscalía General de California y la Fiscalía General de Delaware. Su participación ayudó a reforzar el marco de gobernanza.
Acerca de OpenAI Foundation
OpenAI Foundation es una organización benéfica dedicada a garantizar que la IA beneficie a toda la humanidad. Como organización sin ánimo de lucro independiente, la Fundación desarrolla sus propias actividades benéficas y, al mismo tiempo, mantiene el control de OpenAI Group PBC y una participación significativa en su capital. La Fundación apoya iniciativas que impulsan el descubrimiento científico, fortalecen la sociedad civil y fomentan la resiliencia mediante una IA responsable. A través de subvenciones, colaboraciones y otras iniciativas filantrópicas, la Fundación ayuda a acelerar proyectos que generan beneficios duraderos para la sociedad y amplían el acceso al potencial transformador de la IA.
La Fundación controla OpenAI Group PBC, y el Comité de Seguridad y Protección forma parte del consejo de la Fundación. Consulta más información en www.openaifoundation.org.
*En su calidad de asesor técnico sénior, Paul se abstendrá de participar en todos los asuntos relacionados con OpenAI, así como en todas las evaluaciones de modelos.