Paul Christiano entra para o Conselho da OpenAI Foundation
Paul Christiano também integrará o Comitê de Segurança e Proteção da Fundação.
Anunciamos a nomeação de Paul Christiano para o Conselho da OpenAI Foundation. Ele será observador sem direito a voto no Conselho da OpenAI Group PBC.
Paul também integrará o Comitê de Segurança e Proteção do Conselho da Fundação, trabalhando ao lado de seu presidente, Zico Kolter. O Comitê de Segurança e Proteção é responsável pela governança das práticas de segurança e proteção em toda a OpenAI, incluindo a OpenAI Group PBC.
Paul traz experiência no governo ao longo de duas gestões por meio de seu trabalho no Centro de Padrões e Inovação em IA (CAISI), vinculado ao Instituto Nacional de Padrões e Tecnologia (NIST), um órgão do Departamento de Comércio dos EUA, onde atua como assessor técnico sênior. Durante sua atuação no CAISI e em seu antecessor, o Instituto de Segurança de IA dos EUA, Paul tem trabalhado na avaliação de modelos de IA de ponta, incluindo capacidades com implicações para a segurança nacional, e em abordagens para mitigar os riscos associados à segurança e à proteção.
Paul também é fundador do Centro de Pesquisa em Alinhamento (ARC), uma organização de pesquisa sem fins lucrativos voltada ao alinhamento de sistemas avançados de IA com os interesses humanos. De 2017 a 2021, Paul liderou a pesquisa em alinhamento na OpenAI e realizou contribuições fundamentais para o aprendizado por reforço com feedback humano (RLHF). Nessa nova função, Paul traz uma perspectiva singular e tecnicamente fundamentada às decisões de governança centrais para a missão da OpenAI.
Paul ajudou a definir o campo do alinhamento de IA com um trabalho rigoroso e focado nas questões mais difíceis que surgem com sistemas cada vez mais capazes. Sua experiência no governo com segurança e padrões para IA de ponta, aliada ao seu discernimento técnico, fortalecerá a supervisão do Conselho e o trabalho do Comitê de Segurança e Proteção à medida que a OpenAI continuar a desenvolver e implantar IA de ponta.
As capacidades da IA avançaram muito rapidamente no último ano, e o alinhamento continua sendo um problema técnico difícil, tornando a responsabilidade do Comitê de Segurança e Proteção mais importante e desafiadora do que nunca. Estou animado para me juntar à equipe e ajudar.
A IA está entrando em uma nova era de capacidades, o que torna cada vez mais importante que os avanços desses sistemas sejam acompanhados de práticas sólidas de segurança, proteção, alinhamento e governança. Ao longo de sua carreira de pesquisa em alinhamento de IA, Paul tem levado a sério a possibilidade de que a IA avançada apresente riscos catastróficos e a necessidade de que os desenvolvedores se preparem antes que os sistemas atinjam níveis mais perigosos de capacidade. Ele tem sido uma voz independente no debate sobre a adequação das salvaguardas do setor. Acreditamos que a governança da Fundação se fortalece com pessoas dispostas a questionar pressupostos predominantes e a ajudar a aprimorar as evidências, as salvaguardas e os mecanismos de responsabilização que sustentam decisões críticas.
A nomeação de Paul dá continuidade à estrutura de governança estabelecida com a recapitalização da OpenAI em outubro de 2025, incluindo os compromissos assumidos no contexto das análises conduzidas ao longo de um ano pela Procuradoria-Geral da Califórnia e pela Procuradoria-Geral de Delaware. A participação dessas instituições ajudou a fortalecer a estrutura de governança.
Sobre a OpenAI Foundation
A OpenAI Foundation é uma organização filantrópica dedicada a garantir que a IA beneficie toda a humanidade. Como organização sem fins lucrativos independente, a Fundação conduz suas próprias atividades filantrópicas e mantém o controle e uma participação acionária significativa na OpenAI Group PBC. A Fundação apoia iniciativas que promovem descobertas científicas, fortalecem a sociedade civil e ampliam a resiliência por meio do uso responsável da IA. Por meio de doações, parcerias e outras iniciativas filantrópicas, a Fundação ajuda a acelerar trabalhos que geram benefícios duradouros para a sociedade e ampliam o acesso ao potencial transformador da IA.
A Fundação controla a OpenAI Group PBC, e o Comitê de Segurança e Proteção integra o Conselho da Fundação. Saiba mais em www.openaifoundation.org.
*Como assessor técnico sênior, Paul se declarará impedido de participar de todos os assuntos relacionados à OpenAI, bem como de todas as avaliações de modelos.