Paul Christiano integra o Conselho de Administração da OpenAI Foundation
Paul Christiano integrará também o Comité de Segurança e Proteção da Fundação.
Anunciamos a nomeação de Paul Christiano para o Conselho de Administração da OpenAI Foundation. Será observador sem direito de voto no Conselho de Administração da OpenAI Group PBC.
Paul integrará também o Comité de Segurança e Proteção do Conselho de Administração da Fundação, trabalhando em conjunto com o seu presidente, Zico Kolter. O Comité de Segurança e Proteção supervisiona as práticas de segurança e proteção em toda a OpenAI, incluindo a OpenAI Group PBC.
Paul traz experiência na administração pública ao longo de dois governos, adquirida através do seu trabalho no Centro de Normas e Inovação em IA (CAISI), integrado no Instituto Nacional de Normas e Tecnologia (NIST), uma agência do Departamento do Comércio dos EUA, onde é consultor técnico sénior. Durante o seu percurso no CAISI e no organismo que o antecedeu, o Instituto de Segurança da IA dos EUA, Paul tem trabalhado na avaliação de modelos de IA de fronteira, incluindo capacidades com implicações para a segurança nacional, e em abordagens para mitigar os riscos de segurança e proteção associados.
Paul é também o fundador do Centro de Investigação em Alinhamento (ARC), uma organização de investigação sem fins lucrativos dedicada a alinhar sistemas avançados de IA com os interesses humanos. De 2017 a 2021, Paul liderou a investigação em alinhamento na OpenAI e contribuiu com trabalho fundamental para a aprendizagem por reforço a partir de feedback humano (RLHF). Nestas novas funções, Paul traz uma perspetiva distinta e tecnicamente fundamentada às decisões de governação centrais para a missão da OpenAI.
Paul tem ajudado a definir o campo do alinhamento da IA através de um trabalho rigoroso, centrado nas questões mais difíceis colocadas por sistemas cada vez mais capazes. A sua experiência na administração pública em segurança e normas de IA de fronteira, aliada ao seu discernimento técnico, reforçará a supervisão do Conselho de Administração e o trabalho do Comité de Segurança e Proteção, à medida que a OpenAI continua a desenvolver e a disponibilizar IA de fronteira.
As capacidades da IA avançaram muito rapidamente no último ano e o alinhamento continua a ser um problema técnico difícil, tornando a responsabilidade do Comité de Segurança e Proteção mais importante e mais exigente do que nunca. É com entusiasmo que me junto à equipa para ajudar.
A IA está a entrar numa nova era de capacidades, tornando cada vez mais importante que os avanços nestes sistemas sejam acompanhados por práticas sólidas de segurança, proteção, alinhamento e governação. Ao longo da sua carreira de investigação em alinhamento da IA, Paul tem levado a sério a possibilidade de a IA avançada representar riscos catastróficos e a necessidade de os seus criadores se prepararem antes de os sistemas atingirem níveis de capacidade mais perigosos. Tem sido uma voz independente na discussão sobre a adequação das salvaguardas do setor. Acreditamos que a governação da Fundação é mais sólida quando conta com pessoas dispostas a questionar os pressupostos dominantes e a ajudar a reforçar a base factual, as salvaguardas e os mecanismos de responsabilização que sustentam decisões cruciais.
A nomeação de Paul dá continuidade à estrutura de governação estabelecida com a recapitalização da OpenAI em outubro de 2025, incluindo os compromissos assumidos no âmbito das análises realizadas ao longo de um ano pelo Procurador-Geral da Califórnia e pela Procuradora-Geral do Delaware. A sua participação ajudou a reforçar o quadro de governação.
Sobre a OpenAI Foundation
A OpenAI Foundation é uma organização filantrópica dedicada a garantir que a IA beneficia toda a humanidade. Enquanto organização sem fins lucrativos distinta, a Fundação desenvolve as suas próprias atividades filantrópicas, mantendo o controlo da OpenAI Group PBC e detendo uma participação significativa no seu capital. A Fundação apoia iniciativas que promovem a descoberta científica, reforçam a sociedade civil e desenvolvem a resiliência através de uma IA responsável. Através de apoios financeiros, parcerias e outras iniciativas filantrópicas, a Fundação ajuda a acelerar o trabalho que gera benefícios duradouros para a sociedade e alarga o acesso ao potencial transformador da IA.
A Fundação controla a OpenAI Group PBC, e o Comité de Segurança e Proteção faz parte do Conselho de Administração da Fundação. Saiba mais em www.openaifoundation.org.
*Nas suas funções de consultor técnico sénior, Paul abster-se-á de participar em todos os assuntos relacionados com a OpenAI, bem como em todas as avaliações de modelos.