Paul Christiano 加入 OpenAI Foundation 董事會

Paul Christiano 也將加入基金會的安全性委員會。

作者:OpenAI Foundation

我們宣布任命 Paul Christiano 為 OpenAI Foundation 董事會成員。他也將以無表決權的觀察員身分,參與 OpenAI Group PBC 董事會。

Paul 也將加入基金會董事會的安全性委員會,與委員會主席 Zico Kolter 攜手合作。安全性委員會負責監督 OpenAI 整體的安全與資安實務,包括 OpenAI Group PBC。

Paul 在美國國家標準暨技術研究院(NIST)旗下的 AI 標準與創新中心⁠(CAISI)任職,累積了跨越兩屆政府的公部門經驗。該研究院隸屬美國商務部,Paul 在中心擔任資深技術顧問。在 CAISI 及其前身美國AI 安全研究所任職期間,Paul 致力於評估前沿 AI 模型,包括可能影響國家安全的能力,並研究降低相關安全與資安風險的方法。

Paul 也是 對齊研究中心⁠(ARC)的創辦人。這個非營利研究組織致力於讓先進 AI 系統與人類利益保持一致。2017 年至 2021 年間,Paul 領導 OpenAI 的對齊研究,並為基於人類回饋的強化學習(RLHF)做出奠基性貢獻。就任新職後,Paul 將以獨到且具深厚技術基礎的觀點,參與攸關 OpenAI 使命的核心治理決策。

Paul 以嚴謹的研究,聚焦能力日益強大的系統所帶來的最棘手問題,為 AI 對齊領域奠定了重要基礎。隨著 OpenAI 持續開發及部署前沿 AI,他在政府部門推動前沿 AI 安全與標準工作的經驗,加上他的技術判斷力,將有助於強化董事會的監督及安全性委員會的工作。
—Bret Taylor,OpenAI Foundation 與 OpenAI Group PBC 董事會主席
過去一年,AI 能力進展飛快,而對齊仍是難以解決的技術問題,這讓安全性委員會的職責比以往更重要,也更具挑戰。我很期待加入團隊,貢獻一己之力。
—Paul Christiano

AI 的能力正邁入新時代。隨著這些系統持續進步,確保安全、資安、對齊與治理機制同步健全,變得日益重要。Paul 在研究 AI 對齊的職涯中,始終認真看待先進 AI 可能帶來災難性風險的可能性,並認為開發者必須在系統能力達到更危險的程度之前做好準備。對於業界的防護措施是否足夠,他始終保持獨立立場並提出見解。我們相信,有人願意挑戰普遍接受的假設,並協助強化關鍵決策所依據的證據、防護措施與問責機制,將使基金會的治理更加健全。

Paul 的任命延續了 OpenAI 於 2025 年 10 月資本重組時確立的 治理架構⁠,也落實了在加州檢察長⁠與德拉瓦州檢察長⁠歷時一年的審查過程中所做的相關承諾。兩位檢察長的參與,有助於強化這套治理架構。

關於 OpenAI Foundation

OpenAI Foundation 是致力於確保 AI 造福全人類的慈善組織。基金會作為獨立的非營利組織,自行推動慈善業務,同時保有對 OpenAI Group PBC 的控制權,並持有其相當比例的股權⁠。基金會支持透過負責任的 AI 推動科學發現、強化公民社會及提升韌性的各項計畫。基金會透過補助、合作夥伴關係及其他慈善計畫,加速推動能創造長遠公共利益的工作,讓更多人能受惠於 AI 帶來變革的潛力。

基金會掌握 OpenAI Group PBC 的控制權,安全性委員會則隸屬於基金會董事會。如需瞭解更多資訊,請造訪 www.openaifoundation.org⁠⁠。

*Paul 在擔任資深技術顧問時,將對所有 OpenAI 相關事務及所有模型評估採取迴避措施。