Paul Christiano 加入 OpenAI Foundation 董事會
Paul Christiano 也將加入基金會的安全性委員會。
我們宣布任命 Paul Christiano 為 OpenAI Foundation 董事會成員。他也將以無表決權的觀察員身分,參與 OpenAI Group PBC 董事會。
Paul 也將加入基金會董事會的安全性委員會,與委員會主席 Zico Kolter 攜手合作。安全性委員會負責監督 OpenAI 整體的安全與資安實務,包括 OpenAI Group PBC。
Paul 在美國國家標準暨技術研究院(NIST)旗下的 AI 標準與創新中心(CAISI)任職,累積了跨越兩屆政府的公部門經驗。該研究院隸屬美國商務部,Paul 在中心擔任資深技術顧問。在 CAISI 及其前身美國AI 安全研究所任職期間,Paul 致力於評估前沿 AI 模型,包括可能影響國家安全的能力,並研究降低相關安全與資安風險的方法。
Paul 也是 對齊研究中心(ARC)的創辦人。這個非營利研究組織致力於讓先進 AI 系統與人類利益保持一致。2017 年至 2021 年間,Paul 領導 OpenAI 的對齊研究,並為基於人類回饋的強化學習(RLHF)做出奠基性貢獻。就任新職後,Paul 將以獨到且具深厚技術基礎的觀點,參與攸關 OpenAI 使命的核心治理決策。
Paul 以嚴謹的研究,聚焦能力日益強大的系統所帶來的最棘手問題,為 AI 對齊領域奠定了重要基礎。隨著 OpenAI 持續開發及部署前沿 AI,他在政府部門推動前沿 AI 安全與標準工作的經驗,加上他的技術判斷力,將有助於強化董事會的監督及安全性委員會的工作。
過去一年,AI 能力進展飛快,而對齊仍是難以解決的技術問題,這讓安全性委員會的職責比以往更重要,也更具挑戰。我很期待加入團隊,貢獻一己之力。
AI 的能力正邁入新時代。隨著這些系統持續進步,確保安全、資安、對齊與治理機制同步健全,變得日益重要。Paul 在研究 AI 對齊的職涯中,始終認真看待先進 AI 可能帶來災難性風險的可能性,並認為開發者必須在系統能力達到更危險的程度之前做好準備。對於業界的防護措施是否足夠,他始終保持獨立立場並提出見解。我們相信,有人願意挑戰普遍接受的假設,並協助強化關鍵決策所依據的證據、防護措施與問責機制,將使基金會的治理更加健全。
Paul 的任命延續了 OpenAI 於 2025 年 10 月資本重組時確立的 治理架構,也落實了在加州檢察長與德拉瓦州檢察長歷時一年的審查過程中所做的相關承諾。兩位檢察長的參與,有助於強化這套治理架構。
關於 OpenAI Foundation
OpenAI Foundation 是致力於確保 AI 造福全人類的慈善組織。基金會作為獨立的非營利組織,自行推動慈善業務,同時保有對 OpenAI Group PBC 的控制權,並持有其相當比例的股權。基金會支持透過負責任的 AI 推動科學發現、強化公民社會及提升韌性的各項計畫。基金會透過補助、合作夥伴關係及其他慈善計畫,加速推動能創造長遠公共利益的工作,讓更多人能受惠於 AI 帶來變革的潛力。
基金會掌握 OpenAI Group PBC 的控制權,安全性委員會則隸屬於基金會董事會。如需瞭解更多資訊,請造訪 www.openaifoundation.org。
*Paul 在擔任資深技術顧問時,將對所有 OpenAI 相關事務及所有模型評估採取迴避措施。