Paul Christiano menyertai Lembaga OpenAI Foundation
Paul Christiano juga akan menyertai Jawatankuasa Keselamatan dan Sekuriti yayasan ini.
Kami mengumumkan pelantikan Paul Christiano sebagai ahli Lembaga OpenAI Foundation. Beliau akan menjadi pemerhati tanpa hak mengundi dalam Lembaga OpenAI Group PBC.
Paul juga akan menyertai Jawatankuasa Keselamatan dan Sekuriti di bawah Lembaga OpenAI Foundation, dan bekerjasama dengan pengerusinya, Zico Kolter. Jawatankuasa Keselamatan dan Sekuriti menyediakan tadbir urus bagi amalan keselamatan dan sekuriti di seluruh OpenAI, termasuk OpenAI Group PBC.
Paul membawa pengalaman dalam kerajaan merentas dua pentadbiran melalui khidmatnya di Pusat Piawaian dan Inovasi AI (CAISI) di bawah Institut Piawaian dan Teknologi Kebangsaan (NIST), sebuah agensi Jabatan Perdagangan A.S., tempat beliau berkhidmat sebagai Penasihat Teknikal Kanan. Sepanjang berkhidmat di CAISI dan institusi pendahulunya, Institut Keselamatan AI A.S., Paul telah menilai model AI perbatasan, termasuk keupayaan yang mempunyai implikasi terhadap keselamatan negara, serta mengusahakan pendekatan untuk mengurangkan risiko keselamatan dan sekuriti yang berkaitan.
Paul juga merupakan pengasas Pusat Penyelidikan Penjajaran (ARC), sebuah organisasi penyelidikan bukan untung yang menumpukan usaha untuk menjajarkan sistem AI termaju dengan kepentingan manusia. Dari 2017 hingga 2021, Paul mengetuai penyelidikan penjajaran di OpenAI dan menyumbang kepada usaha asas dalam Pembelajaran Pengukuhan daripada Maklum Balas Manusia (RLHF). Dalam peranan baharu ini, Paul membawa perspektif tersendiri yang berlandaskan kepakaran teknikal kepada keputusan tadbir urus yang menjadi teras misi OpenAI.
Paul telah membantu membentuk bidang penjajaran AI melalui usaha yang teliti dan tertumpu pada persoalan paling sukar yang timbul daripada sistem yang semakin berkeupayaan. Pengalamannya dalam keselamatan dan piawaian AI perbatasan di sektor kerajaan, serta pertimbangan teknikalnya, akan mengukuhkan pengawasan Lembaga dan usaha Jawatankuasa Keselamatan dan Sekuriti seiring dengan usaha berterusan OpenAI untuk membangunkan dan melaksanakan AI perbatasan.
Keupayaan AI telah berkembang dengan amat pesat sepanjang tahun lalu, sedangkan penjajaran masih menjadi masalah teknikal yang sukar. Hal ini menjadikan tanggungjawab Jawatankuasa Keselamatan dan Sekuriti lebih penting dan lebih mencabar berbanding sebelum ini. Saya teruja untuk menyertai pasukan ini dan membantu.
Keupayaan AI sedang memasuki era baharu. Oleh itu, semakin penting untuk memastikan kemajuan sistem ini disertai keselamatan, sekuriti, penjajaran dan tadbir urus yang kukuh. Sepanjang kerjayanya dalam penyelidikan penjajaran AI, Paul memandang serius kemungkinan bahawa AI termaju boleh mendatangkan risiko bencana besar, serta keperluan untuk pembangun bersiap sedia sebelum sistem mencapai tahap keupayaan yang lebih berbahaya. Beliau telah menjadi suara bebas dalam mempersoalkan sama ada langkah perlindungan industri ini mencukupi. Kami percaya tadbir urus yayasan ini menjadi lebih kukuh dengan adanya individu yang bersedia mencabar andaian lazim dan membantu memperkukuh bukti, langkah perlindungan serta kebertanggungjawaban yang mendasari keputusan penting.
Pelantikan Paul memperkukuh struktur tadbir urus yang diwujudkan melalui permodalan semula OpenAI pada Oktober 2025, termasuk komitmen yang dibuat berkaitan dengan semakan selama setahun oleh Peguam Negara California dan Peguam Negara Delaware. Penglibatan mereka membantu memperkukuh rangka kerja tadbir urus ini.
Tentang OpenAI Foundation
OpenAI Foundation ialah organisasi amal yang berdedikasi untuk memastikan AI memberi manfaat kepada seluruh umat manusia. Sebagai organisasi bukan untung yang berasingan, yayasan ini menjalankan operasi amalnya sendiri sambil mengekalkan kawalan dan memegang kepentingan ekuiti yang besar dalam OpenAI Group PBC. Yayasan ini menyokong inisiatif yang memajukan penemuan saintifik, memperkukuh masyarakat sivil dan membina daya tahan melalui AI yang bertanggungjawab. Melalui geran, kerjasama dan inisiatif dermawan lain, yayasan ini membantu mempercepat usaha yang menghasilkan manfaat berkekalan untuk orang ramai serta meluaskan akses kepada potensi transformatif AI.
Yayasan ini mengawal OpenAI Group PBC, manakala Jawatankuasa Keselamatan dan Sekuriti merupakan jawatankuasa di bawah Lembaga yayasan ini. Ketahui lebih lanjut di www.openaifoundation.org.
*Sebagai Penasihat Teknikal Kanan, Paul tidak akan melibatkan diri dalam sebarang urusan berkaitan OpenAI serta semua penilaian model.