Paul Christiano ร่วมคณะกรรมการ OpenAI Foundation
Paul Christiano จะเข้าร่วมคณะกรรมการด้านความปลอดภัยของมูลนิธิด้วย
เราขอประกาศแต่งตั้ง Paul Christiano เป็นกรรมการของ OpenAI Foundation เขาจะเข้าร่วมคณะกรรมการ OpenAI Group PBC ในฐานะผู้สังเกตการณ์ที่ไม่มีสิทธิ์ออกเสียง
Paul จะเข้าร่วมคณะกรรมการด้านความปลอดภัย ซึ่งอยู่ภายใต้คณะกรรมการมูลนิธิด้วย โดยทำงานร่วมกับ Zico Kolter ประธานคณะกรรมการด้านความปลอดภัย คณะกรรมการด้านความปลอดภัยกำกับดูแลแนวปฏิบัติด้านความปลอดภัยและความมั่นคงทั่วทั้ง OpenAI รวมถึง OpenAI Group PBC
Paul มีประสบการณ์ในภาครัฐครอบคลุมรัฐบาลสองสมัย จากการทำงานที่ ศูนย์มาตรฐานและนวัตกรรม AI (CAISI) ภายใต้สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) ซึ่งเป็นหน่วยงานในสังกัด กระทรวงพาณิชย์ของสหรัฐฯ โดยเขาดำรงตำแหน่งที่ปรึกษาอาวุโสด้านเทคโนโลยี ระหว่างทำงานที่ CAISI และหน่วยงานก่อนหน้าอย่าง สถาบันความปลอดภัยด้าน AI แห่งสหรัฐฯ Paul ได้ประเมินโมเดล AI ระดับแนวหน้า รวมถึงความสามารถที่มีนัยต่อความมั่นคงของชาติ และศึกษาแนวทางลดความเสี่ยงด้านความปลอดภัยและความมั่นคงที่เกี่ยวข้อง
Paul ยังเป็นผู้ก่อตั้ง ศูนย์วิจัยการปรับ AI ให้สอดคล้องกับมนุษย์ (ARC) ซึ่งเป็นองค์กรวิจัยไม่แสวงหาผลกำไรที่มุ่งปรับระบบ AI ขั้นสูงให้สอดคล้องกับผลประโยชน์ของมนุษย์ ตั้งแต่ปี 2017 ถึง 2021 Paul เป็นผู้นำการวิจัยด้านการปรับ AI ให้สอดคล้องกับมนุษย์ที่ OpenAI และมีส่วนในงานวางรากฐานด้านการเรียนรู้แบบเสริมกำลังจากข้อเสนอแนะของมนุษย์ (RLHF) ในบทบาทใหม่นี้ Paul จะนำมุมมองเฉพาะตัวที่มีพื้นฐานทางเทคนิคมาช่วยในการตัดสินใจด้านการกำกับดูแลที่เป็นหัวใจสำคัญของพันธกิจ OpenAI
Paul มีส่วนช่วยวางรากฐานให้สาขาการปรับ AI ให้สอดคล้องกับมนุษย์ ผ่านงานที่เข้มงวดรัดกุมและมุ่งตอบคำถามที่ยากที่สุดจากระบบที่มีความสามารถเพิ่มขึ้นเรื่อยๆ ประสบการณ์ของเขาในภาครัฐด้านความปลอดภัยและมาตรฐานของ AI ระดับแนวหน้า รวมถึงวิจารณญาณด้านเทคนิค จะช่วยเสริมการกำกับดูแลของคณะกรรมการและการทำงานของคณะกรรมการด้านความปลอดภัยให้เข้มแข็งยิ่งขึ้น ขณะที่ OpenAI ยังคงพัฒนาและนำ AI ระดับแนวหน้าไปใช้งาน
ความสามารถของ AI ก้าวหน้าอย่างรวดเร็วมากในปีที่ผ่านมา และการปรับ AI ให้สอดคล้องกับมนุษย์ยังคงเป็นโจทย์ทางเทคนิคที่ยาก ทำให้ภาระหน้าที่ของคณะกรรมการด้านความปลอดภัยสำคัญและท้าทายยิ่งกว่าที่เคย ผมรู้สึกตื่นเต้นที่จะได้เข้าร่วมทีมเพื่อช่วยงานนี้
ขีดความสามารถของ AI กำลังก้าวสู่ยุคใหม่ จึงยิ่งสำคัญที่ความก้าวหน้าของระบบเหล่านี้ต้องมาพร้อมกับความปลอดภัย ความมั่นคง ความสอดคล้องกับมนุษย์ และการกำกับดูแลที่เข้มแข็ง ตลอดเส้นทางอาชีพการวิจัยด้านการปรับ AI ให้สอดคล้องกับมนุษย์ Paul ให้ความสำคัญอย่างจริงจังกับความเป็นไปได้ที่ AI ขั้นสูงอาจก่อให้เกิดความเสี่ยงระดับหายนะ และเห็นว่านักพัฒนาต้องเตรียมพร้อมก่อนที่ระบบจะมีขีดความสามารถถึงระดับที่อันตรายยิ่งขึ้น เขาแสดงความคิดเห็นอย่างเป็นอิสระมาโดยตลอดว่ามาตรการป้องกันของอุตสาหกรรมเพียงพอหรือไม่ เราเชื่อว่าการกำกับดูแลของมูลนิธิจะแข็งแกร่งขึ้นเมื่อมีผู้ที่พร้อมตั้งคำถามกับสมมติฐานที่ยอมรับกันทั่วไป และช่วยเสริมความเข้มแข็งให้กับหลักฐาน มาตรการป้องกัน และความรับผิดชอบที่รองรับการตัดสินใจสำคัญ
การแต่งตั้ง Paul เป็นการต่อยอด โครงสร้างการกำกับดูแลที่จัดตั้งขึ้นผ่านการปรับโครงสร้างเงินทุนของ OpenAI ในเดือนตุลาคม 2025 รวมถึงคำมั่นที่ให้ไว้ในการทบทวนซึ่งดำเนินมาตลอดหนึ่งปีโดยอัยการสูงสุดรัฐแคลิฟอร์เนียและอัยการสูงสุดรัฐเดลาแวร์ การมีส่วนร่วมของทั้งสองฝ่ายช่วยให้กรอบการกำกับดูแลเข้มแข็งยิ่งขึ้น
เกี่ยวกับ OpenAI Foundation
OpenAI Foundation เป็นองค์กรการกุศลที่มุ่งมั่นให้ AI สร้างประโยชน์แก่มนุษยชาติทุกคน ในฐานะองค์กรไม่แสวงหาผลกำไรที่แยกเป็นเอกเทศ มูลนิธิดำเนินงานการกุศลของตนเอง ควบคู่กับการคงอำนาจควบคุมและถือหุ้นในสัดส่วนที่สำคัญใน OpenAI Group PBC มูลนิธิสนับสนุนโครงการที่ส่งเสริมการค้นพบทางวิทยาศาสตร์ เสริมความเข้มแข็งให้ภาคประชาสังคม และสร้างความสามารถในการรับมือและฟื้นตัวผ่านการใช้ AI อย่างมีความรับผิดชอบ มูลนิธิช่วยเร่งงานที่สร้างประโยชน์สาธารณะอย่างยั่งยืน และขยายโอกาสให้ผู้คนเข้าถึงศักยภาพของ AI ในการสร้างความเปลี่ยนแปลง ผ่านการให้ทุน ความร่วมมือ และโครงการเพื่อสาธารณประโยชน์อื่นๆ
มูลนิธิมีอำนาจควบคุม OpenAI Group PBC โดยคณะกรรมการด้านความปลอดภัยเป็นคณะกรรมการชุดหนึ่งภายใต้คณะกรรมการมูลนิธิ ดูข้อมูลเพิ่มเติมได้ที่ www.openaifoundation.org
*ในฐานะที่ปรึกษาอาวุโสด้านเทคนิค Paul จะเว้นจากการมีส่วนร่วมในทุกเรื่องที่เกี่ยวข้องกับ OpenAI รวมถึงการประเมินโมเดลทั้งหมด