פול כריסטיאנו מצטרף לדירקטוריון OpenAI Foundation
פול כריסטיאנו יצטרף גם ל-Safety and Security Committee של הקרן.
אנו מודיעים על מינויו של פול כריסטיאנו לדירקטוריון OpenAI Foundation. הוא ישמש כמשקיף ללא זכות הצבעה בדירקטוריון OpenAI Group PBC.
פול יצטרף גם ל-Safety and Security Committee של דירקטוריון הקרן, ויעבוד לצד יו״ר הוועדה, זיקו קולטר. ה-Safety and Security Committee מפקחת על נוהלי הבטיחות והאבטחה בכל OpenAI, לרבות OpenAI Group PBC.
פול מביא עמו ניסיון ממשלתי מתקופת כהונתם של שני ממשלים, בזכות עבודתו ב מרכז לתקנים ולחדשנות בבינה מלאכותית (CAISI), הפועל במסגרת המכון הלאומי לתקנים ולטכנולוגיה (NIST), סוכנות של משרד המסחר האמריקאי, שם הוא משמש כיועץ טכנולוגי בכיר. במהלך עבודתו ב-CAISI ובגוף שקדם לו, המכון האמריקאי לבטיחות בינה מלאכותית, עסק פול בהערכת מודלים של frontier AI, לרבות יכולות בעלות השלכות על הביטחון הלאומי, ובגישות לצמצום סיכוני הבטיחות והאבטחה הנלווים.
פול הוא גם מייסד המרכז לחקר ההתאמה לערכי האדם (ARC), ארגון מחקר ללא מטרות רווח המתמקד בהתאמת מערכות בינה מלאכותית מתקדמות לאינטרסים אנושיים. בשנים 2017–2021 הוביל פול ב-OpenAI את המחקר בתחום ההתאמה לערכי האדם, ותרם להנחת היסודות של למידת חיזוק ממשוב אנושי (RLHF). בתפקידו החדש, פול מביא נקודת מבט ייחודית ומבוססת מבחינה טכנית להחלטות הממשל התאגידי שבלב משימתה של OpenAI.
פול סייע לעצב את תחום ההתאמה של בינה מלאכותית לערכי האדם באמצעות עבודה קפדנית המתמקדת בשאלות הקשות ביותר שמעלות מערכות בעלות יכולות הולכות וגדלות. ניסיונו בעבודה ממשלתית על בטיחות ותקנים של frontier AI, לצד שיקול דעתו הטכני, יחזקו את הפיקוח של הדירקטוריון ואת עבודת ה-Safety and Security Committee, בעוד OpenAI ממשיכה לפתח ולהטמיע frontier AI.
יכולות הבינה המלאכותית התקדמו במהירות רבה בשנה האחרונה, וההתאמה לערכי האדם נותרה בעיה טכנית קשה. לכן האחריות המוטלת על ה-Safety and Security Committee חשובה ומאתגרת יותר מאי פעם. אני נרגש להצטרף לצוות ולסייע.
הבינה המלאכותית נכנסת לעידן חדש של יכולות, ולכן גוברת החשיבות של ליווי ההתקדמות במערכות אלה במנגנונים איתנים של בטיחות, אבטחה, התאמה לערכי האדם וממשל תאגידי. לאורך הקריירה שלו בחקר ההתאמה של בינה מלאכותית לערכי האדם, פול מציג גישה המתייחסת ברצינות לאפשרות שבינה מלאכותית מתקדמת עלולה להציב סיכונים קטסטרופליים, ולצורך של מפתחים להיערך לכך עוד לפני שהמערכות יגיעו לרמות יכולת מסוכנות יותר. הוא משמיע קול עצמאי בשאלה אם אמצעי ההגנה של התעשייה מספקים. אנו מאמינים שהממשל התאגידי של הקרן מתחזק בזכות אנשים המוכנים לערער על הנחות רווחות ולסייע בחיזוק התשתית הראייתית, אמצעי ההגנה והאחריותיות שעליהם נשענות החלטות קריטיות.
מינויו של פול ממשיך לבסס את מבנה הממשל התאגידי שנקבע במסגרת הארגון מחדש של מבנה ההון של OpenAI באוקטובר 2025, לרבות ההתחייבויות שניתנו בקשר לבדיקות שערכו במשך שנה התובע הכללי של קליפורניה והתובעת הכללית של דלאוור. מעורבותם סייעה לחזק את מסגרת הממשל התאגידי.
על OpenAI Foundation
OpenAI Foundation היא ארגון צדקה הפועל להבטיח שבינה מלאכותית תועיל לאנושות כולה. כארגון נפרד ללא מטרות רווח, הקרן מנהלת פעילות פילנתרופית משלה, ובמקביל שומרת על השליטה ב-OpenAI Group PBC ומחזיקה בנתח משמעותי ממניותיה. הקרן תומכת ביוזמות המקדמות תגליות מדעיות, מחזקות את החברה האזרחית ובונות חוסן באמצעות בינה מלאכותית אחראית. באמצעות מענקים, שותפויות ויוזמות פילנתרופיות נוספות, הקרן מסייעת להאיץ פעילות היוצרת תועלת ציבורית מתמשכת ומאפשרת ליותר אנשים ליהנות מהפוטנציאל של הבינה המלאכותית לחולל שינוי.
הקרן שולטת ב-OpenAI Group PBC, וה-Safety and Security Committee היא ועדה של דירקטוריון הקרן. למידע נוסף: www.openaifoundation.org.
*בתפקידו כיועץ טכנולוגי בכיר, פול יימנע מעיסוק בכל עניין הקשור ל-OpenAI וכן בכל הערכה של מודלים.