Пол Кристиано вошёл в совет директоров OpenAI Foundation
Пол Кристиано также войдёт в Комитет по безопасности и защите фонда.
Мы объявляем о назначении Пола Кристиано в совет директоров OpenAI Foundation. Он также станет наблюдателем без права голоса в совете директоров OpenAI Group PBC.
Кроме того, Пол войдёт в Комитет по безопасности и защите при совете директоров фонда и будет работать вместе с его председателем Зико Колтером. Комитет по безопасности и защите осуществляет надзор за практиками обеспечения безопасности и защиты во всей OpenAI, включая OpenAI Group PBC.
Пол обладает опытом государственной службы при двух администрациях: он работал в Центре стандартов и инноваций в области ИИ (CAISI) при Национальном институте стандартов и технологий (NIST), входящем в состав Министерства торговли США, где занимает должность старшего советника по техническим вопросам. За время работы в CAISI и его предшественнике — Американском институте безопасности ИИ — Пол занимался оценкой передовых моделей ИИ, в том числе возможностей, имеющих значение для национальной безопасности, а также подходами к снижению связанных с ними рисков для безопасности и защиты.
Пол также основал Центр исследований согласования ИИ (ARC) — некоммерческую исследовательскую организацию, которая занимается согласованием работы продвинутых систем ИИ с интересами человека. С 2017 по 2021 год Пол руководил исследованиями по согласованию ИИ с интересами человека в OpenAI и внёс основополагающий вклад в разработку обучения с подкреплением на основе обратной связи от человека (RLHF). На новой должности Пол привнесёт самостоятельный взгляд, подкреплённый техническими знаниями, в принятие управленческих решений, ключевых для миссии OpenAI.
Пол помог заложить основы исследований по согласованию ИИ с интересами человека. Его работы отличает строгий научный подход к самым сложным вопросам, которые ставят перед нами всё более мощные системы. Его опыт работы над безопасностью передового ИИ и стандартами в государственных структурах, а также глубокое понимание технических вопросов помогут совету директоров эффективнее выполнять надзорные функции и усилят работу Комитета по безопасности и защите по мере того, как OpenAI продолжает разрабатывать и внедрять передовой ИИ.
За последний год возможности ИИ развивались очень быстро, а согласование его работы с интересами человека остаётся сложной технической задачей. Поэтому обязанности Комитета по безопасности и защите стали важнее и сложнее, чем когда-либо. Я рад присоединиться к команде и помочь в этой работе.
Возможности ИИ выходят на новый уровень. Поэтому всё важнее, чтобы развитие этих систем сопровождалось надёжными мерами безопасности и защиты, согласованием их работы с интересами человека и эффективным управлением. На протяжении всей исследовательской карьеры в области согласования ИИ с интересами человека Пол всерьёз рассматривает возможность того, что продвинутый ИИ может создавать катастрофические риски. Он считает, что разработчики должны подготовиться к ним до того, как возможности систем достигнут более опасного уровня. Он неизменно высказывал независимую позицию о том, достаточны ли защитные меры, принятые в отрасли. Мы убеждены, что управление фондом становится эффективнее благодаря людям, готовым оспаривать общепринятые предположения и помогать укреплять доказательную базу, защитные меры и механизмы подотчётности, на которых основаны важнейшие решения.
Назначение Пола продолжает развитие структуры управления, созданной в ходе рекапитализации OpenAI в октябре 2025 года, в том числе с учётом обязательств, принятых в связи с проверками, которые в течение года проводили генеральный прокурор Калифорнии и генеральный прокурор Делавэра. Их участие помогло укрепить систему управления.
Об OpenAI Foundation
OpenAI Foundation — благотворительная организация, цель которой — обеспечить, чтобы ИИ приносил пользу всему человечеству. Будучи отдельной некоммерческой организацией, фонд ведёт собственную благотворительную деятельность, сохраняя контроль над OpenAI Group PBC и владея значительной долей в её капитале. Фонд поддерживает инициативы, которые способствуют научным открытиям, укрепляют гражданское общество и повышают его устойчивость благодаря ответственному использованию ИИ. С помощью грантов, партнёрств и других благотворительных инициатив фонд помогает ускорять работу, которая приносит долгосрочную пользу обществу и позволяет большему числу людей воспользоваться преобразующим потенциалом ИИ.
Фонд контролирует OpenAI Group PBC, а Комитет по безопасности и защите действует при совете директоров фонда. Подробнее — на сайте www.openaifoundation.org.
*В должности старшего советника по техническим вопросам Пол будет брать самоотвод по всем вопросам, связанным с OpenAI, а также при проведении любых оценок моделей.