Пол Кристиано влиза в управителния съвет на OpenAI Foundation
Пол Кристиано ще се присъедини и към Комитета по безопасност и сигурност на фондацията.
Обявяваме назначаването на Пол Кристиано в управителния съвет на OpenAI Foundation. Той ще бъде наблюдател без право на глас в управителния съвет на OpenAI Group PBC.
Пол ще се присъедини и към Комитета по безопасност и сигурност към управителния съвет на фондацията, където ще работи заедно с неговия председател Зико Колтер. Комитетът по безопасност и сигурност осъществява надзор над практиките за безопасност и сигурност в цялата организация OpenAI, включително в OpenAI Group PBC.
Пол има опит в държавната администрация при две правителства благодарение на работата си в Центъра за стандарти и иновации в областта на ИИ (CAISI) към Националния институт за стандарти и технологии (NIST) — агенция към Министерството на търговията на САЩ, където е старши технически съветник. По време на работата си в CAISI и неговия предшественик, Американския институт за безопасност на ИИ, Пол се занимава с оценяване на авангардни модели на ИИ, включително на способности с последици за националната сигурност, както и с подходи за ограничаване на свързаните с тях рискове за безопасността и сигурността.
Пол е и основател на Центъра за изследвания на съгласуването на ИИ (ARC) — изследователска организация с нестопанска цел, която се занимава със съгласуването на усъвършенствани системи с ИИ с човешките интереси. От 2017 до 2021 г. Пол ръководи изследванията по съгласуването на ИИ с човешките интереси в OpenAI и има основополагащ принос към обучението с утвърждение на базата на отзиви от хора (RLHF). В новата си роля Пол ще допринесе със своята отличителна и технически обоснована гледна точка за управленските решения, които са ключови за мисията на OpenAI.
Пол помогна да се оформи областта на съгласуването на ИИ с човешките интереси чрез задълбочена работа, насочена към най-трудните въпроси, които поставят системите с все по-големи възможности. Опитът му в държавната администрация в областта на безопасността и стандартите за авангарден ИИ, съчетан с техническата му преценка, ще засили надзора на управителния съвет и работата на Комитета по безопасност и сигурност, докато OpenAI продължава да разработва и внедрява авангарден ИИ.
Възможностите на ИИ се развиха много бързо през последната година, а съгласуването му с човешките интереси остава труден технически проблем. Това прави отговорността на Комитета по безопасност и сигурност по-важна и по-трудна от всякога. Радвам се, че се присъединявам към екипа, за да помогна.
ИИ навлиза в нова ера на възможности и става все по-важно напредъкът на тези системи да бъде съпътстван от надеждни мерки за безопасност и сигурност, съгласуване с човешките интереси и добро управление. През цялата си кариера като изследовател на съгласуването на ИИ с човешките интереси Пол се отнася сериозно към възможността усъвършенстваният ИИ да създаде катастрофални рискове и към необходимостта разработчиците да се подготвят, преди системите да достигнат по-опасни нива на способности. Той отстоява независима позиция по въпроса дали предпазните мерки в индустрията са достатъчни. Вярваме, че управлението на фондацията е по-силно с хора, готови да оспорват общоприетите допускания и да помагат за укрепването на доказателствената основа, предпазните мерки и отчетността, на които се опират ключовите решения.
Назначаването на Пол надгражда управленската структура, създадена при рекапитализацията на OpenAI през октомври 2025 г., включително поетите ангажименти във връзка с проверките, извършени в рамките на една година от главния прокурор на Калифорния и главния прокурор на Делауеър. Тяхното участие помогна за укрепването на управленската рамка.
За OpenAI Foundation
OpenAI Foundation е благотворителна организация, чиято мисия е да гарантира, че ИИ носи полза на цялото човечество. Като отделна организация с нестопанска цел фондацията извършва собствена благотворителна дейност, като същевременно запазва контрола над OpenAI Group PBC и притежава значителен дял от капитала му. Фондацията подкрепя инициативи, които насърчават научните открития, укрепват гражданското общество и изграждат устойчивост чрез отговорно използване на ИИ. Чрез безвъзмездно финансиране, партньорства и други благотворителни инициативи фондацията помага да се ускори работата, която създава трайни обществени ползи и разширява достъпа до преобразяващия потенциал на ИИ.
Фондацията контролира OpenAI Group PBC, а Комитетът по безопасност и сигурност е към нейния управителен съвет. Научете повече на www.openaifoundation.org.
*В качеството си на старши технически съветник Пол ще си прави отвод по всички въпроси, свързани с OpenAI, както и при всички оценки на модели.