Пол Кристијано се приклучува на управниот одбор на OpenAI Foundation
Пол Кристијано ќе се приклучи и на Одборот за безбедност и сигурност на Фондацијата.
Го објавуваме именувањето на Пол Кристијано во управниот одбор на OpenAI Foundation. Тој ќе биде набљудувач без право на глас во управниот одбор на OpenAI Group PBC.
Пол ќе се приклучи и на Одборот за безбедност и сигурност при управниот одбор на Фондацијата, каде што ќе работи заедно со неговиот претседател, Зико Колтер. Одборот за безбедност и сигурност врши надзор над практиките за безбедност и сигурност во целата организација OpenAI, вклучително и OpenAI Group PBC.
Пол носи искуство од работата во државните институции за време на две администрации преку својот ангажман во Центарот за стандарди и иновации во ВИ (CAISI) при Националниот институт за стандарди и технологија (NIST), агенција на американското Министерство за трговија, каде што е виш технолошки советник. За време на својата работа во CAISI и неговиот претходник, американскиот Институт за безбедност на ВИ, Пол работел на оценување на гранични модели на ВИ, вклучително и способности со влијание врз националната безбедност, како и на пристапи за ублажување на поврзаните ризици за безбедноста и сигурноста.
Пол е и основач на Центарот за истражување на усогласувањето (ARC), непрофитна истражувачка организација насочена кон усогласување на напредните системи на ВИ со човечките интереси. Од 2017 до 2021 година, Пол ги предводел истражувањата за усогласување во OpenAI и дал темелен придонес во развојот на методот човечка повратна информација (RLHF). Во оваа нова улога, Пол носи посебна перспектива заснована на техничка експертиза во одлуките за управување што се клучни за мисијата на OpenAI.
Пол помогна да се обликува областа на усогласување на ВИ преку темелна работа насочена кон најтешките прашања што ги поставуваат сè поспособните системи. Неговото искуство во државните институции во областа на безбедноста и стандардите за гранична ВИ, заедно со неговата техничка процена, ќе ги зајакне надзорната улога на управниот одбор и работата на Одборот за безбедност и сигурност додека OpenAI продолжува да развива и воведува гранична ВИ.
Способностите на ВИ напредуваа многу брзо во изминатата година, а усогласувањето останува тежок технички проблем. Поради тоа, одговорноста на Одборот за безбедност и сигурност е поважна и попредизвикувачка од кога било. Со задоволство се приклучувам на тимот за да помогнам.
ВИ влегува во нова ера на способности, па сè поважно е напредокот на овие системи да биде придружен со високи стандарди за безбедност, сигурност, усогласување и управување. Низ целата своја кариера во истражувањето на усогласувањето на ВИ, Пол сериозно ја зема предвид можноста напредната ВИ да носи катастрофални ризици и потребата развивачите да се подготват пред системите да достигнат поопасни нивоа на способности. Тој независно го искажува својот став за тоа дали заштитните мерки во индустријата се доволни. Веруваме дека управувањето со Фондацијата е посилно со луѓе подготвени да ги преиспитаат преовладувачките претпоставки и да помогнат во зајакнувањето на доказната основа, заштитните мерки и отчетноста врз кои се темелат клучните одлуки.
Именувањето на Пол се надоврзува на структурата на управување воспоставена со докапитализацијата на OpenAI во октомври 2025 година, вклучително и обврските преземени во врска со проверките што во текот на една година ги спроведоа јавниот обвинител на Калифорнија и јавниот обвинител на Делавер. Нивниот ангажман помогна да се зајакне рамката за управување.
За OpenAI Foundation
OpenAI Foundation е добротворна организација посветена на тоа ВИ да му користи на целото човештво. Како посебна непрофитна организација, Фондацијата спроведува сопствени добротворни активности, истовремено задржувајќи ја контролата врз OpenAI Group PBC и значителен сопственички удел во компанијата. Фондацијата поддржува иницијативи што ги унапредуваат научните откритија, го зајакнуваат граѓанското општество и градат отпорност преку одговорна ВИ. Преку грантови, партнерства и други филантропски иницијативи, Фондацијата помага да се забрза работата што создава трајна општествена корист и да се прошири пристапот до трансформативниот потенцијал на ВИ.
Фондацијата ја има контролата врз OpenAI Group PBC, а Одборот за безбедност и сигурност е тело при нејзиниот управен одбор. Дознајте повеќе на www.openaifoundation.org.
*Како виш технички советник, Пол ќе се изземе од сите прашања поврзани со OpenAI, како и од сите оценувања на модели.