Пол Кристијано се придружује Управном одбору OpenAI Foundation
Пол Кристијано ће се придружити и Одбору за безбедност и сигурност Фондације.
Објављујемо именовање Пола Кристијана у Управни одбор OpenAI Foundation. У Управном одбору OpenAI Group PBC имаће улогу посматрача без права гласа.
Пол ће се придружити и Одбору за безбедност и сигурност при Управном одбору Фондације, где ће радити заједно с његовим председником Зиком Колтером. Одбор за безбедност и сигурност надзире безбедносне и сигурносне праксе у целој организацији OpenAI, укључујући OpenAI Group PBC.
Пол доноси искуство у државној управи током мандата две администрације, стечено радом у Центру за стандарде и иновације у области ВИ (CAISI) при Националном институту за стандарде и технологију (NIST), агенцији америчког Министарства трговине, где је виши технички саветник. Током рада у центру CAISI и његовој претходној организацији, америчком Институту за безбедност ВИ, Пол је радио на процени граничних модела ВИ, укључујући способности које утичу на националну безбедност, као и на приступима за ублажавање повезаних безбедносних и сигурносних ризика.
Пол је и оснивач Центра за истраживање усклађивања (ARC), непрофитне истраживачке организације усмерене на усклађивање напредних система ВИ с људским интересима. Од 2017. до 2021. године Пол је водио истраживања усклађивања у OpenAI и дао темељни допринос подстицајном учењу из повратних информација од људи (RLHF). У новој улози Пол доноси посебну, технички утемељену перспективу у доношење управљачких одлука кључних за мисију OpenAI.
Пол је помогао у обликовању области усклађивања ВИ својим темељним радом усмереним на најтежа питања која отварају све способнији системи. Његово искуство у раду на безбедности граничне ВИ и стандардима у државној управи, уз способност стручног расуђивања, ојачаће надзор Управног одбора и рад Одбора за безбедност и сигурност док OpenAI наставља да развија и примењује граничну ВИ.
Способности ВИ су веома брзо напредовале током протекле године, а усклађивање остаје тежак технички проблем, због чега је одговорност Одбора за безбедност и сигурност важнија и захтевнија него икада. Радујем се што се придружујем тиму како бих помогао.
ВИ улази у нову еру способности, па је све важније да напредак ових система прате снажне мере безбедности и сигурности, усклађеност и добро управљање. Током целе каријере у истраживању усклађивања ВИ, Пол озбиљно схвата могућност да напредна ВИ носи катастрофалне ризике и заступа став да се њени развојни тимови морају припремити пре него што системи достигну опасније нивое способности. Износио је независне ставове о томе да ли су заштитне мере у сектору адекватне. Верујемо да је управљање Фондацијом снажније када у њему учествују људи спремни да преиспитују преовлађујуће претпоставке и помогну у јачању доказне основе, заштитних мера и одговорности на којима почивају кључне одлуке.
Полово именовање надовезује се на структуру управљања успостављену докапитализацијом OpenAI у октобру 2025. године, укључујући обавезе преузете у вези с једногодишњим поступцима преиспитивања које су спровели главни тужилац Калифорније и главни тужилац Делавера. Њихово учешће помогло је у јачању оквира управљања.
О OpenAI Foundation
OpenAI Foundation је добротворна организација посвећена томе да ВИ користи целом човечанству. Као засебна непрофитна организација, Фондација спроводи сопствене добротворне активности, а истовремено задржава контролу над OpenAI Group PBC и значајан власнички удео у њему. Фондација подржава иницијативе које подстичу научна открића, јачају цивилно друштво и граде отпорност кроз одговорну ВИ. Кроз бесповратна средства, партнерства и друге филантропске иницијативе, Фондација помаже да се убрза рад који доноси трајну корист друштву и већем броју људи омогућава да искористе преображајни потенцијал ВИ.
Фондација контролише OpenAI Group PBC, а Одбор за безбедност и сигурност делује у оквиру Управног одбора Фондације. Сазнајте више на www.openaifoundation.org.
*У улози вишег техничког саветника, Пол ће се изузети из свих питања у вези са OpenAI, као и из свих процена модела.