Paul Christiano liitub OpenAI Foundationi nõukoguga
Paul Christiano liitub ka sihtasutuse Ohutuse ja turvalisuse komiteega.
Teatame Paul Christiano nimetamisest OpenAI Foundationi nõukogu liikmeks. OpenAI Group PBC nõukogus osaleb ta hääleõiguseta vaatlejana.
Paul liitub ka sihtasutuse nõukogu Ohutuse ja turvalisuse komiteega, kus ta hakkab töötama koos komitee esimehe Zico Kolteriga. Ohutuse ja turvalisuse komitee teostab järelevalvet ohutus- ja turvalisustavade üle kogu OpenAI-s, sealhulgas OpenAI Group PBC-s.
Paul toob kaasa kahe valitsuse ametiajal saadud riigisektori kogemuse, mille ta on omandanud riikliku standardite ja tehnoloogia instituudi (NIST) koosseisu kuuluvas tehisintellekti standardite ja innovatsiooni keskuses (CAISI). NIST on USA kaubandusministeeriumi allasutus ning Paul töötab CAISI vanemtehnoloogianõunikuna. CAISI-s ja selle eelkäijas, USA tehisintellekti ohutuse instituudis töötades on Paul tegelenud tipptasemel tehisintellektimudelite hindamisega, sealhulgas riiklikku julgeolekut mõjutavate võimekuste hindamisega, ning võimalustega vähendada nendega seotud ohutus- ja turvariske.
Paul on ka joondamise uurimiskeskuse (ARC) asutaja. See mittetulunduslik teadusorganisatsioon keskendub täiustatud tehisintellektisüsteemide kooskõlla viimisele inimeste huvidega. Aastatel 2017–2021 juhtis Paul OpenAI-s joondamise uurimistööd ja aitas rajada alust inimeste tagasisidest kinnistavale õppimisele (RLHF). Uues rollis toob Paul OpenAI missiooni seisukohalt kesksetesse juhtimisotsustesse omanäolise ja tehnilistele teadmistele tugineva vaatenurga.
Paul on aidanud kujundada tehisintellekti joondamise valdkonda oma põhjaliku teadustööga, mis keskendub üha võimekamate süsteemidega kaasnevatele kõige keerulisematele küsimustele. Tema kogemus tipptasemel tehisintellekti ohutuse ja standardite alal riigisektoris koos tehnilise hindamisvõimega tugevdab nõukogu järelevalvet ning Ohutuse ja turvalisuse komitee tööd ajal, mil OpenAI jätkab tipptasemel tehisintellekti arendamist ja kasutuselevõttu.
Tehisintellekti võimekus on viimase aasta jooksul väga kiiresti arenenud ning joondamine on endiselt keeruline tehniline probleem. Seetõttu on Ohutuse ja turvalisuse komitee vastutus olulisem ja ülesanne keerulisem kui kunagi varem. Mul on hea meel meeskonnaga liituda ja oma panus anda.
Tehisintellekti võimekus jõuab uude ajajärku, mistõttu on üha olulisem, et süsteemide arenguga käiksid kaasas tugevad ohutus- ja turvameetmed, joondamine ning hea juhtimine. Kogu oma tehisintellekti joondamise uurimisele pühendatud karjääri jooksul on Paul võtnud tõsiselt võimalust, et täiustatud tehisintellekt võib põhjustada katastroofilisi riske, ning rõhutanud, et arendajad peavad valmistuma enne, kui süsteemide võimekus jõuab ohtlikumale tasemele. Ta on sõltumatu hääl arutelus selle üle, kas valdkonna kaitsemeetmed on piisavad. Usume, et sihtasutuse juhtimist tugevdavad inimesed, kes on valmis valitsevaid eeldusi kahtluse alla seadma ning aitama parandada kriitiliste otsuste aluseks olevat tõendusmaterjali, kaitsemeetmeid ja vastutust.
Pauli ametisse nimetamine tugineb juhtimisstruktuurile, mis loodi OpenAI rekapitaliseerimise käigus 2025. aasta oktoobris. See hõlmab ka kohustusi, mis võeti seoses California peaprokuröri ja Delaware'i peaprokuröri aasta jooksul tehtud kontrollidega. Nende osalus aitas juhtimisraamistikku tugevdada.
OpenAI Foundationist
OpenAI Foundation on heategevusorganisatsioon, mis tegutseb selle nimel, et tehisintellekt tooks kasu kogu inimkonnale. Eraldi mittetulundusorganisatsioonina tegeleb sihtasutus iseseisva heategevusega, säilitades samal ajal kontrolli OpenAI Group PBC üle ja omades selles märkimisväärset osalust. Sihtasutus toetab algatusi, mis edendavad teadusavastusi, tugevdavad kodanikuühiskonda ja suurendavad vastupanuvõimet vastutustundliku tehisintellekti abil. Toetuste, partnerluste ja muude heategevusalgatuste kaudu aitab sihtasutus hoogustada tööd, mis loob püsivat ühiskondlikku kasu ja võimaldab rohkematel inimestel tehisintellekti murrangulist potentsiaali kasutada.
Sihtasutus kontrollib OpenAI Group PBC-d ning Ohutuse ja turvalisuse komitee tegutseb sihtasutuse nõukogu komiteena. Lisateave: www.openaifoundation.org.
*Vanemtehnoloogianõunikuna taandab Paul end kõigist OpenAI-ga seotud küsimustest ning kõigist mudelite hindamistest.