Paulas Christiano prisijungia prie „OpenAI Foundation“ valdybos
Paulas Christiano taip pat prisijungs prie fondo Saugos ir saugumo komiteto.
Pranešame, kad Paulas Christiano paskirtas „OpenAI Foundation“ valdybos nariu. „OpenAI Group PBC“ valdyboje jis bus stebėtojas be balsavimo teisės.
Paulas taip pat prisijungs prie fondo valdybos Saugos ir saugumo komiteto (SSK) ir dirbs kartu su jo pirmininku Zico Kolteriu. Saugos ir saugumo komitetas prižiūri saugos ir saugumo praktiką visoje „OpenAI“, įskaitant „OpenAI Group PBC“.
Dirbdamas DI standartų ir inovacijų centre (CAISI), veikiančiame Nacionaliniame standartų ir technologijų institute (NIST), Paulas sukaupė darbo valdžios institucijose patirties per dviejų administracijų kadencijas. NIST yra JAV prekybos departamento agentūra, o Paulas centre eina vyresniojo technologijų patarėjo pareigas. Dirbdamas CAISI ir jo pirmtake – JAV DI saugos institute – Paulas vertino priešakinius DI modelius, įskaitant jų gebėjimus, turinčius reikšmės nacionaliniam saugumui, ir nagrinėjo būdus, kaip sumažinti su jais susijusią saugos ir saugumo riziką.
Paulas taip pat įkūrė Derinimo tyrimų centrą (ARC) – pelno nesiekiančią mokslinių tyrimų organizaciją, kurios tikslas – derinti pažangias DI sistemas su žmogaus interesais. 2017–2021 m. Paulas vadovavo „OpenAI“ DI derinimo su žmogaus interesais tyrimams ir prisidėjo prie pamatinių skatinamojo mokymosi iš žmogaus grįžtamojo ryšio (RLHF) darbų. Eidamas šias naujas pareigas, Paulas suteiks savitą, techninėmis žiniomis pagrįstą požiūrį priimant „OpenAI“ misijai esminius valdymo sprendimus.
Paulas padėjo suformuoti DI derinimo su žmogaus interesais tyrimų sritį. Jo darbai pasižymi moksliniu griežtumu ir dėmesiu sudėtingiausiems klausimams, kuriuos kelia vis pajėgesnės sistemos. Jo patirtis dirbant su priešakinio DI sauga ir standartais valdžios institucijose bei gebėjimas vertinti techninius klausimus sustiprins valdybos vykdomą priežiūrą ir Saugos ir saugumo komiteto darbą, „OpenAI“ toliau kuriant ir diegiant priešakinį DI.
Per pastaruosius metus DI gebėjimai labai sparčiai tobulėjo, o jo derinimas su žmogaus interesais tebėra sudėtinga techninė problema. Todėl Saugos ir saugumo komitetui tenka svarbesnė ir sudėtingesnė užduotis nei bet kada anksčiau. Džiaugiuosi galėdamas prisijungti prie komandos ir padėti.
DI žengia į naują galimybių erą, todėl vis svarbiau, kad šių sistemų pažangą lydėtų patikima sauga, saugumas, derinimas su žmogaus interesais ir valdymas. Visą savo karjerą tyrinėdamas DI derinimą su žmogaus interesais, Paulas rimtai vertina galimybę, kad pažangus DI gali kelti katastrofišką riziką, ir būtinybę kūrėjams pasirengti dar prieš sistemoms pasiekiant pavojingesnį gebėjimų lygį. Jis nepriklausomai vertina, ar DI sektoriuje taikomų apsaugos priemonių pakanka. Manome, kad fondo valdymą stiprina žmonės, pasirengę kvestionuoti vyraujančias prielaidas ir padėti užtikrinti tvirtesnį svarbiausių sprendimų pagrindimą įrodymais, patikimesnes apsaugos priemones ir didesnę atskaitomybę.
Paulo paskyrimas yra tolesnis žingsnis plėtojant valdymo struktūrą, sukurtą 2025 m. spalį pertvarkius „OpenAI“ kapitalą, ir įgyvendinant įsipareigojimus, prisiimtus per metus trukusias Kalifornijos generalinio prokuroro ir Delavero generalinio prokuroro vykdytas peržiūras. Jų dalyvavimas padėjo sustiprinti valdymo sistemą.
Apie „OpenAI Foundation“
„OpenAI Foundation“ yra labdaros organizacija, siekianti užtikrinti, kad DI būtų naudingas visai žmonijai. Kaip atskira pelno nesiekianti organizacija, fondas vykdo savo labdaringą veiklą, kartu išlaikydamas „OpenAI Group PBC“ kontrolę ir turėdamas reikšmingą jos akcijų dalį. Fondas remia iniciatyvas, kurios pasitelkdamos atsakingai naudojamą DI skatina mokslinius atradimus, stiprina pilietinę visuomenę ir didina atsparumą. Skirdamas dotacijas, kurdamas partnerystes ir vykdydamas kitas filantropines iniciatyvas, fondas padeda paspartinti darbus, kurie kuria ilgalaikę naudą visuomenei ir suteikia daugiau žmonių galimybę pasinaudoti esminius pokyčius žadančiu DI potencialu.
Fondas kontroliuoja „OpenAI Group PBC“, o Saugos ir saugumo komitetas yra fondo valdybos komitetas. Sužinokite daugiau adresu www.openaifoundation.org.
*Eidamas vyresniojo technologijų patarėjo pareigas, Paulas nusišalins nuo visų su „OpenAI“ susijusių klausimų ir visų modelių vertinimų.