Pols Kristiano pievienojas OpenAI Foundation padomei
Pols Kristiano pievienosies arī fonda Drošības un aizsardzības komitejai.
Paziņojam par Pola Kristiano iecelšanu OpenAI Foundation padomē. OpenAI Group PBC padomē viņš būs novērotājs bez balsstiesībām.
Pols pievienosies arī fonda padomes Drošības un aizsardzības komitejai, kur strādās kopā ar tās priekšsēdētāju Ziko Kolteru. Drošības un aizsardzības komiteja pārrauga drošības un aizsardzības praksi visā OpenAI, tostarp OpenAI Group PBC.
Pols ir guvis pieredzi valsts pārvaldē divu administrāciju laikā, strādājot MI standartu un inovāciju centrā (CAISI), kas darbojas Nacionālajā standartu un tehnoloģiju institūtā (NIST) — ASV Tirdzniecības departamenta aģentūrā, kur viņš ir vecākais tehnoloģiju padomnieks. Strādājot CAISI un tā priekštecī — ASV MI drošības institūtā —, Pols ir vērtējis robežšķirtnes MI modeļus, tostarp to spējas, kas var ietekmēt valsts drošību, un izstrādājis pieejas saistīto drošības un aizsardzības risku mazināšanai.
Pols ir arī Saskaņošanas pētniecības centra (ARC) dibinātājs. Šī bezpeļņas pētniecības organizācija strādā pie progresīvu MI sistēmu saskaņošanas ar cilvēku interesēm. No 2017. līdz 2021. gadam Pols vadīja saskaņošanas pētniecību OpenAI un sniedza būtisku ieguldījumu stimulētās mācīšanās no cilvēka atsauksmēm (RLHF) pamatu izveidē. Jaunajā amatā Pols sniegs atšķirīgu un tehniskajās zināšanās balstītu skatījumu uz pārvaldības lēmumiem, kas ir būtiski OpenAI misijas īstenošanai.
Pols ir palīdzējis veidot MI saskaņošanas pētniecības jomu, veicot rūpīgu darbu un pievēršoties sarežģītākajiem jautājumiem, ko rada arvien spējīgākas sistēmas. Viņa pieredze valsts pārvaldē, strādājot ar robežšķirtnes MI drošību un standartiem, kā arī tehniskā izpratne stiprinās padomes uzraudzību un Drošības un aizsardzības komitejas darbu, OpenAI turpinot izstrādāt un ieviest robežšķirtnes MI.
Pēdējā gada laikā MI spējas ir attīstījušās ļoti strauji, bet saskaņošana joprojām ir sarežģīta tehniska problēma. Tāpēc Drošības un aizsardzības komitejai uzticētais uzdevums ir svarīgāks un grūtāks nekā jebkad agrāk. Priecājos pievienoties komandai un sniegt savu ieguldījumu.
MI spējas sasniedz jaunu attīstības posmu, tāpēc kļūst arvien svarīgāk šo sistēmu attīstību papildināt ar stingriem drošības, aizsardzības, saskaņošanas un pārvaldības pasākumiem. Visā savā MI saskaņošanas pētnieka karjerā Pols ir nopietni uztvēris iespēju, ka progresīvs MI varētu radīt katastrofālus riskus un ka izstrādātājiem ir jāsagatavojas, pirms sistēmu spējas sasniedz bīstamāku līmeni. Viņš ir neatkarīgi paudis savu viedokli par to, vai nozares aizsardzības pasākumi ir pietiekami. Mēs uzskatām, ka fonda pārvaldību stiprina cilvēki, kuri ir gatavi apšaubīt valdošos pieņēmumus un palīdzēt nostiprināt pierādījumu bāzi, aizsardzības pasākumus un atbildību, kas ir svarīgu lēmumu pamatā.
Pola iecelšana amatā turpina nostiprināt pārvaldības struktūru, kas izveidota OpenAI rekapitalizācijas gaitā 2025. gada oktobrī, tostarp īstenojot saistības, kas uzņemtas saistībā ar Kalifornijas ģenerālprokurora un Delavēras ģenerālprokurores gada laikā veiktajām pārbaudēm. Viņu iesaiste palīdzēja stiprināt pārvaldības sistēmu.
Par OpenAI Foundation
OpenAI Foundation ir labdarības organizācija, kuras mērķis ir nodrošināt, lai MI sniegtu labumu visai cilvēcei. Kā atsevišķa bezpeļņas organizācija fonds īsteno savu labdarības darbību, vienlaikus saglabājot kontroli pār OpenAI Group PBC un ievērojamu kapitāldaļu īpatsvaru tajā. Fonds atbalsta iniciatīvas, kas ar atbildīgu MI izmantošanu veicina zinātniskus atklājumus, stiprina pilsonisko sabiedrību un vairo noturību. Ar dotācijām, partnerībām un citām labdarības iniciatīvām fonds palīdz paātrināt darbu, kas rada ilgstošu sabiedrisko labumu un ļauj plašākam cilvēku lokam izmantot MI pārveidojošo potenciālu.
Fonds kontrolē OpenAI Group PBC, un Drošības un aizsardzības komiteja darbojas fonda padomes sastāvā. Uzziniet vairāk vietnē www.openaifoundation.org.
*Vecākā tehnoloģiju padomnieka amatā Pols atturēsies no dalības visu ar OpenAI saistīto jautājumu izskatīšanā, kā arī jebkādā modeļu vērtēšanā.