Paul Christiano se pridružuje upravnemu odboru OpenAI Foundation
Paul Christiano se bo pridružil tudi odboru fundacije za varnost in zaščito.
Oznanjamo imenovanje Paula Christiana v upravni odbor OpenAI Foundation. V upravnem odboru OpenAI Group PBC bo sodeloval kot opazovalec brez glasovalne pravice.
Paul se bo pridružil tudi odboru za varnost in zaščito v okviru upravnega odbora fundacije, kjer bo sodeloval z njegovim predsednikom Zicom Kolterjem. Odbor za varnost in zaščito nadzoruje prakse na področju varnosti in zaščite v celotni organizaciji OpenAI, vključno z OpenAI Group PBC.
Paul prinaša izkušnje iz državne uprave, ki jih je v času dveh vlad pridobil z delom v Centru za standarde in inovacije na področju umetne inteligence (CAISI) pri Nacionalnem inštitutu za standarde in tehnologijo (NIST), agenciji ameriškega ministrstva za trgovino, kjer je višji tehnični svetovalec. Med delom v CAISI in njegovem predhodniku, ameriškem Inštitutu za varnost umetne inteligence, se je Paul ukvarjal z vrednotenjem prelomnih modelov umetne inteligence, tudi njihovih zmogljivosti, ki vplivajo na nacionalno varnost, ter s pristopi za zmanjševanje s tem povezanih tveganj na področju varnosti in zaščite.
Paul je tudi ustanovitelj Centra za raziskave usklajevanja (ARC), neprofitne raziskovalne organizacije, ki se osredotoča na usklajevanje naprednih sistemov umetne inteligence s človeškimi interesi. Paul je med letoma 2017 in 2021 vodil raziskave usklajevanja umetne inteligence pri OpenAI in prispeval temeljno delo na področju učenja z okrepitvijo s povratnimi informacijami od ljudi (človeške povratne informacije). V tej novi vlogi Paul prinaša samostojen in tehnično utemeljen pogled na odločitve o upravljanju, ki so ključne za poslanstvo OpenAI.
Paul je pomagal oblikovati področje usklajevanja umetne inteligence s svojim temeljitim delom, osredotočenim na najtežja vprašanja, ki jih odpirajo vse zmogljivejši sistemi. Njegove izkušnje z varnostjo prelomne umetne inteligence in standardi zanjo v državni upravi bodo skupaj z njegovo tehnično presojo okrepile nadzorno vlogo upravnega odbora in delo odbora za varnost in zaščito, medtem ko OpenAI nadaljuje razvoj in uvajanje prelomne umetne inteligence.
Zmogljivosti umetne inteligence so v zadnjem letu zelo hitro napredovale, usklajevanje s človeškimi interesi pa ostaja težaven tehnični problem. Zato je odgovornost odbora za varnost in zaščito pomembnejša in zahtevnejša kot kdaj prej. Veselim se, da se bom pridružil ekipi in pomagal.
Umetna inteligenca po svojih zmogljivostih vstopa v novo obdobje, zato je vse pomembneje, da napredek teh sistemov spremljajo zanesljivi ukrepi za varnost in zaščito, usklajenost s človeškimi interesi ter dobro upravljanje. Paul pri raziskovanju usklajevanja umetne inteligence že vso kariero resno obravnava možnost, da bi napredna umetna inteligenca lahko povzročila katastrofalne posledice, in zagovarja stališče, da se morajo razvijalci pripraviti, preden sistemi dosežejo nevarnejše ravni zmogljivosti. V razpravah o ustreznosti zaščitnih ukrepov v panogi je nastopal kot neodvisen glas. Menimo, da je upravljanje fundacije trdnejše z ljudmi, ki so pripravljeni preizpraševati prevladujoče predpostavke ter pomagati krepiti dokazno podlago, zaščitne ukrepe in odgovornost, na katerih temeljijo ključne odločitve.
Paulovo imenovanje nadgrajuje strukturo upravljanja, vzpostavljeno s preoblikovanjem kapitalske strukture OpenAI oktobra 2025, vključno z zavezami, sprejetimi v povezavi s pregledi, ki sta jih v obdobju enega leta izvedla generalni državni tožilec Kalifornije in generalna državna tožilka Delawara. Njuno sodelovanje je pomagalo okrepiti okvir upravljanja.
O fundaciji OpenAI Foundation
OpenAI Foundation je dobrodelna organizacija, ki si prizadeva zagotoviti, da umetna inteligenca koristi vsemu človeštvu. Kot ločena neprofitna organizacija fundacija izvaja lastne dobrodelne dejavnosti, hkrati pa ohranja nadzor nad OpenAI Group PBC in ima v njem znaten lastniški delež. Fundacija podpira pobude, ki z odgovorno umetno inteligenco spodbujajo znanstvena odkritja, krepijo civilno družbo in povečujejo odpornost. Z nepovratnimi sredstvi, partnerstvi in drugimi dobrodelnimi pobudami fundacija pomaga pospeševati delo, ki ustvarja trajne koristi za javnost, ter širiti dostop do preobrazbenega potenciala umetne inteligence.
Fundacija ima nadzor nad OpenAI Group PBC, odbor za varnost in zaščito pa deluje v okviru njenega upravnega odbora. Več informacij je na voljo na www.openaifoundation.org.
*Paul se bo v vlogi višjega tehničnega svetovalca izločil iz vseh zadev, povezanih z OpenAI, in iz vseh vrednotenj modelov.