Paul Christiano vstupuje do správnej rady OpenAI Foundation
Paul Christiano sa tiež stane členom Výboru pre bezpečnosť a ochranu nadácie.
Oznamujeme vymenovanie Paula Christiana do správnej rady OpenAI Foundation. V predstavenstve OpenAI Group PBC bude pôsobiť ako pozorovateľ bez hlasovacieho práva.
Paul sa tiež stane členom Výboru pre bezpečnosť a ochranu správnej rady nadácie, kde bude spolupracovať s jeho predsedom Zicom Kolterom. Výbor pre bezpečnosť a ochranu dohliada na postupy v oblasti bezpečnosti a ochrany v celej OpenAI vrátane OpenAI Group PBC.
Paul prináša skúsenosti z verejnej správy počas pôsobenia dvoch vlád, ktoré získal prácou v Centre pre štandardy a inovácie v oblasti AI (CAISI) v rámci Národného inštitútu pre štandardy a technológie (NIST), agentúry amerického ministerstva obchodu, kde pôsobí ako hlavný technický poradca. Počas pôsobenia v CAISI a v jeho predchodcovi, americkom Inštitúte pre bezpečnosť AI, sa Paul venoval hodnoteniu prelomových modelov AI vrátane schopností s dosahom na národnú bezpečnosť, ako aj prístupom k zmierňovaniu súvisiacich rizík v oblasti bezpečnosti a ochrany.
Paul je tiež zakladateľom Centra pre výskum zosúlaďovania AI (ARC), neziskovej výskumnej organizácie zameranej na zosúlaďovanie pokročilých systémov AI s ľudskými záujmami. V rokoch 2017 až 2021 Paul viedol výskum zosúlaďovania AI v OpenAI a prispel k základom učenia posilňovaním na základe ľudskej odozvy (RLHF). V tejto novej úlohe Paul prináša osobitý pohľad podložený technickými znalosťami do rozhodnutí o správe a riadení, ktoré sú kľúčové pre poslanie OpenAI.
Paul pomohol formovať oblasť zosúlaďovania AI svojou dôslednou prácou zameranou na najťažšie otázky, ktoré prinášajú čoraz schopnejšie systémy. Jeho skúsenosti s bezpečnosťou prelomovej AI a so štandardmi vo verejnej správe spolu s jeho technickým úsudkom posilnia dohľad správnej rady a prácu Výboru pre bezpečnosť a ochranu v čase, keď OpenAI pokračuje vo vývoji a nasadzovaní prelomovej AI.
Schopnosti AI za posledný rok veľmi rýchlo pokročili a jej zosúlaďovanie s ľudskými záujmami zostáva náročným technickým problémom. Úloha, za ktorú zodpovedá Výbor pre bezpečnosť a ochranu, je preto dôležitejšia a náročnejšia než kedykoľvek predtým. Teším sa, že sa pripojím k tímu a pomôžem s touto prácou.
AI vstupuje do novej éry schopností. Je preto čoraz dôležitejšie, aby pokrok týchto systémov sprevádzali dôsledné opatrenia v oblasti bezpečnosti, ochrany, zosúlaďovania s ľudskými záujmami a správy a riadenia. Počas celej svojej kariéry vo výskume zosúlaďovania AI Paul berie vážne možnosť, že pokročilá AI môže predstavovať katastrofické riziká a že vývojári sa musia pripraviť skôr, než systémy dosiahnu nebezpečnejšiu úroveň schopností. V diskusii o tom, či sú ochranné opatrenia v odvetví dostatočné, vystupuje ako nezávislý hlas. Veríme, že správu a riadenie nadácie posilňujú ľudia pripravení spochybňovať prevládajúce predpoklady a pomáhať upevňovať dôkazové základy, ochranné opatrenia a zodpovednosť, o ktoré sa opierajú zásadné rozhodnutia.
Paulovo vymenovanie nadväzuje na štruktúru správy a riadenia vytvorenú pri rekapitalizácii OpenAI v októbri 2025 vrátane záväzkov prijatých v súvislosti s preskúmaniami, ktoré v priebehu jedného roka vykonali generálny prokurátor Kalifornie a generálna prokurátorka Delaware. Ich zapojenie pomohlo posilniť rámec správy a riadenia.
O OpenAI Foundation
OpenAI Foundation je charitatívna organizácia, ktorej poslaním je zabezpečiť, aby AI prinášala úžitok celému ľudstvu. Ako samostatná nezisková organizácia vykonáva nadácia vlastnú charitatívnu činnosť a zároveň si zachováva kontrolu nad OpenAI Group PBC a vlastní v nej významný majetkový podiel. Nadácia podporuje iniciatívy, ktoré prostredníctvom zodpovednej AI napomáhajú vedeckým objavom, posilňujú občiansku spoločnosť a budujú odolnosť. Prostredníctvom grantov, partnerstiev a ďalších filantropických iniciatív nadácia pomáha urýchľovať prácu, ktorá prináša trvalý verejný prospech a umožňuje širšiemu okruhu ľudí využívať transformačný potenciál AI.
Nadácia má kontrolu nad OpenAI Group PBC a Výbor pre bezpečnosť a ochranu je výborom jej správnej rady. Viac sa dozviete na www.openaifoundation.org.
*Vo funkcii hlavného technického poradcu sa Paul vylúči zo všetkých záležitostí týkajúcich sa OpenAI, ako aj zo všetkých hodnotení modelov.