Paul Christiano vstupuje do správní rady OpenAI Foundation
Paul Christiano se také stane členem Výboru pro bezpečnost a ochranu nadace.
Oznamujeme jmenování Paula Christiana do správní rady OpenAI Foundation. Ve správní radě OpenAI Group PBC bude působit jako pozorovatel bez hlasovacího práva.
Paul se také stane členem Výboru pro bezpečnost a ochranu správní rady nadace a bude spolupracovat s jeho předsedou Zicem Kolterem. Výbor pro bezpečnost a ochranu dohlíží na postupy v oblasti bezpečnosti a ochrany v celé OpenAI, včetně OpenAI Group PBC.
Paul přináší zkušenosti ze státní správy za dvou vládních administrativ, které získal prací v Centru pro standardy a inovace v oblasti AI (CAISI) v rámci Národního institutu pro standardy a technologie (NIST), agentury spadající pod americké ministerstvo obchodu, kde působí jako hlavní technický poradce. Během svého působení v CAISI a jeho předchůdci, americkém Institutu pro bezpečnost AI, se Paul věnoval hodnocení průkopnických modelů AI, včetně schopností s dopady na národní bezpečnost, a přístupům ke zmírňování souvisejících rizik v oblasti bezpečnosti a ochrany.
Paul je také zakladatelem Centra pro výzkum slaďování AI (ARC), neziskové výzkumné organizace zaměřené na slaďování pokročilých systémů AI s lidskými zájmy. V letech 2017 až 2021 vedl Paul v OpenAI výzkum slaďování AI s lidskými zájmy a podílel se na průkopnické práci v oblasti učení posilováním z lidské zpětné vazby (RLHF). V této nové roli přináší Paul do rozhodování o správě a řízení, které je klíčové pro poslání OpenAI, osobitý pohled opřený o technické znalosti.
Paul pomohl utvářet obor slaďování AI s lidskými zájmy díky důsledné práci zaměřené na nejtěžší otázky, které přinášejí stále schopnější systémy. Jeho zkušenosti s bezpečností průkopnické AI a se standardy ve státní správě spolu s jeho technickým úsudkem posílí dohled správní rady i práci Výboru pro bezpečnost a ochranu v době, kdy OpenAI pokračuje ve vývoji a nasazování průkopnické AI.
Schopnosti AI se za poslední rok rozvíjely velmi rychle a sladění AI s lidskými zájmy zůstává obtížným technickým problémem. Úkoly Výboru pro bezpečnost a ochranu jsou proto důležitější a náročnější než kdy dříve. Těším se, že se připojím k týmu a pomohu s touto prací.
AI vstupuje do nové éry schopností. Je proto stále důležitější, aby pokrok těchto systémů provázela důsledná opatření v oblasti bezpečnosti, ochrany, sladění s lidskými zájmy i správy a řízení. Paul po celou svou kariéru ve výzkumu slaďování AI s lidskými zájmy bere vážně možnost, že pokročilá AI může představovat katastrofická rizika a že se vývojáři musí připravit dříve, než systémy dosáhnou nebezpečnější úrovně schopností. Nezávisle se vyjadřuje k tomu, zda jsou ochranná opatření v tomto odvětví dostatečná. Věříme, že správu a řízení nadace posilují lidé, kteří jsou připraveni zpochybňovat převládající předpoklady a pomáhat zlepšovat důkazní podklady, ochranná opatření a odpovědnost, o něž se opírají zásadní rozhodnutí.
Paulovo jmenování navazuje na strukturu správy a řízení vytvořenou při rekapitalizaci OpenAI v říjnu 2025, včetně závazků přijatých v souvislosti s přezkumy, které v průběhu jednoho roku provedli generální prokurátor Kalifornie a generální prokurátorka Delawaru. Jejich zapojení pomohlo posílit rámec správy a řízení.
O OpenAI Foundation
OpenAI Foundation je dobročinná organizace, jejímž posláním je zajistit, aby AI přinášela prospěch celému lidstvu. Jako samostatná nezisková organizace vykonává nadace vlastní dobročinnou činnost a zároveň si zachovává kontrolu nad OpenAI Group PBC, v níž drží významný majetkový podíl. Nadace podporuje iniciativy, které prostřednictvím odpovědné AI urychlují vědecké objevy, posilují občanskou společnost a budují odolnost. Prostřednictvím grantů, partnerství a dalších filantropických iniciativ pomáhá nadace urychlovat práci, která přináší trvalý veřejný prospěch a umožňuje širšímu okruhu lidí využívat transformační potenciál AI.
Nadace má kontrolu nad OpenAI Group PBC a Výbor pro bezpečnost a ochranu je výborem její správní rady. Další informace najdete na www.openaifoundation.org.
*Ve své roli hlavního technického poradce se Paul vyloučí z účasti na všech záležitostech týkajících se OpenAI i ze všech hodnocení modelů.