Paul Christiano dołącza do rady OpenAI Foundation
Paul Christiano dołączy również do Komisji ds. bezpieczeństwa fundacji.
Ogłaszamy powołanie Paula Christiano do rady OpenAI Foundation. Będzie on obserwatorem bez prawa głosu w radzie OpenAI Group PBC.
Paul dołączy również do Komisji ds. bezpieczeństwa (SSC) przy radzie fundacji, gdzie będzie współpracował z jej przewodniczącym, Zico Kolterem. Komisja ds. bezpieczeństwa nadzoruje praktyki w zakresie bezpieczeństwa i ochrony w całej organizacji OpenAI, w tym w OpenAI Group PBC.
Paul wnosi doświadczenie zdobyte podczas dwóch kadencji administracji rządowej w ramach pracy w Centrum Standardów i Innowacji AI (CAISI), działającym w Narodowym Instytucie Standardów i Technologii (NIST), agencji amerykańskiego Departamentu Handlu, gdzie pełni funkcję starszego doradcy technicznego. Podczas pracy w CAISI i jego poprzedniku, amerykańskim Instytucie Bezpieczeństwa AI, Paul zajmował się oceną pionierskich modeli AI, w tym ich możliwości mających znaczenie dla bezpieczeństwa narodowego, oraz metodami ograniczania związanych z nimi zagrożeń dla bezpieczeństwa i ochrony.
Paul jest również założycielem Alignment Research Center (ARC), organizacji badawczej non-profit zajmującej się dostosowaniem zaawansowanych systemów AI do ludzkich interesów. W latach 2017–2021 Paul kierował w OpenAI badaniami nad dostosowaniem AI do ludzkich wartości i współtworzył podstawy uczenia przez wzmacnianie w sprzężeniu zwrotnym z człowiekiem (RLHF). W nowej roli Paul wnosi niezależną perspektywę opartą na wiedzy technicznej do decyzji dotyczących nadzoru, które mają kluczowe znaczenie dla misji OpenAI.
Paul pomógł ukształtować dziedzinę dostosowania AI do ludzkich wartości dzięki rzetelnym badaniom nad najtrudniejszymi pytaniami, jakie stawiają przed nami coraz bardziej zaawansowane systemy. Jego doświadczenie w pracy nad bezpieczeństwem i standardami pionierskiej AI w administracji rządowej oraz trafny osąd techniczny wzmocnią nadzór rady i prace Komisji ds. bezpieczeństwa w miarę dalszego rozwoju i wdrażania pionierskiej AI przez OpenAI.
W ostatnim roku możliwości AI rozwijały się bardzo szybko, a dostosowanie jej do ludzkich wartości pozostaje trudnym problemem technicznym. Sprawia to, że zadania Komisji ds. bezpieczeństwa są ważniejsze i bardziej wymagające niż kiedykolwiek. Cieszę się, że dołączam do zespołu, by wesprzeć jego działania.
AI wkracza w nową erę możliwości. Tym ważniejsze staje się, by postępowi tych systemów towarzyszyły solidne mechanizmy bezpieczeństwa, ochrony i nadzoru oraz dostosowanie do ludzkich wartości. Przez całą karierę badawczą poświęconą dostosowaniu AI do ludzkich wartości Paul poważnie traktuje możliwość, że zaawansowana AI może stwarzać ryzyko katastrofalnych skutków, a jej twórcy muszą się przygotować, zanim możliwości systemów osiągną bardziej niebezpieczny poziom. Zajmuje niezależne stanowisko w kwestii tego, czy zabezpieczenia stosowane w branży są wystarczające. Wierzymy, że nadzór sprawowany przez fundację jest silniejszy dzięki osobom gotowym kwestionować dominujące założenia oraz pomagać w umacnianiu podstaw dowodowych, zabezpieczeń i mechanizmów odpowiedzialności, na których opierają się kluczowe decyzje.
Powołanie Paula wpisuje się w strukturę nadzoru ustanowioną w ramach rekapitalizacji OpenAI w październiku 2025 r., w tym w zobowiązania podjęte w związku z analizami prowadzonymi przez rok przez prokuratora generalnego Kalifornii i prokurator generalną Delaware. Ich zaangażowanie pomogło wzmocnić ramy nadzoru.
O OpenAI Foundation
OpenAI Foundation to organizacja dobroczynna, której celem jest zapewnienie, by AI przynosiła korzyści całej ludzkości. Jako odrębna organizacja non-profit fundacja prowadzi własną działalność dobroczynną, zachowując jednocześnie kontrolę nad OpenAI Group PBC i posiadając w niej znaczący udział kapitałowy. Fundacja wspiera inicjatywy, które dzięki odpowiedzialnemu wykorzystaniu AI przyspieszają odkrycia naukowe, wzmacniają społeczeństwo obywatelskie i budują odporność na kryzysy. Poprzez dotacje, partnerstwa i inne inicjatywy filantropijne fundacja pomaga przyspieszać działania przynoszące trwałe korzyści społeczne i umożliwia szerszemu gronu odbiorców korzystanie z przełomowego potencjału AI.
Fundacja sprawuje kontrolę nad OpenAI Group PBC, a Komisja ds. bezpieczeństwa działa przy radzie fundacji. Więcej informacji na www.openaifoundation.org.
*Jako starszy doradca techniczny Paul wyłączy się ze wszystkich spraw dotyczących OpenAI oraz ze wszystkich ocen modeli.