Paul Christiano ulazi u upravni odbor zaklade OpenAI Foundation
Paul Christiano pridružit će se i Odboru za sigurnost i zaštitu Zaklade.
Objavljujemo imenovanje Paula Christiana u upravni odbor zaklade OpenAI Foundation. U upravnom odboru društva OpenAI Group PBC bit će promatrač bez prava glasa.
Paul će se pridružiti i Odboru za sigurnost i zaštitu pri Upravnom odboru Zaklade te surađivati s njegovim predsjednikom Zicom Kolterom. Odbor za sigurnost i zaštitu nadzire sigurnosne i zaštitne prakse u cijeloj organizaciji OpenAI, uključujući OpenAI Group PBC.
Paul donosi iskustvo rada u državnoj upravi tijekom dviju administracija, stečeno u Centru za standarde i inovacije u umjetnoj inteligenciji (CAISI) pri Nacionalnom institutu za standarde i tehnologiju (NIST), agenciji američkog Ministarstva trgovine, gdje radi kao viši tehnički savjetnik. Tijekom rada u CAISI-ju i njegovu prethodniku, američkom Institutu za sigurnost umjetne inteligencije, Paul je radio na evaluaciji graničnih modela umjetne inteligencije, uključujući sposobnosti koje utječu na nacionalnu sigurnost, te na pristupima ublažavanju povezanih sigurnosnih i zaštitnih rizika.
Paul je i osnivač Centra za istraživanje usklađivanja (ARC), neprofitne istraživačke organizacije usmjerene na usklađivanje naprednih sustava umjetne inteligencije s ljudskim interesima. Od 2017. do 2021. Paul je vodio istraživanja usklađivanja u organizaciji OpenAI i dao temeljni doprinos učenju s potkrepljivanjem uz ljudsku povratnu informaciju (učenje s potkrepljivanjem na temelju ljudskih povratnih informacija). U ovoj novoj ulozi Paul donosi osebujnu perspektivu utemeljenu na tehničkom znanju u upravljačke odluke ključne za misiju organizacije OpenAI.
Paul je pomogao oblikovati područje usklađivanja umjetne inteligencije svojim temeljitim radom usmjerenim na najteža pitanja koja donose sve sposobniji sustavi. Njegovo iskustvo rada na sigurnosti i standardima granične umjetne inteligencije u državnoj upravi, zajedno s njegovom tehničkom prosudbom, ojačat će nadzornu ulogu Upravnog odbora i rad Odbora za sigurnost i zaštitu dok OpenAI nastavlja razvijati i uvoditi graničnu umjetnu inteligenciju.
Sposobnosti umjetne inteligencije vrlo su brzo napredovale tijekom prošle godine, a usklađivanje je i dalje težak tehnički problem, zbog čega je zadaća Odbora za sigurnost i zaštitu važnija i zahtjevnija nego ikad. Veselim se što ću se pridružiti timu i pomoći.
Umjetna inteligencija ulazi u novo doba sposobnosti, zbog čega je sve važnije da napredak tih sustava prate snažne mjere sigurnosti i zaštite, usklađivanje i dobro upravljanje. Tijekom cijele karijere u istraživanju usklađivanja umjetne inteligencije Paul ozbiljno razmatra mogućnost da napredna umjetna inteligencija donese katastrofalne rizike te ističe da se razvojni timovi moraju pripremiti prije nego što sustavi dosegnu opasnije razine sposobnosti. Neovisno je iznosio svoje stavove o tome jesu li zaštitne mjere u industriji primjerene. Vjerujemo da je upravljanje Zakladom snažnije uz ljude spremne preispitivati prevladavajuće pretpostavke i pomoći u jačanju dokaza, zaštitnih mjera i odgovornosti na kojima se temelje ključne odluke.
Paulovo imenovanje nadovezuje se na upravljačku strukturu uspostavljenu dokapitalizacijom organizacije OpenAI u listopadu 2025., uključujući obveze preuzete u vezi s provjerama koje su tijekom godine dana proveli glavni državni odvjetnik Kalifornije i glavna državna odvjetnica Delawarea. Njihov je angažman pomogao ojačati upravljački okvir.
O zakladi OpenAI Foundation
OpenAI Foundation dobrotvorna je organizacija posvećena tome da umjetna inteligencija koristi cijelom čovječanstvu. Kao zasebna neprofitna organizacija, Zaklada provodi vlastite dobrotvorne aktivnosti, a istodobno zadržava kontrolu nad društvom OpenAI Group PBC i značajan vlasnički udio u njemu. Zaklada podupire inicijative koje potiču znanstvena otkrića, jačaju civilno društvo i grade otpornost odgovornom primjenom umjetne inteligencije. Potporama, partnerstvima i drugim filantropskim inicijativama Zaklada pomaže ubrzati rad koji stvara trajnu javnu korist i širi pristup transformativnom potencijalu umjetne inteligencije.
Zaklada kontrolira društvo OpenAI Group PBC, a Odbor za sigurnost i zaštitu djeluje pri Upravnom odboru Zaklade. Saznajte više na www.openaifoundation.org.
*Kao viši tehnički savjetnik, Paul će se izuzeti iz svih pitanja povezanih s organizacijom OpenAI, kao i iz svih evaluacija modela.