Paul Christiano ulazi u Upravni odbor organizacije OpenAI Foundation
Paul Christiano pridružit će se i Odboru za sigurnost i zaštitu Fondacije.
Objavljujemo imenovanje Paula Christiana u Upravni odbor organizacije OpenAI Foundation. U Upravnom odboru kompanije OpenAI Group PBC bit će posmatrač bez prava glasa.
Paul će se pridružiti i Odboru za sigurnost i zaštitu pri Upravnom odboru Fondacije, gdje će raditi s njegovim predsjednikom Zicom Kolterom. Odbor za sigurnost i zaštitu nadzire sigurnosne i zaštitne prakse u cijeloj organizaciji OpenAI, uključujući OpenAI Group PBC.
Paul donosi iskustvo rada u državnoj upravi tokom mandata dviju administracija, stečeno u Centru za standarde i inovacije u umjetnoj inteligenciji (CAISI) pri Nacionalnom institutu za standarde i tehnologiju (NIST), agenciji Ministarstva trgovine SAD-a, gdje radi kao viši tehnički savjetnik. Tokom rada u centru CAISI i njegovom prethodniku, Američkom institutu za sigurnost umjetne inteligencije, Paul je radio na procjeni graničnih modela umjetne inteligencije, uključujući sposobnosti koje imaju implikacije za nacionalnu sigurnost, te na pristupima ublažavanju povezanih rizika za sigurnost i zaštitu.
Paul je i osnivač Centra za istraživanje usklađivanja (ARC), neprofitne istraživačke organizacije usmjerene na usklađivanje naprednih sistema umjetne inteligencije s ljudskim interesima. Od 2017. do 2021. Paul je vodio istraživanja usklađivanja u organizaciji OpenAI i dao temeljni doprinos učenju s potkrepljivanjem uz ljudske povratne informacije. U ovoj novoj ulozi Paul donosi poseban, tehnički utemeljen pogled na odluke o upravljanju koje su ključne za misiju organizacije OpenAI.
Paul je pomogao u oblikovanju oblasti usklađivanja umjetne inteligencije svojim temeljitim radom usmjerenim na najteža pitanja koja postavljaju sve sposobniji sistemi. Njegovo iskustvo u radu na sigurnosti i standardima granične umjetne inteligencije u državnoj upravi, zajedno s njegovom tehničkom prosudbom, ojačat će nadzor Upravnog odbora i rad Odbora za sigurnost i zaštitu dok OpenAI nastavlja razvijati i uvoditi graničnu umjetnu inteligenciju.
Sposobnosti umjetne inteligencije veoma su brzo napredovale u protekloj godini, a usklađivanje je i dalje težak tehnički problem. Zbog toga je odgovornost Odbora za sigurnost i zaštitu važnija i zahtjevnija nego ikad. Radujem se što ću se pridružiti timu i pomoći.
Umjetna inteligencija ulazi u novu eru sposobnosti, pa je sve važnije da napredak ovih sistema prate snažne mjere sigurnosti i zaštite, usklađivanje i dobro upravljanje. Tokom cijele karijere u istraživanju usklađivanja umjetne inteligencije, Paul ozbiljno shvata mogućnost da napredna umjetna inteligencija predstavlja katastrofalne rizike i zastupa stav da se oni koji je razvijaju moraju pripremiti prije nego što sistemi dostignu opasnije nivoe sposobnosti. Nezavisno je preispitivao jesu li zaštitne mjere u ovoj industriji adekvatne. Vjerujemo da je upravljanje Fondacijom snažnije uz ljude spremne da preispitaju uvriježene pretpostavke i pomognu u jačanju dokaza, zaštitnih mjera i odgovornosti na kojima se temelje ključne odluke.
Paulovo imenovanje nadovezuje se na upravljačku strukturu uspostavljenu dokapitalizacijom organizacije OpenAI u oktobru 2025, uključujući obaveze preuzete u vezi s provjerama koje su tokom godinu dana proveli glavni tužilac Kalifornije i glavna tužiteljica Delawarea. Njihov angažman pomogao je u jačanju okvira upravljanja.
O organizaciji OpenAI Foundation
OpenAI Foundation je dobrotvorna organizacija posvećena tome da umjetna inteligencija koristi cijelom čovječanstvu. Kao zasebna neprofitna organizacija, Fondacija provodi vlastite dobrotvorne aktivnosti, a pritom zadržava kontrolu nad kompanijom OpenAI Group PBC i značajan vlasnički udio u njoj. Fondacija podržava inicijative koje unapređuju naučna otkrića, jačaju civilno društvo i grade otpornost kroz odgovornu umjetnu inteligenciju. Kroz bespovratna sredstva, partnerstva i druge filantropske inicijative, Fondacija pomaže ubrzati rad koji donosi trajnu javnu korist i omogućava većem broju ljudi pristup transformativnom potencijalu umjetne inteligencije.
Fondacija ima kontrolu nad kompanijom OpenAI Group PBC, a Odbor za sigurnost i zaštitu djeluje pri Upravnom odboru Fondacije. Saznajte više na www.openaifoundation.org.
*Kao viši tehnički savjetnik, Paul će se izuzeti iz svih pitanja povezanih s organizacijom OpenAI, kao i iz svih procjena modela.