Paul Christiano i bashkohet Bordit të OpenAI Foundation
Paul Christiano do t’i bashkohet gjithashtu Komitetit të Sigurisë dhe të Mbrojtjes të Fondacionit.
Njoftojmë emërimin e Paul Christiano në Bordin e OpenAI Foundation. Ai do të jetë vëzhgues pa të drejtë vote në Bordin e OpenAI Group PBC.
Paul do t’i bashkohet gjithashtu Komitetit të Sigurisë dhe të Mbrojtjes të Bordit të Fondacionit, ku do të punojë përkrah kryetarit të tij, Zico Kolter. Komiteti i Sigurisë dhe i Mbrojtjes mbikëqyr praktikat e sigurisë dhe të mbrojtjes në mbarë OpenAI, përfshirë OpenAI Group PBC.
Paul sjell përvojë qeveritare nga dy administrata përmes punës së tij në Qendrën për Standardet dhe Inovacionin në IA (CAISI), pjesë e Institutit Kombëtar të Standardeve dhe Teknologjisë (NIST), një agjenci e Departamentit të Tregtisë të SHBA-së, ku ai është Këshilltar i Lartë Teknik. Gjatë punës në CAISI dhe në institucionin paraardhës të saj, Institutin Amerikan të Sigurisë së IA-së, Paul ka punuar për vlerësimin e modeleve avangardë të IA-së, përfshirë aftësitë me ndikim në sigurinë kombëtare, si dhe për qasjet që zbusin rreziqet përkatëse të sigurisë dhe të mbrojtjes.
Paul është gjithashtu themeluesi i Qendrës Kërkimore për Përafrimin (ARC), një organizatë kërkimore jofitimprurëse që përqendrohet në përafrimin e sistemeve të përparuara të IA-së me interesat njerëzore. Nga viti 2017 deri në vitin 2021, Paul drejtoi kërkimin për përafrimin në OpenAI dhe dha një kontribut themelor në trajnimin përforcues nga përshtypjet e njerëzve (RLHF). Në këtë rol të ri, Paul sjell një këndvështrim të veçantë, të mbështetur në njohuri teknike, në vendimet e qeverisjes që janë thelbësore për misionin e OpenAI.
Paul ka ndihmuar në formësimin e fushës së përafrimit të IA-së përmes një pune rigoroze, të përqendruar te çështjet më të vështira që ngrenë sistemet gjithnjë e më të afta. Përvoja e tij në institucionet qeveritare me sigurinë dhe standardet e IA-së avangardë, së bashku me gjykimin e tij teknik, do të forcojë mbikëqyrjen nga Bordi dhe punën e Komitetit të Sigurisë dhe të Mbrojtjes, ndërsa OpenAI vijon të zhvillojë dhe të vërë në përdorim IA avangardë.
Aftësitë e IA-së kanë përparuar shumë shpejt gjatë vitit të fundit dhe përafrimi mbetet një problem i vështirë teknik, duke e bërë përgjegjësinë e Komitetit të Sigurisë dhe të Mbrojtjes më të rëndësishme dhe më sfiduese se kurrë. Jam entuziast që po i bashkohem ekipit për të dhënë ndihmesën time.
IA po hyn në një epokë të re aftësish, ndaj bëhet gjithnjë e më e rëndësishme që përparimet e këtyre sistemeve të shoqërohen me siguri, mbrojtje, përafrim dhe qeverisje të fortë. Gjatë gjithë karrierës së tij në kërkimin për përafrimin e IA-së, Paul ka mbajtur një qëndrim që e merr seriozisht mundësinë e rreziqeve katastrofike nga IA e përparuar dhe nevojën që zhvilluesit të përgatiten përpara se sistemet të arrijnë nivele më të rrezikshme aftësish. Ai ka qenë një zë i pavarur në debatin nëse masat mbrojtëse të industrisë janë të mjaftueshme. Besojmë se qeverisja e Fondacionit është më e fortë kur përfshin njerëz të gatshëm të vënë në pikëpyetje supozimet mbizotëruese dhe të ndihmojnë në forcimin e bazës së provave, masave mbrojtëse dhe llogaridhënies mbi të cilat mbështeten vendimet kyçe.
Emërimi i Paul mbështetet në strukturën e qeverisjes të krijuar përmes rikapitalizimit të OpenAI në tetor 2025, përfshirë angazhimet e marra në kuadër të shqyrtimeve të kryera përgjatë një viti nga Prokurori i Përgjithshëm i Kalifornisë dhe Prokurorja e Përgjithshme e Delauerit. Angazhimi i tyre ndihmoi në forcimin e kuadrit të qeverisjes.
Rreth OpenAI Foundation
OpenAI Foundation është një organizatë bamirëse e përkushtuar për të siguruar që IA të sjellë përfitime për mbarë njerëzimin. Si organizatë jofitimprurëse më vete, Fondacioni zhvillon veprimtarinë e vet bamirëse, duke ruajtur njëkohësisht kontrollin dhe një pjesëmarrje të konsiderueshme në kapitalin e OpenAI Group PBC. Fondacioni mbështet nisma që nxisin zbulimet shkencore, forcojnë shoqërinë civile dhe rrisin aftësinë për të përballuar sfidat përmes IA-së së përgjegjshme. Përmes granteve, partneriteteve dhe nismave të tjera filantropike, Fondacioni ndihmon në përshpejtimin e punës që krijon përfitime të qëndrueshme për publikun dhe u mundëson më shumë njerëzve të përfitojnë nga potenciali transformues i IA-së.
Fondacioni kontrollon OpenAI Group PBC, ndërsa Komiteti i Sigurisë dhe i Mbrojtjes është komitet i Bordit të Fondacionit. Mësoni më shumë në www.openaifoundation.org.
*Në rolin e Këshilltarit të Lartë Teknik, Paul nuk do të marrë pjesë në trajtimin e asnjë çështjeje që lidhet me OpenAI, as në ndonjë vlerësim modelesh.