Paul Christiano csatlakozik az OpenAI Foundation igazgatótanácsához
Paul Christiano az alapítvány Biztonsági és Védelmi Bizottságához is csatlakozik.
Bejelentjük, hogy Paul Christianót kinevezték az OpenAI Foundation igazgatótanácsának tagjává. Az OpenAI Group PBC igazgatótanácsában szavazati jog nélküli megfigyelőként vesz majd részt.
Paul az alapítvány igazgatótanácsának Biztonsági és Védelmi Bizottságához is csatlakozik, ahol a bizottság elnökével, Zico Kolterrel dolgozik majd együtt. A Biztonsági és Védelmi Bizottság az OpenAI egészében felügyeli a biztonsági és védelmi gyakorlatokat, beleértve az OpenAI Group PBC-t is.
Paul két kormányzati cikluson át szerzett kormányzati tapasztalatot a Nemzeti Szabványügyi és Technológiai Intézeten (NIST) belül működő MI-szabványügyi és Innovációs Központ (CAISI) munkatársaként. A NIST az Egyesült Államok Kereskedelmi Minisztériumának egyik ügynöksége; Paul a CAISI vezető technológiai tanácsadójaként dolgozik. A CAISI és elődje, az Egyesült Államok MI-biztonsági Intézetének munkatársaként Paul élvonalbeli MI-modellek értékelésével foglalkozott, beleértve azok nemzetbiztonsági jelentőségű képességeit, valamint a kapcsolódó biztonsági és védelmi kockázatok mérséklésének módszereit.
Paul emellett az Alignment Research Center (ARC) alapítója. Ez a nonprofit kutatószervezet a fejlett MI-rendszerek emberi érdekekhez igazításával foglalkozik. 2017 és 2021 között Paul vezette az OpenAI-nál az MI emberi érdekekhez igazítását célzó kutatásokat, és alapvető munkával járult hozzá a megerősítéses tanulás (RLHF) fejlesztéséhez. Új szerepében Paul egyedi, műszakilag megalapozott szemlélettel járul hozzá az OpenAI küldetése szempontjából kulcsfontosságú irányítási döntésekhez.
Paul meghatározó szerepet játszott az MI emberi érdekekhez igazításának kutatásában. Munkáját szigorú szakmai mérce jellemzi, és az egyre nagyobb képességű rendszerek által felvetett legnehezebb kérdésekre összpontosít. Az élvonalbeli MI biztonságával és szabványaival kapcsolatos kormányzati tapasztalata, valamint műszaki ítélőképessége erősíteni fogja az igazgatótanács felügyeleti szerepét és a Biztonsági és Védelmi Bizottság munkáját, miközben az OpenAI továbbra is élvonalbeli MI-rendszereket fejleszt és vezet be.
Az MI képességei rendkívül gyorsan fejlődtek az elmúlt évben, az emberi érdekekhez való igazítása pedig továbbra is nehéz műszaki probléma. Emiatt a Biztonsági és Védelmi Bizottság feladata minden eddiginél fontosabb, és nagyobb kihívást is jelent. Örömmel csatlakozom a csapathoz, hogy segítsem ezt a munkát.
Az MI képességei új korszakba lépnek, ezért egyre fontosabb, hogy e rendszerek fejlődését magas szintű biztonság, védelem, az emberi érdekekhez való igazodás és megfelelő irányítás kísérje. Paul az MI emberi érdekekhez igazításával foglalkozó kutatói pályája során mindvégig komolyan vette annak lehetőségét, hogy a fejlett MI katasztrofális kockázatokat jelenthet, és azt, hogy a fejlesztőknek fel kell készülniük, mielőtt a rendszerek képességei veszélyesebb szintet érnek el. Független álláspontot képviselt abban a kérdésben, hogy megfelelőek-e az iparág biztonsági intézkedései. Meggyőződésünk, hogy az alapítvány irányítását erősítik azok, akik készek megkérdőjelezni az általánosan elfogadott feltételezéseket, és segítenek szilárdabb bizonyítékokra, hatékonyabb biztosítékokra és erősebb elszámoltathatóságra alapozni a döntő fontosságú döntéseket.
Paul kinevezése az OpenAI 2025. októberi tőkeszerkezeti átalakítása során létrehozott irányítási struktúrára épül. Ennek részei a kaliforniai főügyész és a delaware-i főügyész egy éven át végzett vizsgálataihoz kapcsolódó kötelezettségvállalások is. Közreműködésük hozzájárult az irányítási keretrendszer megerősítéséhez.
Az OpenAI Foundation bemutatása
Az OpenAI Foundation jótékonysági szervezet, amely azért dolgozik, hogy az MI az egész emberiség javát szolgálja. Az alapítvány önálló nonprofit szervezetként saját jótékonysági tevékenységet végez, miközben megtartja az OpenAI Group PBC feletti irányítást és az abban birtokolt jelentős tulajdonrészt. Az alapítvány olyan kezdeményezéseket támogat, amelyek a felelős MI révén előmozdítják a tudományos felfedezéseket, erősítik a civil társadalmat és növelik az ellenálló képességet. Támogatásokkal, partnerségekkel és más jótékonysági kezdeményezésekkel az alapítvány felgyorsítja a tartós közhasznot teremtő munkát, és többek számára teszi elérhetővé az MI kínálta, gyökeres változást hozó lehetőségeket.
Az alapítvány irányítja az OpenAI Group PBC-t, a Biztonsági és Védelmi Bizottság pedig az alapítvány igazgatótanácsának bizottságaként működik. További információ: www.openaifoundation.org.
*Vezető technológiai tanácsadóként Paul nem vesz majd részt semmilyen, az OpenAI-t érintő ügyben, illetve modellértékelésben.