Пол Кристиано OpenAI Foundation директорлар кеңесіне қосылды
Пол Кристиано Қордың Қауіпсіздік және қорғаныс комитетіне де қосылады.
Пол Кристианоның OpenAI Foundation директорлар кеңесіне тағайындалғанын хабарлаймыз. Ол OpenAI Group PBC директорлар кеңесінде дауыс беру құқығынсыз бақылаушы болады.
Пол сондай-ақ Қордың директорлар кеңесіне қарасты Қауіпсіздік және қорғаныс комитетіне қосылып, оның төрағасы Зико Колтермен бірге жұмыс істейді. Қауіпсіздік және қорғаныс комитеті бүкіл OpenAI, соның ішінде OpenAI Group PBC аясындағы қауіпсіздік және қорғаныс шараларын қадағалайды.
Пол АҚШ-тың Ұлттық стандарттар және технологиялар институты (NIST) құрамындағы ЖИ стандарттары және инновациялар орталығында (CAISI) екі әкімшілік тұсында жұмыс істеп, мемлекеттік қызметте тәжірибе жинақтады. Бұл институт Сауда министрлігіне қарайды, ал Пол аталған орталықта аға техникалық кеңесші қызметін атқарады. CAISI-де және оның алдындағы АҚШ-тың ЖИ қауіпсіздігі институтында қызмет еткен кезде Пол озық ЖИ модельдерін, соның ішінде олардың ұлттық қауіпсіздікке әсер ететін мүмкіндіктерін бағалаумен және осыған байланысты қауіпсіздік пен қорғаныс тәуекелдерін азайту тәсілдерімен айналысты.
Пол — сондай-ақ дамыған ЖИ жүйелерін адам мүдделерімен үйлестіруге бағытталған коммерциялық емес зерттеу ұйымы — Үйлестіруді зерттеу орталығының (ARC) негізін қалаушы. 2017–2021 жылдары Пол OpenAI-да ЖИ-ді адам мүдделерімен үйлестіру зерттеулерін басқарып, RLHF (адам пікіріне негізделген күшейтпелі оқыту) әдісінің іргетасын қалауға үлес қосты. Жаңа қызметінде Пол OpenAI миссиясы үшін аса маңызды басқару шешімдеріне техникалық білімге сүйенген өзіндік көзқарасын қосады.
Пол мүмкіндіктері ұдайы артып келе жатқан жүйелерге қатысты ең күрделі сұрақтарды терең әрі тиянақты зерттеп, ЖИ-ді адам мүдделерімен үйлестіру саласының қалыптасуына үлес қосты. OpenAI озық ЖИ-ді әзірлеп, қолданысқа енгізуді жалғастырып жатқанда, Полдың мемлекеттік қызметте озық ЖИ қауіпсіздігі мен стандарттары бойынша жинаған тәжірибесі және техникалық мәселелерді бағалай білуі директорлар кеңесінің қадағалауын және Қауіпсіздік және қорғаныс комитетінің жұмысын күшейтеді.
Соңғы жылы ЖИ мүмкіндіктері өте қарқынды дамыды, ал оны адам мүдделерімен үйлестіру әлі де күрделі техникалық мәселе болып отыр. Сондықтан Қауіпсіздік және қорғаныс комитетінің міндеті бұрынғыдан да маңызды әрі күрделі бола түсті. Командаға қосылып, өз үлесімді қосатыныма қуаныштымын.
ЖИ мүмкіндіктері жаңа кезеңге аяқ басты. Сондықтан бұл жүйелердің дамуымен қатар қауіпсіздік пен қорғанысты нығайту, оларды адам мүдделерімен үйлестіру және тиімді басқару барған сайын маңызды болып келеді. ЖИ-ді адам мүдделерімен үйлестіруді зерттеген бүкіл еңбек жолында Пол дамыған ЖИ апатты тәуекелдер тудыруы мүмкін екенін және әзірлеушілер жүйелердің мүмкіндіктері қауіпті деңгейге жетпей тұрып дайындалуы керектігін байыппен ескеріп келеді. Ол саладағы сақтық шараларының жеткіліктілігі туралы тәуелсіз пікір білдіріп келеді. Қалыптасқан пайымдарды сын тұрғысынан қарастыруға және аса маңызды шешімдердің негізіндегі дәлелдерді, сақтық шаралары мен есеп берушілікті нығайтуға дайын адамдар Қорды басқаруды күшейтеді деп сенеміз.
Полдың тағайындалуы OpenAI-дың 2025 жылғы қазанда капиталын қайта құрылымдау кезінде қалыптасқан басқару құрылымын одан әрі нығайтады. Бұл қадам Калифорния штатының бас прокуроры мен Делавэр штатының бас прокуроры бір жыл бойы жүргізген тексерулерге байланысты қабылданған міндеттемелерді де жүзеге асырады. Олардың қатысуы басқару жүйесін нығайтуға көмектесті.
OpenAI Foundation туралы
OpenAI Foundation — ЖИ-дің бүкіл адамзатқа пайда әкелуін қамтамасыз етуді мақсат тұтатын қайырымдылық ұйымы. Дербес коммерциялық емес ұйым ретінде Қор өз қайырымдылық қызметін жүргізумен қатар, OpenAI Group PBC-ге бақылауын сақтап, оның елеулі үлесіне иелік етеді. Қор ЖИ-ді жауапкершілікпен пайдалану арқылы ғылыми жаңалықтар ашуға, азаматтық қоғамды нығайтуға және қиындықтарға төтеп беру қабілетін арттыруға бағытталған бастамаларды қолдайды. Гранттар, серіктестіктер және басқа да қайырымдылық бастамалары арқылы Қор қоғамға ұзақ мерзімді пайда әкелетін жұмысты жеделдетуге және ЖИ-дің түбегейлі өзгеріс әкелетін мүмкіндіктерін көпшілікке қолжетімді етуге көмектеседі.
Қор OpenAI Group PBC-ді бақылайды, ал Қауіпсіздік және қорғаныс комитеті Қордың директорлар кеңесіне қарайды. Толығырақ: www.openaifoundation.org.
*Аға техникалық кеңесші ретінде Пол OpenAI-ға қатысты барлық мәселелерді қараудан және модельдерді бағалаудың барлық жұмыстарына қатысудан өз еркімен бас тартады.