Փոլ Քրիստիանոն միանում է OpenAI Foundation-ի խորհրդին
Փոլ Քրիստիանոն կմիանա նաև Հիմնադրամի Անվտանգության և պաշտպանվածության հանձնաժողովին։
Հայտարարում ենք Փոլ Քրիստիանոյին OpenAI Foundation-ի խորհրդի անդամ նշանակելու մասին։ Նա նաև կլինի OpenAI Group PBC-ի խորհրդի՝ ձայնի իրավունք չունեցող դիտորդ։
Փոլը կմիանա նաև Հիմնադրամի խորհրդի Անվտանգության և պաշտպանվածության հանձնաժողովին՝ աշխատելով դրա նախագահ Զիկո Կոլթերի հետ։ Անվտանգության և պաշտպանվածության հանձնաժողովը վերահսկում է անվտանգության և պաշտպանվածության ապահովման գործելակերպն ամբողջ OpenAI-ում, այդ թվում՝ OpenAI Group PBC-ում։
Փոլը պետական աշխատանքի փորձ է ձեռք բերել երկու վարչակազմերի օրոք՝ աշխատելով Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտի (NIST) կազմում գործող ԱԲ չափորոշիչների և նորարարության կենտրոնում (CAISI)։ Ինստիտուտը ԱՄՆ առևտրի նախարարության գործակալություն է, իսկ Փոլն այնտեղ տեխնոլոգիաների գծով ավագ խորհրդական է։ CAISI-ում և դրան նախորդած ԱՄՆ ԱԲ անվտանգության ինստիտուտում աշխատելու ընթացքում Փոլը զբաղվել է առաջադեմ ԱԲ մոդելների գնահատմամբ, այդ թվում՝ ազգային անվտանգության վրա ազդող կարողությունների, ինչպես նաև դրանց առնչվող անվտանգության ու պաշտպանվածության ռիսկերը մեղմելու մոտեցումներով։
Փոլը նաև Համապատասխանեցման հետազոտական կենտրոնի (ARC) հիմնադիրն է։ Այս ոչ առևտրային հետազոտական կազմակերպությունը զբաղվում է առաջադեմ ԱԲ համակարգերը մարդու շահերին համապատասխանեցնելու հարցերով։ 2017–2021 թվականներին Փոլը ղեկավարել է OpenAI-ում ԱԲ-ն մարդու շահերին համապատասխանեցնելու հետազոտությունները և հիմնարար ներդրում ունեցել մարդկային հետադարձ կապից ամրապնդումով ուսուցման (RLHF) ոլորտում։ Այս նոր դերում Փոլը յուրահատուկ և տեխնիկական խոր գիտելիքներով հիմնավորված մոտեցում է բերում կառավարման այն որոշումներին, որոնք առանցքային են OpenAI-ի առաքելության համար։
Փոլն օգնել է ձևավորել ԱԲ-ն մարդու շահերին համապատասխանեցնելու հետազոտական ոլորտը՝ խիստ գիտական մոտեցմամբ կենտրոնանալով ավելի ու ավելի կարողունակ համակարգերի առաջացրած ամենաբարդ հարցերի վրա։ Պետական համակարգում առաջադեմ ԱԲ-ի անվտանգության և չափորոշիչների ուղղությամբ աշխատանքի նրա փորձն ու տեխնիկական հարցերում խորագիտությունը կամրապնդեն խորհրդի վերահսկողական դերն ու Անվտանգության և պաշտպանվածության հանձնաժողովի աշխատանքը, մինչ OpenAI-ը շարունակում է մշակել և ներդնել առաջադեմ ԱԲ։
Վերջին տարում ԱԲ-ի կարողությունները շատ արագ են զարգացել, իսկ այն մարդու շահերին համապատասխանեցնելը շարունակում է բարդ տեխնիկական խնդիր մնալ։ Սա Անվտանգության և պաշտպանվածության հանձնաժողովի պատասխանատվությունը դարձնում է առավել քան երբևէ կարևոր և դժվարին։ Ուրախ եմ միանալ թիմին և իմ ներդրումն ունենալ։
ԱԲ-ի կարողությունները թևակոխում են նոր դարաշրջան։ Ուստի գնալով ավելի կարևոր է դառնում, որ այս համակարգերի առաջընթացն ուղեկցվի հուսալի անվտանգության ու պաշտպանվածության ապահովմամբ, մարդու շահերին համապատասխանեցմամբ և արդյունավետ կառավարմամբ։ ԱԲ-ն մարդու շահերին համապատասխանեցնելու հետազոտություններում իր ողջ գործունեության ընթացքում Փոլը լրջորեն է վերաբերվել այն հավանականությանը, որ առաջադեմ ԱԲ-ն կարող է աղետալի ռիսկեր առաջացնել, և այն անհրաժեշտությանը, որ մշակողները պատրաստ լինեն՝ նախքան համակարգերի կարողությունները կհասնեն ավելի վտանգավոր մակարդակների։ Նա անկախ դիրքորոշում է հայտնել այն հարցի շուրջ, թե արդյոք ոլորտում կիրառվող պաշտպանական միջոցները բավարար են։ Մենք համոզված ենք, որ Հիմնադրամի կառավարումն ավելի ամուր է դառնում այն մարդկանց շնորհիվ, որոնք պատրաստ են կասկածի տակ դնել ընդունված ենթադրությունները և օգնել ամրապնդել կարևոր որոշումների հիմքում ընկած ապացուցողական բազան, պաշտպանական միջոցներն ու հաշվետվողականությունը։
Փոլի նշանակումը շարունակում է 2025 թվականի հոկտեմբերին OpenAI-ի կապիտալի վերակազմակերպմամբ ձևավորված կառավարման կառուցվածքի զարգացումը՝ ներառյալ Կալիֆոռնիայի գլխավոր դատախազի և Դելավերի գլխավոր դատախազի՝ մեկ տարվա ընթացքում իրականացրած ուսումնասիրությունների առնչությամբ ստանձնած պարտավորությունների կատարումը։ Նրանց ներգրավվածությունն օգնեց ամրապնդել կառավարման համակարգը։
OpenAI Foundation-ի մասին
OpenAI Foundation-ը բարեգործական կազմակերպություն է, որի նպատակն է ապահովել, որ ԱԲ-ն օգուտ բերի ողջ մարդկությանը։ Որպես առանձին ոչ առևտրային կազմակերպություն՝ Հիմնադրամն իրականացնում է սեփական բարեգործական գործունեությունը՝ միաժամանակ պահպանելով վերահսկողությունը OpenAI Group PBC-ի նկատմամբ և ունենալով դրանում նշանակալի բաժնեմաս։ Հիմնադրամն աջակցում է նախաձեռնությունների, որոնք նպաստում են գիտական հայտնագործություններին, ամրապնդում քաղաքացիական հասարակությունը և բարձրացնում դիմակայունությունը՝ ԱԲ-ի պատասխանատու կիրառման միջոցով։ Դրամաշնորհների, գործընկերությունների և այլ բարեգործական նախաձեռնությունների միջոցով Հիմնադրամն օգնում է արագացնել այն աշխատանքը, որը տևական հանրային օգուտ է ստեղծում և ԱԲ-ի փոխակերպող ներուժը հասանելի դարձնում ավելի լայն շրջանակի։
Հիմնադրամը վերահսկում է OpenAI Group PBC-ն, իսկ Անվտանգության և պաշտպանվածության հանձնաժողովը Հիմնադրամի խորհրդի հանձնաժողովներից է։ Իմացեք ավելին՝ www.openaifoundation.org։
*Որպես տեխնիկական հարցերով ավագ խորհրդական՝ Փոլը ինքնաբացարկ կհայտնի OpenAI-ին առնչվող բոլոր հարցերից, ինչպես նաև մոդելների բոլոր գնահատումներից։