Пол Кристиано OpenAI Foundation-ийн Төлөөлөн удирдах зөвлөлд нэгдлээ
Пол Кристиано мөн Сангийн Аюулгүй байдал, хамгаалалтын хороонд нэгдэнэ.
Пол Кристианог OpenAI Foundation-ийн Төлөөлөн удирдах зөвлөлд томилсныг зарлаж байна. Тэрээр мөн OpenAI Group PBC-ийн Төлөөлөн удирдах зөвлөлд саналын эрхгүй ажиглагчаар ажиллана.
Пол Сангийн Төлөөлөн удирдах зөвлөлийн Аюулгүй байдал, хамгаалалтын хороонд (SSC) мөн нэгдэж, тус хорооны дарга Зико Колтертой хамтран ажиллана. Аюулгүй байдал, хамгаалалтын хороо нь OpenAI Group PBC-ийг оролцуулан OpenAI-ийн бүх байгууллагын аюулгүй байдал, хамгаалалтын үйл ажиллагаанд удирдлага, хяналт тавьдаг.
Пол Үндэсний стандарт, технологийн хүрээлэнгийн (NIST) дэргэдэх Хиймэл оюуны стандарт, инновацын төвд (CAISI) ажиллахдаа АНУ-ын хоёр засаг захиргааны үед төрийн байгууллагад ажилласан туршлага хуримтлуулсан. Тус хүрээлэн нь АНУ-ын Худалдааны яамны харьяа байгууллага бөгөөд Пол технологийн ахлах зөвлөхөөр ажилладаг. Пол CAISI болон түүний өмнөх байгууллага болох АНУ-ын Хиймэл оюуны аюулгүй байдлын хүрээлэнд ажиллах хугацаандаа хил хязгаар түвшний хиймэл оюуны загварууд, тэр дундаа үндэсний аюулгүй байдалд нөлөөлөх чадавхыг үнэлэх, мөн үүнтэй холбоотой аюулгүй байдал, хамгаалалтын эрсдэлийг бууруулах арга замууд дээр ажилласан.
Пол мөн дэвшилтэт хиймэл оюуны системүүдийг хүний ашиг сонирхолд нийцүүлэхэд чиглэсэн ашгийн бус судалгааны байгууллага болох Нийцлийн судалгааны төвийг (ARC) үүсгэн байгуулсан. 2017–2021 онд Пол OpenAI-ийн нийцлийн судалгааг удирдаж, Хүний санал хүсэлтээс бататган суралцах (RLHF) аргын суурийг тавихад хувь нэмэр оруулсан. Энэхүү шинэ үүргийн хүрээнд Пол OpenAI-ийн эрхэм зорилгыг хэрэгжүүлэхэд голлох ач холбогдолтой засаглалын шийдвэрүүдэд техникийн мэдлэгт тулгуурласан, өөрийн гэсэн өнцгийг нэмж өгнө.
Пол улам бүр чадваржиж буй системүүдээс үүдэх хамгийн хүнд асуултуудад төвлөрсөн, нарийн нягт судалгаагаараа хиймэл оюуныг хүний ашиг сонирхолд нийцүүлэх судалгааны салбарыг төлөвшүүлэхэд хувь нэмэр оруулсан. OpenAI хил хязгаар түвшний хиймэл оюуныг үргэлжлүүлэн хөгжүүлж, нэвтрүүлэхийн хэрээр түүний төрийн байгууллагад хиймэл оюуны энэ түвшний аюулгүй байдал, стандартын чиглэлээр ажилласан туршлага, техникийн асуудлыг үнэлж дүгнэх чадвар нь Төлөөлөн удирдах зөвлөлийн хяналт болон Аюулгүй байдал, хамгаалалтын хорооны ажлыг бэхжүүлнэ.
Сүүлийн нэг жилд хиймэл оюуны чадавх маш хурдацтай ахисан ч түүнийг хүний ашиг сонирхолд нийцүүлэх нь техникийн хувьд хүнд асуудал хэвээр байна. Энэ нь Аюулгүй байдал, хамгаалалтын хорооны үүрэг хариуцлагыг урьд урьдынхаас илүү чухал, илүү сорилттой болгож байна. Багт нэгдэж, хувь нэмрээ оруулах болсондоо баяртай байна.
Хиймэл оюуны чадавх шинэ эрин үед шилжиж байгаа тул эдгээр системийн дэвшлийг аюулгүй байдал, хамгаалалт, хүний ашиг сонирхолд нийцүүлэх ажил, засаглалын бат бөх тогтолцоотой хамт хөгжүүлэх нь улам чухал болж байна. Пол хиймэл оюуны нийцлийг судалсан бүхий л хугацаандаа дэвшилтэт хиймэл оюун сүйрлийн хэмжээний эрсдэл учруулж болзошгүйг, мөн системүүд илүү аюултай чадавхын түвшинд хүрэхээс өмнө хөгжүүлэгчид бэлтгэлээ хангах ёстойг нухацтай авч үзэж ирсэн. Тэрээр салбарын хамгаалалтын арга хэмжээнүүд хангалттай эсэх талаар бие даасан байр сууриа илэрхийлж ирсэн. Нийтээр хүлээн зөвшөөрсөн таамаглалуудыг эргэлзэн шалгаж, чухал шийдвэрүүдийн үндэс болдог нотолгоо, хамгаалалтын арга хэмжээ, хариуцлагын тогтолцоог бэхжүүлэхэд бэлэн хүмүүс оролцсоноор Сангийн засаглал илүү бат бөх болно гэж бид үздэг.
Полын томилгоо нь 2025 оны аравдугаар сард OpenAI-ийн хөрөнгийн бүтцийг шинэчлэхэд бий болгосон засаглалын бүтцийг улам бэхжүүлж байна. Үүнд Калифорни мужийн Ерөнхий прокурор болон Делавэр мужийн Ерөнхий прокурорын нэг жилийн турш явуулсан хянан шалгалттай холбоотойгоор хүлээсэн үүрэг амлалтууд мөн хамаарна. Тэдний оролцоо засаглалын тогтолцоог бэхжүүлэхэд тусалсан.
OpenAI Foundation-ийн тухай
OpenAI Foundation нь хиймэл оюуны үр өгөөжийг нийт хүн төрөлхтөнд хүртээх зорилготой буяны байгууллага юм. Тус Сан нь бие даасан ашгийн бус байгууллагын хувьд өөрийн буяны үйл ажиллагааг явуулахын зэрэгцээ OpenAI Group PBC-ийн хяналтыг хадгалж, тус компанийн хувьцааны томоохон хэсгийг эзэмшдэг. Сан нь хиймэл оюуныг хариуцлагатай ашиглах замаар шинжлэх ухааны нээлтийг урагшлуулах, иргэний нийгмийг бэхжүүлэх, сорилтыг даван туулах чадавхыг нэмэгдүүлэх санаачилгуудыг дэмждэг. Буцалтгүй тусламж, түншлэл болон бусад буяны санаачилгаар дамжуулан Сан нь олон нийтэд урт хугацааны үр өгөөж өгөх ажлыг хурдасгаж, хиймэл оюуны өөрчлөлт авчрах боломжийг илүү олон хүнд хүртээмжтэй болгоход тусалдаг.
Сан нь OpenAI Group PBC-ийг хянадаг бөгөөд Аюулгүй байдал, хамгаалалтын хороо нь Сангийн Төлөөлөн удирдах зөвлөлийн дэргэдэх хороо юм. Дэлгэрэнгүйг www.openaifoundation.org сайтаас үзнэ үү.
*Пол техникийн ахлах зөвлөхийн хувьд OpenAI-тай холбоотой бүх асуудал болон загварын бүх үнэлгээнд оролцохоос татгалзана.