Хиймэл оюун ухааны эрин үеийн дасан зохицох чадвар

OpenAI нь Ерөнхий хиймэл оюун ухаан бүх хүн төрөлхтөнд ашиг тусаа өгөхийг хангахын төлөө оршин тогтнодог.

Бид хиймэл оюун ухааны хурдацтай хөгжилтэй хөл нийлүүлэн алхахын тулд тасралтгүй ажиллаж байна. 4-р сард тус сан нь дэвшилтэт хиймэл оюун ухааныг ашиглан Альцгеймерийн өвчин зэрэг өвчнөөс урьдчилан сэргийлэх, эмчлэхэд туслах зорилгынхоо хүрээнд Амьдралын шинжлэх ухаан ба өвчнийг анагаах чиглэлээр анх удаагаа 100 сая ам.долларын буцалтгүй тусламжийг зарласан⁠. Өнгөрсөн долоо хоногт бид ирээдүй хойч үеийнхний хувьд хөдөлмөр эрхлэлт болон эдийн засгийн хөгжил ямар утга учиртай болохыг ойлгох, зөв замд нь оруулах зорилго бүхий Ажлын байр болон Эдийн засгийн ирээдүй хөтөлбөрөө зарласан⁠.

Өнөөдөр бид дараагийн томоохон хөтөлбөрийнхөө алсын харааг өргөжүүлж, хиймэл оюун ухааны чадавхи өсөхийн хэрээр нийгмийн үүнийг ашиглах чадвар мөн адил хурдацтай өсөхийг баталгаажуулж байна. Бид энэ ажлыг хиймэл оюун ухааны дасан зохицох чадвар гэж нэрлэдэг: нийгэм хиймэл оюун ухааны эрсдэлийг бууруулах, түүний үр өгөөжийг дээд зэргээр ашиглахын тулд шаардлагатай экосистемийн арга барил юм.

Бидний ажил аль хэдийн эхэлсэн. Манай ажлыг эхлүүлснээс хойших хэдхэн сарын хугацаанд тус сан нь Хиймэл оюун ухааны дасан зохицох чадварын хөтөлбөрийн хүрээнд байгууллагуудад олгох 130 сая ам.доллар гаруй буцалтгүй тусламжийг эцэслэн шийдвэрлэхээр ажиллаж байгаа бөгөөд удахгүй олон нийтэд мэдээлэх болно.^1⁠

Өөрчлөлтийн технологийн хэв маяг

Хиймэл оюун ухааны дасан зохицох чадварын ач холбогдлыг хүний түүхийг тодорхой өөрчилсөн өнгөрсөн технологиудаар дамжуулан хамгийн сайн ойлгож болно.

Нийгмийг эхнээс нь бүрмөсөн өөрчлөн байгуулдаг технологи үе үе гарч ирдэг. Эдийн засагчид эдгээрийг “ерөнхий зориулалттай технологи” гэж нэрлэдэг. Гал. Хэвлэлийн машин. Цахилгаан. Интернет. Тэд бүгд ижил төстэй замыг туулсан: хурдан шинэчлэл, бодит эрсдэл, институцүүдийн хурдтай дагаж мөрдөх оролдлого. Гэхдээ жишээ бүр нь хүчирхэг технологийг аюулгүй болгохын тулд юу шаардлагатайг харуулж байна.

Гал хүн төрөлхтний соёл иргэншлийг бий болгосон. Энэ нь биднийг дулаацуулж, хоолтой байлгаж, махчин амьтдаас хамгаалсан. Энэ нь бидний хотуудыг мөн шатаасан. Цаг хугацаа өнгөрөхөд нийгэм галд тэсвэртэй материал, усан хангамжийн сүлжээ, мэргэжлийн гал унтраах анги, барилгын дүрэм журам зэрэг тэсвэрлэх чадварыг бий болгосон. Экосистем ч мөн үүнтэй адил давхарга давхаргаар бүрэлддэг.

Цахилгаан мөн адил энэ замаар бий болсон. Томас Эдисоны Перл Стрит станц (Pearl Street Station) 1882 онд Манхэттэнийг гэрэлтүүлж эхэлсний дараа цахилгаан эрчим хүч нь араасаа түймэр, цахилгаанд цохиулах осол болон олон нийтийн дунд айдас дагуулсан. Тусгаарлагчтай утас, автомат таслагч болон аюулгүй байдлын дүрмүүд зэрэг хамгаалалтын хэрэгслүүд хараахан бий болоогүй байсан тул улс орны өнцөг булан бүрийн хотуудад ажилчид болон хажуугаар өнгөрөх иргэд цахилгаанд цохиулж амиа алдаж байлаа. Хотууд туршилтыг бүрэн орхих ёстой эсэх талаар хэлэлцсэн. Үүний оронд технологи хөгжихийн хэрээр бид Underwriters Laboratories зэрэг хараат бус туршилт, баталгаажуулалтын байгууллагуудыг үүсгэн байгуулж, Үндэсний цахилгааны дүрэм зэрэг салбарын стандартуудыг тогтоож, улмаар зах зээлийн өрсөлдөөнд орхигдсон олон нийтийн бүлгүүдэд эрчим хүчийг хүргэхийн тулд улсын хөрөнгө оруулалтыг татан оролцуулсан юм. Хөгжлийн давхарга бүр нь цахилгаан эрчим хүчийг илүү аюулгүй, хүртээмжтэй болгосон; өнөөдөр хүүхэд унтраалга асаахад гэрэл асдаг хүртэл аюулгүй болсон.

Аливаа зүйлийг сайн хийвэл дасан зохицох чадвар ингэж л харагддаг.

Хиймэл оюун ухаан нь уян хатан экосистемийг шаарддаг

Хиймэл оюун ухаан өмнөх технологиудтай адил замаар явж байгаа ч урьд өмнө байгаагүй хурдаар хөгжиж байна.

Бид хөгжлийнхөө эхний шатандаа явж байгаа ч ашиг тус нь аль хэдийн тодорхой болсон: хиймэл оюун ухаан нь бизнес эхлүүлэхэд тулгарч буй саад бэрхшээлийг бууруулж, боловсролд хүрэх боломжийг өргөжүүлж, шинжлэх ухааны нээлтүүдийг хурдасгаж, анагаах ухааныг өөрчилж байна.

Үүний зэрэгцээ, эрсдэлүүд нь хиймэл оюун ухааны ашиг тусын толин тусгал хэлбэрээр мөн адил хурдан гарч ирж байна. Шинэ салбаруудыг бий болгож буй өсөлт нь одоо байгаа салбаруудыг өөрчилж, мэргэжлийн замналд нөлөөлж болзошгүй юм. Залуу хүмүүст суралцах, бүтээхэд нь тусалдаг ижил системүүд нь сөрөг зан авирыг бий болгоход хүргэж болзошгүй юм. Биологийн судалгааг хурдасгадаг хэрэгслүүд нь хортой эмгэг төрүүлэгчдийг бий болгох саадыг бууруулж чадна. Мөн хиймэл оюун ухааны код бичих чадварыг буруугаар ашиглавал чухал дэд бүтцэд аюул учруулж болзошгүй юм.

Эхний OpenAI баг нь хиймэл оюун ухаан нийгэмд ашиг тусаа өгөх нь техникийн нийцлийн асуудлыг шийдвэрлэхэд голчлон хамаарна гэж үзэж байв. Энэ нь бидний ажлын гол бөгөөд чухал хэвээр байгаа — бид одоо үүнийг тааврын зөвхөн нэг хэсэг гэж үзэж байна. Хиймэл оюун ухаан салбар, улс орнуудад тархах тусам нийгэмд бие даасан судалгаа, олон нийтийн дэд бүтэц, салбарын зохицуулалт, цоо шинэ мэргэжлийн чиглэлүүд шаардлагатай болно. Богино үгээр хэлбэл, энэ нь хийэл оюун ухааны дасан зохицох чадварыг шаардана.

Бид анхны ажлаа томоохон, ойрын хугацааны эрсдэл болон шууд нөлөөллийн огтлолцол дээр байрладаг дөрвөн чиглэлд^2⁠ төвлөрүүлэхээр сонгосон:

1. Ирээдүйн зохион байгуулалттай цар тахлаас урьдчилан сэргийлэхэд туслах био тэсвэртэй байдал

2. Дэлхийн амин чухал системүүдийн аюулгүй байдлыг хангахын төлөөх кибер дасан зохицох чадвар

3. Хүн төрөлхтний бидний бүтээсэн загваруудыг хянах чадварыг бэхжүүлэхийн тулд хиймэл оюун ухааны загварын аюулгүй байдал; мөн

4. Технологийг ирээдүй хойч үеийнхэнд эерэг хүч болгоход туслахын тулд хиймэл оюун ухааны залуу хүмүүст үзүүлэх нөлөө .

Бидний ажил дөнгөж эхэлж байна. Бид салбар бүрийн стратеги болон анхны тэтгэлэгүүдийнхээ талаар илүү ихийг хуваалцаж, цаг хугацааны явцад бусад чиглэлд өргөжүүлэхээр төлөвлөж байна.

Био дасан зохицох чадвар

Хиймэл оюун ухаан нь биологийн судалгааг урьд өмнө байгаагүй хурдацтай урагшлуулах боломжийг олгож, бид бүгд эрүүл чийрэг, урт удаан амьдрах боломжийг олгох шинэ эмчилгээ, нийгмийн эрүүл мэндийн сайжруулалтыг боловсруулахад туслах болно. Гэсэн хэдий ч эдгээр ижил чадварыг хорлонтой этгээдүүд буруугаар ашиглаж, хортой нянг зохион бүтээхэд саад болсон хязгаарлалтыг бууруулж болзошгүй юм.

Хиймэл оюун ухааны эрин үе нь био аюулгүй байдалд шинээр анхаарлаа хандуулахыг шаардаж байна. Дэвшилтэт хиймэл оюун ухааны системийг муу этгээдүүд олон төрлийн биологийн аюул заналхийлэл үүсгэхэд буруу ашиглаж болзошгүй тул бид эмгэг төрүүлэгч-агностик био аюулгүй байдлын шийдлүүдийг нэн тэргүүнд тавих болно. Энэ нь урьдчилан сэргийлэх, илрүүлэх, хамгаалах чиглэлээр хөрөнгө оруулалт шаардах болно. Бид хортой санаатай этгээдүүдэд биологийн аюул үүсгэхэд шаардлагатай мэргэшил, тоног төхөөрөмж, материалыг олж авахыг илүү хүндрүүлж, шинэ халдварын дэгдэлтийг эрт илрүүлэх, хянах чадавхиа бэхжүүлж, хамгаалалтын тоног төхөөрөмж, дотор агаарын цэвэрлэгээний систем, эмнэлгийн эсрэг арга хэмжээ зэрэг хурдан, үр дүнтэй хариу үйлдэл үзүүлэхэд шаардлагатай технологиудыг бэхжүүлэх хэрэгтэй.

Кибер дасан зохицох чадвар

Хиймэл оюун ухаан кибер аюулгүй байдлын салбарт хурдацтай өөрчлөлт оруулж эхэллээ. Өмнө нь нарийн мэргэшсэн багуудын ажиллагааг шаарддаг байсан ажлуудыг өнөөдөр чадвартай загваруудын тусламжтайгаар гүйцэтгэх эсвэл бүрэн автоматжуулах боломжтой болсон. Үүний зэрэгцээ, хурдацтай сайжирч буй хиймэл оюун ухааны чадварыг кибер хамгаалагчдыг хурдасгахад ашиглаж болох бөгөөд үүнд эмзэг байдлыг тодорхойлж, нөхөж, хариу арга хэмжээг хурдасгах зэрэг орно.

Олон томоохон компаниуд болон хувийн хэвшлийн байгууллагууд өөрсдийн системийн аюулгүй байдлыг хангахын тулд кибер технологид ихээхэн хэмжээний мөнгө зарцуулж, үүнд хиймэл оюун ухааны шинэ дэвшил багтаж байна. Бид нөөц багатай, хиймэл оюун ухаанд бэлэн кибер хамгаалалтыг шаардлагатай үед хурдан байршуулахад илүү хэцүү байх бусад чухал нийгмийн оролцогчдыг хамгаалахад ихээхэн нөөцийг төвлөрүүлнэ гэж найдаж байна. Үүний зэрэгцээ бид ерөнхий хиймэл оюун ухаан эцэстээ авчрах аюулгүй байдлын шинэ сорилтуудад бэлтгэхэд мөн анхаарч байна.

AI загварын аюулгүй байдал

AI загварын аюулгүй байдал нь системүүдийн зан төлөвт төвлөрдөг бөгөөд тэдгээр нь үнэн, найдвартай, хүний зорилготой нийцсэн эсэхэд анхаардаг. Энэ бүхэн буруугаар эргэдэг ертөнцөд загвар өмсөгчид биднийг хуурч мэхлэх эсвэл өөрсдийн төлөвлөсөн зорилгоос давсан зорилгод хүрэхийн тулд урьдчилан таамаглах аргагүй байдлаар авирлаж, дэггүйтэж болно. AI системүүд улам бие даасан болж, хүний түвшний оюун ухаанд ойртож, эцэст нь давж гарах тусам үүнийг зөв хийх нь улам чухал болж байна.

AI компаниуд загварын аюулгүй байдалд ихээхэн хэмжээний нөөц хөрөнгө оруулалт хийж байна. Гэсэн хэдий ч энэхүү сорилтын ач холбогдол нь илүү өргөн хүрээтэй, илүү бат бөх экосистемийг шаарддаг: загварын аюулгүй байдлыг үнэлэх бие даасан байгууллагууд, загваруудыг практикт аюулгүй байршуулахыг баталгаажуулах олон нийтийн дэд бүтэц, ба энэ салбарыг өргөн хүрээнд хөгжүүлэхэд чиглэсэн зохицуулалтын шинжлэх ухааны тасралтгүй дэвшил.

Залуу хүмүүст хиймэл оюун ухааны нөлөө

Залуу хүмүүс шинэ технологийг хамгийн түрүүнд нэвтрүүлэгчид бөгөөд тэдгээрийг суралцах, бүтээх, харилцах, дэлхий ертөнцийг судлахад ашигладаг. Хиймэл оюун ухаан ч бас адил. Гэвч эдгээр хэрэгслүүд залуу хүмүүсийн өдөр тутмын амьдралын нэг хэсэг болж байгаа тул тэдгээрийн нөлөөллийг ойлгохын тулд илүү бат бөх нотолгооны бааз бий болгох нь чухал юм.

Гэр бүл, сургуулиуд, бодлого тодорхойлогчид болон олон нийтийн байгууллагууд бүгд залуу үеийнхэн хиймэл оюун ухаантай хэрхэн, хэзээ харилцах ёстой вэ гэдэг асуулттай нүүр тулж, үүний дотор уг технологи нь хүний харилцаа, сурч боловсрох үйл явц болон хувь хүний хөгжилд хэрхэн нөлөөлж буй тухай асуудлыг анхааралдаа авч байна. Бидний эхэнд анхаарах зүйл нь хиймэл оюун ухаан хөгжлийг хэрхэн дэмжиж болох, түүний учруулж болзошгүй эрсдэл, түүний үр нөлөөг бүрдүүлдэг нөхцөл байдлыг илүү сайн ойлгохын тулд эдгээр шийдвэрийг чиглүүлэхэд туслах бие даасан судалгааг урагшлуулахад чиглэнэ.

Эдгээр ойлголт нь аливаа хиймэл оюун ухааны бүтээгдэхүүнийг хэрхэн хөгжүүлэх, сургуулиуд тэдгээрийг хэрхэн ашиглах, гэр бүлүүд эдгээр технологийг амьдралдаа хэрхэн нэвтрүүлэхийг чиглүүлдэг өргөн хүрээний аюулгүй байдлын стандарт, дизайны зарчмуудыг бий болгоход чиглэх ёстой.

Цаашдын ажил

Хиймэл оюун ухаан болон түүнээс өмнөх технологийн хооронд нэг чухал ялгаа байдаг: хурд.

Галын тэсвэр хэдэн мянган жил шаардсан. Цахилгаан эрчим хүчний тэсвэр хэдэн арван жил шаардсан. Хиймэл оюун ухааны тэсвэр хэдхэн жилийн дотор хурдтай хөгжиж байна. Үүнийг аюулгүй, найдвартай, өргөн ашиг тустай болгох системүүдийг үүнтэй зэрэгцүүлэн барих ёстой.

Хэрэв бид үүнийг зөв хийвэл хиймэл оюун ухаан нь орчин үеийн амьдралын үндсэн дэд бүтцийн нэг хэсэг болж, мэдлэгт хүрэх боломжийг өргөжүүлэх, нээлтийг хурдасгах, дэлхийн хэмжээнд амьдралыг сайжруулах боломжтой.

Гэхдээ энэхүү үр дүн нь баталгаагүй юм. Ерөнхий зориулалттай технологиудын аль нь ч өөрөө аяндаа аюулгүй болж байсан түүхгүй.

Дасан зохицох, бэлтгэлтэй нийгмийг бий болгохын тулд олон хүн, байгууллага хамтран ажиллаж, хөрөнгө оруулалт хийх хэрэгтэй. Энэ бол бидний дараачийн ажил бөгөөд өнөө үеийн хамгийн том сорилтуудын нэг юм. Та бүхнийг бидэнтэй нэгдэхийг урьж байна.