Жасанды интеллект дәуіріндегі төзімділік

OpenAI қоры жалпы жасанды интеллекттің бүкіл адамзатқа пайда әкелуін қамтамасыз ету үшін құрылған.

Біз жасанды интеллектінің өзінің қарқынды дамуына ілесу үшін тынбай жұмыс істеп келеміз. Сәуір айында қор озық ЖИ мүмкіндіктерін пайдалану арқылы Альцгеймер ауруы сияқты аурулардың алдын алуға және оларды емдеуге көмектесу мақсатымен өмір ғылымдары және ауруларды емдеу саласындағы алғашқы 100 миллион АҚШ доллары көлеміндегі гранттарымызды жариялады⁠. Өткен аптада біз болашақ ұрпақ үшін еңбек пен экономикалық өркендеу нені білдіретінін түсіну және қалыптастыру үмітімен Jobs and Economic Futures бағдарламамызды жарияладық⁠.

Бүгін біз келесі ірі бағдарламаға қатысты пайымымызды одан әрі дамытып отырмыз: ЖИ мүмкіндіктері артқан сайын, қоғамның оны тиімді пайдалану қабілеті де дәл сондай қарқынмен артуын қамтамасыз ету. Біз бұл жұмысты ЖИ орнықтылығы деп атаймыз: бұл — қоғам ЖИ пайдасын барынша арттыра алуы үшін ЖИ тәуекелдерін азайтуға қажет экожүйелік тәсіл.

Жұмысымыз қазірдің өзінде басталды. Жұмысымызды бастағаннан бергі бірнеше айдың ішінде Қор ЖИ орнықтылығы бағдарламасы арқылы ұйымдарға берілетін 130 миллион АҚШ долларынан астам грантты түпкілікті бекіту үстінде. Бұл туралы жақында көпшілікке жарияланады, әрі алда тағы да гранттар болады.^1⁠

Трансформациялық технологиялардың үлгісі

Жасанды интеллекттің орнықтылығының маңыздылығын адамзат тарихын айтарлықтай қалыптастырған өткен технологиялар тұрғысынан қарастыру арқылы жақсырақ түсінуге болады.

Ара-тұра қоғамды түбегейлі қайта қалыптастыратын технология пайда болады. Экономистер бұларды «жалпы мақсаттағы технологиялар» деп атайды. Өрт. Баспа құралы. Электр энергиясы. Интернет. Әрқайсысы ұқсас жолдан өтті: инновацияның қарқынды дамуы, нақты қауіп-қатерлер және оларға ілесуге жанталасқан институттар. Бірақ әрбір мысал қуатты технологияны қауіпсіз ету үшін не қажет екенін де көрсетеді.

От адамзат өркениетінің пайда болуына мүмкіндік берді. Ол бізді жылытты, асымызды пісірді және жыртқыштардан қорғады. Ол қалаларымызды да күлге айналдырды. Уақыт өте келе қоғамдар орнықтылық қалыптастырды: отқа төзімді материалдар, гидрант желілері, кәсіби өрт сөндіру бөлімдері және құрылыс нормалары. Қабат-қабат құрылған экожүйе.

Электр тогы да сол жолмен жүрді. 1882 жылы Эдисонның Перл-стрит станциясы Манхэттенді жарықтандырғаннан кейін, электр тогы өрттерге, электр тогынан қазаға және қоғамдық дүрбелеңге әкелді. Оқшауланған сымдар, автоматты ажыратқыштар және электротехникалық нормалар сияқты қорғаныс шаралары болмағандықтан, елдің түкпір-түкпіріндегі қалаларда жұмысшылар мен маңайдағы адамдар электр тогынан қаза тапты. Қалалар экспериментті толығымен тоқтату керек пе, жоқ па деген мәселені талқылады. Керісінше, технология дамыған сайын, біз Underwriters Laboratories сияқты тәуелсіз сынақ ұйымдарын, National Electrical Code сияқты салалық стандарттарды және нарық қамтымай қалған қауымдастықтарға электр тогын жеткізген мемлекеттік инвестицияларды құрдық. Әрбір қабат электр тогын қауіпсіз әрі қолжетімді ете түсті; бүгінде оның қауіпсіздігі соншалық, бала қосқышты басса-ақ, жарық жанады.

Төзімділік дұрыс жүзеге асқанда осындай көрініс болады.

Жасанды интеллектке орнықтылық экожүйесі қажет

Жасанды интеллект бұрынғы технологиялар жүріп өткен даму жолын қайталап келеді, бірақ бұрын-соңды болмаған жылдамдықпен ілгерілеуде.

Бұл бағыт әлі бастапқы кезеңінде болса да, оның артықшылықтары қазірдің өзінде айқын: Жасанды интеллект бизнес бастауға кедергілерді төмендетіп, білімге қолжетімділікті кеңейтіп, ғылыми жаңалықтарды жеделдетіп, медицина саласын түбегейлі өзгертуде.

Сонымен қатар, тәуекелдер де дәл сондай қарқынмен пайда болып жатыр әрі олар ЖИ пайдасының айнадағы көрінісі іспетті. Жаңа салаларды қалыптастыратын сол дамудың өзі қолданыстағы салаларды түбегейлі өзгертіп, мансап жолдарын бұзуы мүмкін. Жастарға үйренуге және шығармашылықпен айналысуға көмектесе алатын дәл сол жүйелер зиянды мінез-құлыққа да әкелуі мүмкін. Биологиялық зерттеулерді жеделдететін құралдар зиянды патогендерді жасауға қойылатын кедергіні төмендетуі мүмкін. Ал ЖИ-дің код жазу қабілеті теріс ниетті адамдардың қолына түссе, аса маңызды инфрақұрылымға қауіп төндіруі мүмкін.

OpenAI-дың алғашқы командасы ЖИ-дің қоғамға пайда әкелуін қамтамасыз ету ең алдымен техникалық сәйкестендіру мәселесін шешуге байланысты деп санады. Бұл әлі де аса маңызды әрі жұмысымыздың өзегі болып қала береді, бірақ қазір біз мұны мәселенің тек бір бөлігі ғана деп санаймыз. ЖИ салалар мен елдерге таралған сайын, қоғамға тәуелсіз зерттеулер, қоғамдық инфрақұрылым, салалық үйлестіру және мүлдем жаңа сараптамалық құзырет салалары да қажет болады. Қысқасы, бұл ЖИ тұрақтылығын талап етеді.

Біз алғашқы жұмысымызды ауқымды, таяу мерзімдегі тәуекелдер мен дереу ықпал ету мүмкіндігі тоғысындағы төрт салаға^2⁠ шоғырландыруды таңдадық:

1. Биологиялық орнықтылық болашақта инженерлік жолмен жасалған пандемиялардың алдын алуға көмектесу үшін;

2. Кибертұрақтылық — әлемнің аса маңызды жүйелерінің қауіпсіздігін қамтамасыз етуге жұмыс істеу;

3. ЖИ модельдерінің қауіпсіздігі адамзаттың біз жасайтын модельдерге бақылауын нығайту үшін;

4. ЖИ-дің жастарға әсері — технологияны болашақ ұрпақтар үшін оң күшке айналдыруға көмектесу.

Біздің жұмысымыз енді ғана басталып жатыр. Біз әр бағыттағы стратегияларымыз бен алғашқы гранттарымыз туралы толығырақ ақпарат беруді, сондай-ақ уақыт өте келе басқа бағыттарға да кеңеюді жоспарлап отырмыз.

Биотұрақтылық

ЖИ биологиялық зерттеулердің бұрын-соңды болмаған қарқынмен ілгерілеуіне мүмкіндік береді. Бұл барлығымыздың денсаулығымыз мықтырақ болып, ұзақ өмір сүруімізге жағдай жасайтын жаңа емдеу әдістері мен қоғамдық денсаулық сақтау саласындағы жетістіктерді дамытуға көмектеседі. Алайда дәл осы мүмкіндіктерді қаскүнемдер теріс пайдаланып, зиянды патогендерді әзірлеуді жеңілдетуі мүмкін.

ЖИ дәуірі биоқауіпсіздікке жаңаша назар аударуды талап етеді. Озық ЖИ жүйелерін ниеті жаман субъектілер кең ауқымды биологиялық қауіптерді жасауға көмектесу үшін теріс пайдалануы мүмкін болғандықтан, біз патоген түріне тәуелсіз биоқауіпсіздік шешімдеріне басымдық береміз. Бұл алдын алу, анықтау және қорғаныс бағыттарының барлығына инвестиция салуды талап етеді. Біз қаскөй субъектілердің биологиялық қауіп-қатерлерді жасау үшін қажетті сараптамалық білімге, жабдыққа және материалдарға қол жеткізуін қиындатуымыз, аурулардың жаңа өршулерін ерте анықтау және қадағалау қабілетімізді жақсартуымыз, сондай-ақ жылдам әрі тиімді әрекет ету үшін қажет қорғаныс жабдықтары, үй-жай ішіндегі ауаны тазарту жүйелері және медициналық қарсы шаралар—сияқты технологияларды—нығайтуымыз керек.

Кибертұрақтылық

ЖИ киберқауіпсіздік саласын жылдам қайта құруды бастады. Бұрын мамандандырылған топтарды қажет еткен жұмысты енді қабілетті модельдер арқылы қолдауға немесе автоматтандыруға болады. Сонымен қатар, жылдам дамып келе жатқан ЖИ мүмкіндіктерін осалдықтарды анықтап, түзету арқылы және әрекетті жеделдету арқылы киберқорғаушылардың әрекетін жеделдету үшін де пайдалануға болады.

Көптеген ірі компаниялар мен жеке субъектілер өз жүйелерін қорғау үшін, соның ішінде ЖИ саласындағы жаңа жетістіктерді пайдалана отырып, киберқауіпсіздікке қомақты қаражат жұмсай алады. Біз ресурстары шектеулі және ЖИ-ға дайын киберқорғаныс жүйелерін қажетті жылдамдықпен енгізуде әлдеқайда көп қиындыққа тап болатын қоғамдағы басқа да маңызды субъектілердің қауіпсіздігін қамтамасыз етуге айтарлықтай ресурстар бағыттауды көздеп отырмыз. Сонымен қатар, біз жалпы жасанды интеллект түптеп келгенде әкелетін қауіпсіздік саласындағы жаңа сын-қатерлерге дайындалуға да назар аударып отырмыз.

ЖИ модельдерінің қауіпсіздігі

ЖИ моделінің қауіпсіздігі жүйелердің өздерінің мінез-құлқына—олардың шыншыл, сенімді және адам ниетіне сай болуына басты назар аударады. Жағдай дұрыс бағыттан ауытқыған әлемде модельдер бақылаудан шығып, болжауға келмейтін жолдармен әрекет етуі, бізді алдауы немесе өздеріне жобаланған шеңберден тыс мақсаттарға ұмтылуы мүмкін. ЖИ жүйелері барған сайын автономды болып, адам деңгейіндегі интеллектке жақындап—әрі ақырында одан асып түскен сайын—мұны дұрыс жүзеге асырудың маңызы арта түседі.

ЖИ компаниялары модельдердің қауіпсіздігіне елеулі ресурстар жұмсап жатыр. Алайда бұл сын-қатердің маңыздылығы кеңірек әрі орнықтырақ экожүйені қажет етеді: модельдердің қауіпсіздігін бағалайтын тәуелсіз институттар, модельдердің іс жүзінде қауіпсіз қолданылуын тексеруге арналған қоғамдық инфрақұрылым және бүкіл саланы ілгерілететін үйлестіру ғылымындағы үздіксіз жетістіктер.

ЖИ-дің жастарға әсері

Жастар көбінесе жаңа технологияларды алғашқылардың бірі болып қолдана бастайды, оларды білім алу, шығармашылықпен айналысу, қарым-қатынас жасау және әлемді тану үшін пайдаланады. ЖИ де бұған да ерекшелік емес. Алайда бұл құралдар жастардың күнделікті өмірінің барған сайын маңызды бөлігіне айналып келе жатқандықтан, олардың әсерін түсіну үшін анағұрлым мықты дәлелдемелік базаны қалыптастыру аса маңызды.

Отбасылар, мектептер, саясатты қалыптастырушылар және қоғамдық ұйымдар жастардың ЖИ-мен қалай және қашан өзара әрекеттесетіні, соның ішінде оның адамдар арасындағы байланысқа, оқуға және дамуға әсері туралы сұрақтарға жауап іздеуде. Бастапқы басым бағытымыз — осы шешімдерді қабылдауға негіз болатын тәуелсіз зерттеулерді ілгерілету. Бұл ЖИ дамуды қай жерде қолдай алатынын, қандай тәуекелдер туындатуы мүмкін екенін және сол әсерлерді қалыптастыратын контексттерді жақсырақ түсінуге көмектеседі.

Бұл тұжырымдар кез келген ЖИ өнімі қалай әзірленетінін, мектептер оларды қалай енгізуді таңдайтынын, сондай-ақ отбасылар бұл технологияларды өз өміріне енгізу-енгізбеуді және қалай енгізуді қалай шешетінін бағыттайтын кең ауқымды қауіпсіздік стандарттары мен жобалау қағидаттарының негізі болуы тиіс.

Алдағы жұмыс

ЖИ мен оған дейінгі технологиялардың арасында бір маңызды айырмашылық бар: жылдамдық.

Отқа қатысты орнықтылықтың қалыптасуына мыңжылдықтар қажет болды. Электр энергиясына қатысты орнықтылықтың қалыптасуына ондаған жылдар қажет болды. ЖИ орнықтылығы бірнеше-ақ жылдың ішінде дамып келеді. Оны қауіпсіз, сенімді әрі көпшілікке пайдалы ететін жүйелер де онымен қатар құрылуы тиіс.

Егер біз мұны дұрыс жүзеге асырсақ, ЖИ қазіргі өмірдің іргелі инфрақұрылымының бір бөлігіне айналып, білімге қолжетімділікті кеңейтуге, жаңалық ашуды жеделдетуге және әлемдік ауқымда адамдардың өмірін жақсартуға ықпал ете алады.

Бірақ бұл нәтижеге кепілдік берілмейді. Жалпы мақсаттағы технологиялардың ешқайсысы өзін-өзі қауіпсіз еткен емес.

Тұрақтылық — көптеген адамдар мен ұйымдардың оны қалыптастыруға, инвестиция салуға және ынтымақтасуға тұрақты түрде атсалысуын талап ететін үнемі сақталатын тәртіп. Алдымызда тұрған жұмыс осы, әрі ол заманымыздың айқындаушы сын-қатерлерінің бірі. Бізге қосылуыңызды күтеміз.