Atsparumas DI amžiuje

„OpenAI Foundation“ siekia užtikrinti, kad bendrasis dirbtinis intelektas teiktų naudą visai žmonijai.

Nenuilstamai dirbame, kad neatsiliktume nuo sparčios paties DI pažangos. Balandį fondas paskelbė⁠ apie pirmąsias 100 mln. JAV dolerių dotacijas gyvybės mokslų ir ligų gydymo srityse, siekdamas pasitelkti pažangųjį DI ir taip padėti išvengti tokių ligų kaip Alzheimerio liga bei jas gydyti. Praėjusią savaitę pristatėme⁠ programą „Darbas ir ekonomikos ateitis“, tikėdamiesi geriau suprasti ir formuoti tai, ką darbas bei ekonominė gerovė reikš ateities kartoms.

Šiandien plačiau pristatome kitos didelės programos viziją – siekiame užtikrinti, kad, augant DI pajėgumams, visuomenės gebėjimas jį pasitelkti augtų taip pat sparčiai. Šį darbą vadiname DI atsparumu: tai ekosisteminis požiūris, būtinas norint sumažinti DI riziką, kad visuomenė gautų kuo didesnę naudą.

Mūsų darbas jau prasidėjo. Vos per kelis mėnesius nuo veiklos pradžios fondas baigia derinti daugiau nei 130 mln. JAV dolerių vertės dotacijas organizacijoms pagal DI atsparumo programą. Apie jas, kaip ir apie kitus planus, netrukus paskelbsime viešai.^1⁠

Transformuojančių technologijų dėsningumai

DI atsparumo svarbą geriausia suprasti žvelgiant į praeities technologijas, reikšmingai pakeitusias žmonijos istoriją.

Kartkartėmis atsiranda technologija, iš esmės pakeičianti visuomenę. Ekonomistai jas vadina „bendrosios paskirties technologijomis“. Ugnis. Spausdinimo presas. Elektra. Internetas. Visų jų raidos kreivė buvo panaši: sparčios inovacijos, reali rizika ir prisitaikyti skubančios institucijos. Tačiau kiekvienas pavyzdys taip pat parodo, ko reikia, kad galinga technologija taptų saugi.

Ugnis leido sukurti žmonijos civilizaciją. Ji mus šildė, leido gaminti maistą ir saugojo nuo plėšrūnų. Tačiau ji taip pat sudegindavo miestus iki pamatų. Ilgainiui visuomenė įgijo atsparumą: atsirado ugniai atsparios medžiagos, hidrantų tinklai, profesionalios ugniagesių tarnybos ir statybos techniniai reglamentai. Taip sluoksnis po sluoksnio susiformavo ekosistema.

Elektros raidos kelias buvo toks pat. Kai 1882 m. Edisono „Pearl Street“ elektrinė apšvietė Manhataną, elektra sukėlė gaisrų, elektros smūgių ir visuomenės paniką. Kol nebuvo tokių apsaugos priemonių kaip izoliuoti laidai, išjungikliai ir saugos taisyklės, visos šalies miestuose nuo elektros smūgio žūdavo darbuotojai ir praeiviai. Miestų valdžia svarstė, ar nereikėtų šio eksperimento visiškai atsisakyti. Užuot tai padarę, technologijai tobulėjant, įsteigėme nepriklausomas testavimo įstaigas, pavyzdžiui, „Underwriters Laboratories“, patvirtinome pramonės standartus, tokius kaip Nacionalinis elektros kodeksas, ir pritraukėme valstybės investicijų, užtikrinusių elektros tiekimą bendruomenėms, kurių nepasiekė rinka. Kiekvienas naujas sluoksnis darė elektrą saugesnę ir lengviau prieinamą; šiandien ji tokia saugi, kad net vaikas gali paspausti jungiklį ir uždegti šviesą.

Būtent taip atrodo tinkamai sukurtas atsparumas.

DI reikalinga atsparumo ekosistema

DI vystosi tokia pačia trajektorija kaip ir ankstesnės technologijos, tačiau neregėtu greičiu.

Nors tai dar tik pati pradžia, nauda jau akivaizdi: DI mažina kliūtis kurti verslą, didina švietimo prieinamumą, spartina mokslinius atradimus ir keičia mediciną.

Kartu lygiai taip pat greitai išryškėja ir rizika – tarsi veidrodinis DI naudos atspindys. Tas pats augimas, kuris kuria naujas pramonės šakas, gali sužlugdyti esamas ir sutrikdyti žmonių karjerą. Tos pačios sistemos, padedančios jaunimui mokytis ir kurti, gali paskatinti ir neigiamą elgesį. Priemonės, spartinančios biologinius tyrimus, gali palengvinti žalingų patogenų kūrimą. O DI gebėjimas rašyti kodą netinkamose rankose gali kelti grėsmę ypatingos svarbos infrastruktūrai.

Ankstyvoji „OpenAI“ komanda manė, kad, norint užtikrinti DI naudą visuomenei, pirmiausia reikia išspręsti techninio suderinimo problemą. Tai tebėra be galo svarbu ir užima pagrindinę vietą mūsų veikloje, tačiau dabar manome, kad tai – tik viena dėlionės dalis. DI plintant įvairiuose sektoriuose ir valstybėse, visuomenei taip pat reikės nepriklausomų tyrimų, viešosios infrastruktūros, pramonės veiksmų koordinavimo ir visiškai naujų kompetencijos sričių. Trumpai tariant, prireiks DI atsparumo.

Nusprendėme pradžioje susitelkti į keturias sritis^2⁠, esančias didelės artimiausio laikotarpio rizikos ir tiesioginio poveikio sankirtoje:

1. biologinį atsparumą, siekiant padėti išvengti dirbtinai sukeltų pandemijų ateityje;

2. kibernetinį atsparumą, siekiant užtikrinti pasaulio ypatingos svarbos sistemų saugą;

3. DI modelių saugą, siekiant įtvirtinti žmonijos kuriamų modelių kontrolę; ir

4. DI poveikį jaunimui, siekiant, kad technologija taptų teigiama jėga ateities kartoms.

Mūsų darbas tik prasideda. Planuojame pasidalyti išsamesne informacija apie strategijas ir pradines dotacijas kiekvienoje srityje, o ilgainiui apimti ir kitas.

Biologinis atsparumas

DI leis biologiniams tyrimams vykti neregėtu greičiu, padės kurti naujus vaistus ir gerinti visuomenės sveikatą, kad visi galėtume gyventi sveikiau ir ilgiau. Tačiau tomis pačiomis galimybėmis piktais tikslais gali pasinaudoti ir piktavaliai – tai palengvintų žalingų patogenų kūrimą.

DI amžiuje būtina iš naujo sutelkti dėmesį į biologinį saugumą. Kadangi piktavaliai gali pasinaudoti pažangiomis DI sistemomis įvairioms biologinėms grėsmėms kurti, pirmenybę teiksime universaliems, nuo konkretaus patogeno nepriklausomiems biologinio saugumo sprendimams. Tam reikės investicijų į prevenciją, aptikimą ir gynybą. Privalome apsunkinti piktavalių galimybes gauti žinių, įrangos ir medžiagų, reikalingų biologinėms grėsmėms kurti, gerinti gebėjimą anksti nustatyti bei sekti naujus protrūkius ir stiprinti technologijas (pavyzdžiui, apsaugos įrangą, patalpų oro valymo sistemas ir medicinines atsakomąsias priemones), būtinas greitam ir veiksmingam atsakui.

Kibernetinis atsparumas

DI ėmė sparčiai keisti kibernetinio saugumo aplinką. Darbą, kuriam anksčiau reikėdavo specializuotų komandų, dabar gali padėti atlikti ar visiškai automatizuoti pajėgūs modeliai. Kartu sparčiai tobulėjančios DI galimybės gali paspartinti kibernetinės gynybos specialistų darbą, pavyzdžiui, padėti nustatyti bei pašalinti pažeidžiamumus ir greičiau reaguoti.

Daug didelių įmonių ir privačių subjektų gali skirti didžiules lėšas kibernetiniam saugumui, kad apsaugotų savo sistemas, be kita ko, pasitelkdami naujus DI laimėjimus. Planuojame skirti didelius išteklius kitų svarbių, bet mažiau finansuojamų visuomenės subjektų apsaugai, kuriems bus kur kas sunkiau pakankamai greitai įdiegti DI pritaikytas kibernetinės gynybos sistemas. Kartu daug dėmesio skiriame pasirengimui naujiems saugumo iššūkiams, kuriuos ilgainiui atneš bendrasis dirbtinis intelektas.

DI modelių sauga

DI modelių sauga orientuota į pačių sistemų elgseną – ar jos teisingos, patikimos ir atitinka žmogaus ketinimus. Jei kas nors pakryps ne ta linkme, modeliai gali tapti nekontroliuojami ir imti elgtis nenuspėjamai, mus klaidindami arba siekdami tikslų, kuriems nebuvo sukurti. Viską atlikti teisingai darosi vis svarbiau, nes DI sistemos tampa savarankiškesnės, artėja prie žmogaus intelekto lygio ir ilgainiui jį pranoks.

DI bendrovės investuoja didžiulius išteklius į modelių saugą. Tačiau šio iššūkio svarba reikalauja platesnės, tvirtesnės ekosistemos: nepriklausomų institucijų, vertinančių modelių saugą, viešosios infrastruktūros, užtikrinančios saugų modelių diegimą praktikoje, ir nuolatinės pažangos suderinimo moksle, skatinančios visos srities raidą.

DI poveikis jaunimui

Jaunuoliai dažnai patys pirmieji perima naujas technologijas, naudodami jas mokytis, kurti, bendrauti ir tyrinėti pasaulį. DI – ne išimtis. Tačiau šiems įrankiams tampant vis svarbesne jaunimo kasdienio gyvenimo dalimi, labai svarbu sukurti tvirtesnę įrodymų bazę jų poveikiui suprasti.

Šeimos, mokyklos, politikos formuotojai ir bendruomenių organizacijos susiduria su klausimais apie tai, kaip ir kada jaunimas turėtų naudotis DI – įskaitant jo poveikį tarpusavio ryšiams, mokymuisi bei raidai. Iš pradžių daugiausia dėmesio skirsime nepriklausomų tyrimų skatinimui, siekdami padėti priimti šiuos sprendimus – norime geriau suprasti, kur DI gali pasitarnauti raidai, kokią riziką jis gali kelti ir kokios aplinkybės lemia šį poveikį.

Šios įžvalgos turėtų tapti pagrindu kuriant bendruosius saugos standartus ir dizaino principus, kuriais remiantis būtų kuriami visi DI produktai, mokyklos spręstų dėl jų diegimo, o šeimos apsispręstų, ar ir kaip įtraukti šias technologijas į savo gyvenimą.

Laukiantys darbai

DI ir ankstesnes technologijas skiria vienas esminis dalykas – greitis.

Atsparumui ugniai sukurti prireikė tūkstantmečių. Atsparumui elektrai sukurti prireikė dešimtmečių. DI atsparumas kuriamas vos per kelerius metus. Sistemos, užtikrinančios jo saugumą, patikimumą ir visuotinę naudą, turi būti kuriamos lygiagrečiai.

Jei viską atliksime teisingai, DI gali tapti pamatine šiuolaikinio gyvenimo infrastruktūros dalimi: didinti žinių prieinamumą, spartinti atradimus ir gerinti gyvenimo kokybę pasauliniu mastu.

Tačiau toks rezultatas negarantuotas. Nė viena bendrosios paskirties technologija netapo saugi savaime.

Atsparumas – tai nuolatinė disciplina, reikalaujanti, kad daugybė žmonių ir institucijų kurtų, investuotų ir bendradarbiautų. Tai – mūsų laukiantis darbas ir vienas svarbiausių mūsų laikmečio iššūkių. Tikimės, kad prisijungsite prie mūsų.