Odpornost v dobi umetne inteligence

OpenAI Foundation si prizadeva zagotoviti, da bo splošna umetna inteligenca koristila vsemu človeštvu.

Nenehno se prilagajamo hitremu napredku umetne inteligence. Aprila je Fundacija napovedala⁠ prvih 100 mio. USD nepovratnih sredstev za program Življenjske znanosti in zdravljenje bolezni (Life Sciences and Curing Diseases), s katerim želi z napredno umetno inteligenco pomagati pri preprečevanju in zdravljenju bolezni, kot je Alzheimerjeva bolezen. Prejšnji teden smo predstavili⁠ program Delovna mesta in gospodarska prihodnost (Jobs and Economic Futures), namenjen razumevanju in oblikovanju tega, kaj bosta delo in gospodarska blaginja pomenila za prihodnje generacije.

Danes našo vizijo širimo z naslednjim velikim programom: poskrbeti želimo, da bo družba zmožnosti umetne inteligence znala izkoristiti tako hitro, kot se bodo te razvijale. To področje imenujemo odpornost umetne inteligence: ekosistemski pristop k zmanjševanju tveganj umetne inteligence, da lahko družba čim bolje izkoristi njene koristi.

Naše delo se je že začelo. V nekaj kratkih mesecih od začetka dela Fundacija v okviru programa odpornosti umetne inteligence zaključuje več kot 130 mio. USD nepovratnih sredstev za organizacije. Podrobnosti bomo kmalu javno objavili, sledilo pa bo še več podpore.^1⁠

Vzorec prelomnih tehnologij

Pomen odpornosti umetne inteligence najlažje razumemo skozi tehnologije, ki so v preteklosti močno zaznamovale človeštvo.

Občasno se pojavi tehnologija, ki družbo spremeni od temeljev. Ekonomisti takšne tehnologije imenujejo »splošnonamenske tehnologije«. Ogenj. Tiskarski stroj. Elektrika. Internet. Njihova pot je bila podobna: hiter razvoj, resnična tveganja in ustanove, ki so spremembe poskušale dohajati. Vsak primer pa pokaže tudi, kaj je potrebno, da zmogljiva tehnologija postane varnejša.

Ogenj je omogočil nastanek človeške civilizacije. Dajal nam je toploto, omogočil pripravo hrane in nas varoval pred plenilci. Hkrati pa je uničeval cela mesta. Družbe so zato postopoma gradile odpornost: ognjeodporne materiale, hidrantna omrežja, poklicne gasilske službe in gradbene predpise. Plast za plastjo je nastajal ekosistem zaščite.

Podobno pot je ubrala elektrika. Ko je Edisonova elektrarna Pearl Street Station leta 1882 osvetlila Manhattan, so se z elektriko pojavili tudi požari, električni udari in zaskrbljenost javnosti. Brez izoliranih vodnikov, odklopnikov in predpisov so v mestih po državi zaradi električnih udarov umirali delavci in mimoidoči. Nekatera mesta so celo razmišljala, ali bi bilo treba poskus z elektrifikacijo povsem opustiti. Namesto tega so z razvojem tehnologije nastali neodvisni organi za preskušanje, kot je Underwriters Laboratories, industrijski standardi, kot je National Electrical Code, ter javne naložbe, ki so elektriko pripeljale tudi v skupnosti, ki jih trg ni dosegel. Vsaka nova plast zaščite je elektriko naredila varnejšo in dostopnejšo. Danes je dovolj varna, da lahko otrok pritisne stikalo in prižge luč.

Tako je videti dobro zgrajena odpornost.

Umetna inteligenca potrebuje ekosistem odpornosti

Umetna inteligenca sledi podobni poti kot prejšnje tehnologije, vendar se razvija z doslej neprimerljivo hitrostjo.

Še vedno smo na začetku, koristi pa so že jasne: umetna inteligenca zmanjšuje ovire za zagon podjetij, širi dostop do izobraževanja, pospešuje znanstvena odkritja in spreminja medicino.

Tudi tveganja se pojavljajo hitro – pogosto kot zrcalna podoba njenih koristi. Rast, ki ustvarja nove panoge, lahko pretrese obstoječe in spremeni poklicne poti ljudi. Sistemi, ki mladim pomagajo pri učenju in ustvarjanju, lahko prispevajo tudi k škodljivemu vedenju. Orodja, ki pospešujejo biološke raziskave, lahko znižajo prag za razvoj škodljivih patogenov. Zmožnost umetne inteligence za pisanje kode pa lahko v napačnih rokah ogrozi kritično infrastrukturo.

Zgodnja ekipa OpenAI je verjela, da bo umetna inteligenca družbi koristila predvsem, če bomo rešili tehnični problem usklajevanja modelov s človeškimi cilji. To ostaja ključno in še naprej zavzema osrednje mesto v našem delu, vendar danes vemo, da je le del širše slike. Ko se umetna inteligenca širi med panogami in državami, bo družba potrebovala tudi neodvisne raziskave, javno infrastrukturo, usklajevanje v panogi in povsem nova strokovna področja. Potrebovala bo odpornost umetne inteligence.

Na začetku se osredotočamo na štiri področja^2⁠, kjer se velika kratkoročna tveganja srečujejo z možnostjo neposrednega učinka

1. Biološka odpornost za preprečevanje prihodnjih umetno ustvarjenih pandemij;

2. Kibernetska odpornost za varnost kritičnih sistemov, od katerih je odvisen sodobni svet;

3. Varnost modelov umetne inteligence za utrjevanje človeškega nadzora nad modeli, ki jih ustvarjamo; in

4. Vpliv umetne inteligence na mlade, da bo tehnologija prihodnjim generacijam prinašala več koristi kot škode.

Naše delo se šele začenja. V prihodnje bomo podrobneje predstavili strategije in prve prejemnike nepovratnih sredstev na vsakem področju ter delo postopoma razširili tudi drugam.

Biološka odpornost

Umetna inteligenca bo biološke raziskave pospešila kot še nikoli doslej ter pomagala pri razvoju novih načinov zdravljenja in izboljšav javnega zdravja, da bi lahko vsi živeli bolj zdravo in dlje. Toda iste zmožnosti bi lahko zlonamerni akterji tudi zlorabili, saj bi lažje načrtovali škodljive patogene.

Doba umetne inteligence zahteva novo osredotočenost na biološko varnost. Ker bi lahko zlonamerni akterji napredne sisteme umetne inteligence zlorabili za ustvarjanje najrazličnejših bioloških dejavnikov tveganja, bomo prednost namenili rešitvam biološke varnosti, ki niso vezane na posamezen patogen. To bo zahtevalo naložbe v preprečevanje, zaznavanje in obrambo. Zlonamernim akterjem moramo otežiti dostop do znanja, opreme in materialov za ustvarjanje bioloških dejavnikov tveganja, izboljšati zgodnje prepoznavanje in spremljanje novih izbruhov ter okrepiti tehnologije za hiter in učinkovit odziv, kot so zaščitna oprema, sistemi za čiščenje zraka v zaprtih prostorih in zdravstveni protiukrepi.

Kibernetska odpornost

Umetna inteligenca hitro spreminja področje kibernetske varnosti. Naloge, ki so bile nekoč odvisne od specializiranih ekip, lahko danes podprejo ali avtomatizirajo zmogljivi modeli. Hkrati lahko hitro napredujoče zmožnosti umetne inteligence okrepijo tudi kibernetske branilce, na primer pri odkrivanju in odpravljanju ranljivosti ter hitrejšem odzivanju.

Velika podjetja in zasebni akterji lahko v kibernetsko varnost svojih sistemov vlagajo veliko, tudi z najnovejšimi dosežki umetne inteligence. Mi bomo pomemben del sredstev predvidoma namenili drugim pomembnim družbenim akterjem, ki imajo manj virov in bodo veliko težje dovolj hitro uvedli kibernetsko obrambo, pripravljeno na umetno inteligenco. Obenem se pripravljamo tudi na nove varnostne izzive, ki jih bo sčasoma prinesla splošna umetna inteligenca.

Varnost modela umetne inteligence

Varnost modelov umetne inteligence se osredotoča na vedenje samih sistemov: ali so resnicoljubni, zanesljivi in usklajeni s človeškimi nameni. Če gre pri tem kaj narobe, se lahko modeli izmaknejo nadzoru, delujejo nepredvidljivo, nas zavajajo ali sledijo ciljem, za katere niso bili zasnovani. To postaja vse pomembnejše, ko sistemi umetne inteligence postajajo bolj avtonomni ter se približujejo človeški ravni inteligence in jo bodo sčasoma tudi presegli.

Podjetja na področju umetne inteligence v varnost modelov vlagajo znatna sredstva. Toda ta izziv je prevelik, da bi ga lahko reševala le podjetja. Potrebujemo širši in močnejši ekosistem: neodvisne ustanove za ocenjevanje varnosti modelov, javno infrastrukturo za preverjanje varnega uvajanja modelov v praksi ter nadaljnji razvoj znanosti usklajevanja, ki bo koristil celotnemu področju.

Vpliv umetne inteligence na mlade

Mladi so pogosto med prvimi uporabniki novih tehnologij: z njimi se učijo, ustvarjajo, komunicirajo in raziskujejo svet. Umetna inteligenca pri tem ni izjema. Ker pa ta orodja postajajo vse večji del njihovega vsakdana, moramo bolje razumeti, kako nanje dejansko vplivajo.

Družine, šole, oblikovalci politik in organizacije v skupnosti iščejo odgovore na vprašanja, kako in kdaj naj mladi uporabljajo umetno inteligenco ter kako ta vpliva na človeške odnose, učenje in razvoj. Na začetku bomo podprli predvsem neodvisne raziskave, ki bodo pomagale pri teh odločitvah: kje lahko umetna inteligenca podpira razvoj, katera tveganja lahko prinese in katere okoliščine vplivajo na njene učinke.

Te ugotovitve bi morale usmerjati širše varnostne standarde in načela zasnove: kako razvijati kateri koli produkt umetne inteligence, kako se šole odločajo za njegovo uvedbo ter ali in kako družine te tehnologije vključijo v svoje življenje.

Delo pred nami

Med umetno inteligenco in tehnologijami pred njo je ena ključna razlika: hitrost.

Odpornost proti ognju je trajala tisočletja. Za odpornost oskrbe z električno energijo so bila potrebna desetletja. Odpornost umetne inteligence se razvija v zgolj nekaj letih. Sisteme, ki zagotavljajo varnost, zanesljivost in široko koristnost, je treba graditi vzporedno z njimi.

Če jo bomo znali dobro vzpostaviti, lahko umetna inteligenca postane del temeljne infrastrukture sodobnega življenja: ljudem širi dostop do znanja, pospešuje odkritja in izboljšuje življenje po vsem svetu.

Vendar ta izid ni zagotovljen. Nobena splošnonamenska tehnologija ni postala varna sama od sebe.

Odpornost je trajna disciplina, ki od številnih ljudi in ustanov zahteva, da jo gradijo, vanjo vlagajo in pri njej sodelujejo. To je naloga, ki nas čaka – in eden od odločilnih izzivov našega časa. Upamo, da se nam boste pridružili.