Otpornost u doba umjetne inteligencije

Zaklada OpenAI postoji kako bi osigurala da opća umjetna inteligencija bude na korist cijelom čovječanstvu.

Neumorno radimo kako bismo držali korak s brzim napretkom same umjetne inteligencije. U travnju je Zaklada najavila⁠ dodjelu naših prvih 100 milijuna USD bespovratnih sredstava u području životnih znanosti i liječenja bolesti, s ambicijom da pomogne u sprječavanju i liječenju bolesti poput Alzheimerove bolesti primjenom napredne umjetne inteligencije. Prošli smo tjedan najavili⁠ naš program Radna mjesta i gospodarske budućnosti, u nadi da ćemo razumjeti i oblikovati što rad i gospodarski prosperitet znače budućim generacijama.

Danas razrađujemo svoju viziju za sljedeći veliki program – osiguravajući da, kako sposobnosti umjetne inteligencije rastu, tako i sposobnost društva da ih iskoristi raste jednako brzo. Ovaj rad nazivamo otpornosti umjetne inteligencije: ekosustavnom pristupu potrebnom za ublažavanje rizika umjetne inteligencije, kako bi društvo moglo maksimalno iskoristiti njezine prednosti.

Naš je rad već započeo. U nekoliko kratkih mjeseci otkako smo započeli s radom, Zaklada radi na finalizaciji dodjele više od 130 milijuna USD bespovratnih sredstava organizacijama u okviru našeg programa AI Resilience, o čemu ćemo uskoro javno izvijestiti, a slijedit će još toga.^1⁠

Obrazac transformacijskih tehnologija

Važnost otpornosti umjetne inteligencije najbolje se razumije kroz prizmu ranijih tehnologija koje su značajno oblikovale ljudsku povijest.

S vremena na vrijeme pojavi se tehnologija koja iz temelja preoblikuje društvo. Ekonomisti ih nazivaju „tehnologijama opće namjene”. Vatra. Tiskarski stroj. Električna energija. Internet. Svaki je slijedio sličan tijek: brze inovacije, stvarni rizici i institucije koje nastoje što brže uhvatiti korak. No svaki od tih primjera isto tako pokazuje što je potrebno da bi moćna tehnologija bila sigurna.

Vatra je omogućila nastanak ljudske civilizacije. Grijala nas je, kuhala nam hranu i štitila nas od grabežljivaca. No spalila je naše gradove do temelja. S vremenom su društva razvijala otpornost: vatrootporni materijali, mreže hidranata, profesionalne vatrogasne postrojbe i građevinski propisi. Jedan ekosustav, sloj po sloj.

Električna energija slijedila je isti put. Nakon što je Edisonova postaja Pearl Street osvijetlila Manhattan 1882., električna energija donijela je požare, strujne udare i paniku u javnosti. Bez zaštite poput izoliranih žica, prekidača i propisa, radnici i prolaznici su stradali od strujnog udara u gradovima diljem zemlje. Gradovi su raspravljali treba li eksperiment u potpunosti obustaviti. Umjesto toga, kako je tehnologija napredovala, uspostavili smo neovisna ispitivačka tijela poput Underwriters Laboratories, industrijske standarde poput National Electrical Code te javna ulaganja koja su električnu energiju dovela u zajednice koje je tržište bilo ostavilo po strani. Svaki sloj učinio je električnu energiju sigurnijom i dostupnijom, a danas je toliko sigurna da dijete može pritisnuti prekidač i pojavi se svjetlo.

Tako izgleda otpornost kada se dobro izvede.

Umjetna inteligencija zahtijeva ekosustav otpornosti

Umjetna inteligencija slijedi istu putanju kao prethodne tehnologije, ali ona napreduje dosad neviđenom brzinom.

Još smo u ranoj fazi njezina razvoja, ali koristi su već jasne: umjetna inteligencija smanjuje prepreke za pokretanje poslovanja, proširuje pristup obrazovanju, ubrzava znanstvena otkrića i transformira medicinu.

Istodobno, rizici se pojavljuju jednako brzo – i to kao zrcalna slika prednosti umjetne inteligencije. Isti rast koji stvara nove industrije može iz temelja promijeniti postojeće i poremetiti karijere. Isti sustavi koji mladima mogu pomoći u učenju i stvaranju mogli bi također dovesti do štetnog ponašanja. Alati koji ubrzavaju biološka istraživanja mogli bi sniziti prag za stvaranje štetnih patogena. Sposobnost umjetne inteligencije da piše programski kod, u pogrešnim rukama, mogla bi ugroziti kritičnu infrastrukturu.

Tim iz OpenAI-ja u ranim je danima vjerovao da osiguravanje koristi umjetne inteligencije za društvo prvenstveno ovisi o rješavanju tehničkog problema usklađivanja. To je i dalje ključno – i u središtu našeg rada – ali sada vjerujemo da je to samo jedan dio slagalice. Kako se umjetna inteligencija širi po sektorima i državama, društvo će također trebati neovisna istraživanja, javnu infrastrukturu, koordinaciju industrije i posve nova područja stručnosti. Ukratko, bit će potrebna otpornost umjetne inteligencije.

Odlučili smo usmjeriti naš početni rad na četiri područja^2⁠ koja se nalaze na sjecištu velikih, kratkoročnih rizika i neposrednog učinka:

1. biootpornost za pomoć u sprječavanju budućih umjetno stvorenih pandemija

2. kibernetička otpornost radi na osiguravanju sigurnosti kritičnih sustava našeg svijeta

3. sigurnost modela umjetne inteligencije radi učvršćivanja kontrole čovječanstva nad modelima koje stvaramo te

4. utjecaj umjetne inteligencije na mlade kako bi tehnologija postala pozitivna snaga za buduće generacije.

Naš posao tek počinje. Planiramo podijeliti više informacija o našim strategijama i početnim potporama u svakom području te se s vremenom proširiti na druga područja.

Biološka otpornost

Umjetna inteligencija (AI) omogućit će biološkim istraživanjima da napreduju dosad neviđenom brzinom, tako što će pomoći u razvoju novih terapija i poboljšavanju javnog zdravlja koja će nam svima omogućiti zdraviji i dulji život. No zlonamjerni akteri mogli bi iskoristiti iste mogućnosti za zloupotrebu tako što snize prag za osmišljavanje štetnih patogena.

Doba umjetne inteligencije zahtijeva ponovno usmjeravanje pozornosti na biosigurnost. Budući da bi zlonamjerni akteri mogli zloupotrijebiti napredne sustave umjetne inteligencije kako bi pomogli u stvaranju širokog raspona bioloških prijetnji, prioritet ćemo dati rješenjima za biosigurnost neovisnima o pojedinim patogenima. To će zahtijevati ulaganja u prevenciju, otkrivanje i obranu. Moramo zlonamjernim akterima otežati pristup stručnom znanju, opremi i materijalima potrebnima za stvaranje bioloških prijetnji, poboljšati našu sposobnost ranog prepoznavanja i praćenja novih izbijanja bolesti te ojačati tehnologije — poput zaštitne opreme, sustava za pročišćavanje zraka u zatvorenim prostorima i medicinskih protumjera — potrebne za brz i učinkovit odgovor.

Kibernetička otpornost

Umjetna inteligencija počela je ubrzano preoblikovati područje kibernetičke sigurnosti. Posao koji je nekoć zahtijevao specijalizirane timove sada mogu podržavati ili automatizirati sposobni modeli. Istodobno, sposobnosti umjetne inteligencije koje se brzo poboljšavaju mogu se upotrijebiti i za ubrzavanje rada stručnjaka za kibernetičku obranu, uključujući prepoznavanje i krpanje ranjivosti te ubrzavanje odgovora.

Mnoge velike tvrtke i privatni akteri mogu izdvajati znatna sredstva za kibernetičku sigurnost kako bi zaštitili vlastite sustave, uključujući i uz pomoć novih dostignuća u umjetnoj inteligenciji. Predviđamo da ćemo znatne resurse usmjeriti na zaštitu drugih važnih društvenih aktera koji imaju manje resursa i kojima će biti mnogo teže uvesti kibernetičku obranu spremnu za AI onoliko brzo koliko je potrebno. Istodobno smo usredotočeni i na pripremu za nove sigurnosne izazove koje će opća umjetna inteligencija u konačnici donijeti.

Sigurnost modela umjetne inteligencije

Sigurnost modela AI-ja usredotočuje se na ponašanje samih sustava – jesu li istiniti, pouzdani i usklađeni s ljudskom namjerom. U svijetu u kojem to pođe po zlu, modeli se mogu oteti kontroli i ponašati na nepredvidive načine, obmanjujući nas ili slijedeći ciljeve koji nadilaze njihovu namjenu. Učiniti to kako treba postaje sve važnije kako sustavi umjetne inteligencije postaju sve autonomniji te se približavaju inteligenciji na ljudskoj razini – i naposljetku je nadmašuju.

Tvrtke koje se bave umjetnom inteligencijom ulažu znatna sredstva u sigurnost modela. No važnost tog izazova zahtijeva širi, robusniji ekosustav: neovisne institucije za procjenu sigurnosti modela, javnu infrastrukturu za provjeru sigurne primjene modela u praksi i kontinuirani napredak u znanosti o usklađivanju koji će unaprijediti cijelo područje.

Utjecaj umjetne inteligencije na mlade

Mladi su često među prvima koji prihvaćaju nove tehnologije, tako što ih upotrebljavaju za učenje, stvaranje, komunikaciju i istraživanje svijeta. Umjetna inteligencija tu nije nikakva iznimka. No kako ti alati postaju sve veći dio svakodnevnog života mladih, ključno je da razvijemo snažniju dokaznu osnovu kako bismo razumjeli njihove učinke.

Obitelji, škole, donositelji politika i organizacije u zajednici suočavaju se s pitanjima o tome kako i kada mladi stupaju u interakciju s umjetnom inteligencijom — uključujući njezin utjecaj na međuljudsku povezanost, učenje i razvoj. Naš početni fokus bit će na unapređenju neovisnih istraživanja koja će pomoći u usmjeravanju tih odluka, kako bismo bolje razumjeli gdje umjetna inteligencija može podržati razvoj, rizike koje može donijeti sa sobom i kontekste koji oblikuju te učinke.

Ta saznanja trebala bi biti temelj širokih sigurnosnih standarda i načela dizajna koja usmjeravaju razvoj svakog proizvoda umjetne inteligencije, način na koji škole odlučuju o njihovoj primjeni te odluke obitelji o tome hoće li i kako te tehnologije uključiti u svoje živote.

Posao koji je još pred nama

Postoji jedna ključna razlika između umjetne inteligencije i tehnologija koje su joj prethodile: brzina.

Otpornost na požare razvijala se tisućljećima. Otpornost opskrbe električnom energijom razvijala se desetljećima. Otpornost umjetne inteligencije razvija se u svega nekoliko godina. Sustavi koji ga čine sigurnim, pouzdanim i korisnim za široku zajednicu moraju se graditi usporedno s njim.

Ako to učinimo kako treba, umjetna inteligencija može postati dio temeljne infrastrukture suvremenog života – šireći pristup znanju, ubrzavajući otkrića i poboljšavajući kvalitetu života na globalnoj razini.

No taj ishod nije zajamčen. Nijedna tehnologija opće namjene nikada nije sama sebe učinila sigurnom.

Otpornost je trajna disciplina koja zahtijeva da mnogi ljudi i institucije grade, ulažu i surađuju jedni s drugima. To je zadaća koja je pred nama i jedan je od presudnih izazova našeg vremena. Nadamo se da ćete nam se pridružiti.