Otpornost u doba umjetne inteligencije

Fondacija OpenAI postoji kako bi osigurala da opća umjetna inteligencija koristi cijelom čovječanstvu.

Neumorno radimo kako bismo držali korak sa brzim napretkom same umjetne inteligencije. U aprilu je Fondacija najavila⁠ naših prvih 100.000.000 USD grantova u oblasti bioloških nauka i liječenja bolesti, s ambicijom da pomogne u prevenciji i liječenju bolesti poput Alzheimerove bolesti korištenjem napredne umjetne inteligencije. Prošle sedmice smo najavili⁠ naš program Poslovi i ekonomska budućnost, s nadom da ćemo razumjeti i oblikovati šta rad i ekonomsko blagostanje znače za buduće generacije.

Danas dodatno razrađujemo našu viziju za sljedeći veliki program — kako bismo osigurali da, kako sposobnosti vještačke inteligencije budu rasle, tako će i sposobnost društva da iskoristi njen potencijal rasti jednako brzo. Ovaj rad nazivamo otpornost na AI: ekosistemski pristup potreban za ublažavanje rizika AI, kako bi društvo moglo maksimalno iskoristiti njegove prednosti.

Naš rad je već počeo. U samo nekoliko kratkih mjeseci od početka našeg rada, fondacija radi na finalizaciji više od 130.000.000 USD bespovratnih sredstava za organizacije kroz naš program AI Resilience, što će uskoro biti javno objavljeno, uz još mnogo toga što slijedi.^1⁠

Model transformacijskih tehnologija

Važnost otpornosti vještačke inteligencije najbolje se može razumjeti kroz prizmu prošlih tehnologija koje su značajno oblikovale ljudsku historiju.

S vremena na vrijeme pojavi se tehnologija koja iz temelja preoblikuje društvo. Ekonomisti ih nazivaju „tehnologijama opće namjene“. Vatra. Štamparska presa. Električna energija. Internet. Svaki je slijedio sličan razvojni luk: brze inovacije, stvarni rizici i institucije koje žure da uhvate korak. Ali svaki primjer također pokazuje šta je potrebno da bi moćna tehnologija bila sigurna.

Vatra je omogućila nastanak ljudske civilizacije. Grijalo nas je, kuhalo nam je hranu i štitilo nas je od grabežljivaca. Također je spalilo naše gradove do temelja. S vremenom su društva izgradila otpornost: vatrootporni materijali, mreže hidranata, profesionalne vatrogasne službe i građevinski propisi. Ekosistem, sloj po sloj.

Električna energija je pratila isti put. Nakon što je Edisonova stanica Pearl Street osvijetlila Manhattan 1882. godine, struja je donijela požare, smrtne slučajeve od strujnog udara i javnu paniku. Bez zaštitnih mjera poput izoliranih žica, automatskih osigurača i propisa, radnici i prolaznici stradavali su od strujnog udara u gradovima širom zemlje. Gradovi su raspravljali o tome treba li eksperiment u potpunosti napustiti. Umjesto toga, kako je tehnologija napredovala, uspostavili smo nezavisna tijela za testiranje poput Underwriters Laboratories, industrijske standarde poput Nacionalnog električnog kodeksa, te javna ulaganja koja su dovela električnu energiju u zajednice koje je tržište bilo zapostavilo. Svaki sloj učinio je električnu energiju sigurnijom i dostupnijom; danas je toliko sigurna da dijete može pritisnuti prekidač i svjetlo se upali.

Ovako izgleda otpornost kada se radi kako treba.

Vještačka inteligencija zahtijeva ekosistem otpornosti

Vještačka inteligencija slijedi istu putanju kao i prethodne tehnologije, ali se razvija dosad nezabilježenom brzinom.

Još uvijek smo na samom početku, ali koristi su već jasne: umjetna inteligencija smanjuje prepreke za pokretanje poslovanja, proširuje pristup obrazovanju, ubrzava naučna otkrića i transformira medicinu.

Istovremeno, rizici se pojavljuju jednako brzo — i to kao slika u ogledalu prednosti UI-ja. Isti rast koji stvara nove industrije može uzdrmati postojeće i poremetiti karijere. Isti sistemi koji mladima mogu pomoći da uče i stvaraju mogli bi također dovesti do nepoželjnog ponašanja. Alati koji ubrzavaju biološka istraživanja mogli bi sniziti prag za stvaranje štetnih patogena. A sposobnost vještačke inteligencije da piše kod, u pogrešnim rukama, mogla bi ugroziti kritičnu infrastrukturu.

Prvobitni tim OpenAI smatrao je da osiguravanje da umjetna inteligencija koristi društvu prvenstveno zavisi od rješavanja tehničkog problema usklađivanja. To ostaje ključno — i u središtu našeg rada — ali sada vjerujemo da je to samo jedan dio slagalice. Kako se umjetna inteligencija širi kroz sektore i države, društvu će također biti potrebna nezavisna istraživanja, javna infrastruktura, koordinacija industrije i potpuno nova područja stručnosti. Ukratko, to će zahtijevati otpornost AI-ja.

Odlučili smo da svoj početni rad usmjerimo na četiri područja^2⁠ koja se nalaze na presjeku velikih, kratkoročnih rizika i neposrednog utjecaja:

1. Biootpornost kao pomoć u sprječavanju budućih projektovanih pandemija;

2. Kibernetička otpornost za rad na osiguravanju sigurnosti kritičnih sistema našeg svijeta;

3. Sigurnost AI modela za učvršćivanje kontrole čovječanstva nad modelima koje stvaramo; i

4. Utjecaj vještačke inteligencije na mlade kako bi tehnologija postala pozitivna snaga za buduće generacije.

Naš rad tek počinje. Planiramo podijeliti više informacija o našim strategijama i početnim grantovima u svakoj oblasti, te se s vremenom proširiti na druge oblasti.

Bio otpornost

Vještačka inteligencija omogući će biološkim istraživanjima da napreduju neviđenom brzinom, pomažući u razvoju novih lijekova i poboljšanja javnog zdravlja koja nam svima omogućavaju da živimo zdravije i duže. Međutim, te iste sposobnosti mogla bi zloupotrijebiti i zlonamjerni akteri, snižavajući prag za osmišljavanje štetnih patogena.

Doba vještačke inteligencije zahtijeva obnovljen fokus na biosigurnost. Budući da bi zlonamjerni akteri mogli zloupotrijebiti napredne sisteme umjetne inteligencije kako bi pomogli u stvaranju širokog spektra bioloških prijetnji, prioritet ćemo dati rješenjima biosigurnosti koja nisu specifična za određene patogene. Ovo će zahtijevati ulaganja u prevenciju, otkrivanje i odbranu. Moramo zlonamjernim akterima otežati pristup stručnom znanju, opremi i materijalima potrebnim za stvaranje bioloških prijetnji, poboljšati našu sposobnost ranog prepoznavanja i praćenja novih epidemija te ojačati tehnologije — kao što su zaštitna oprema, sistemi za pročišćavanje zraka u zatvorenim prostorima i medicinske protivmjere — potrebne za brz i učinkovit odgovor.

Kibernetička otpornost

Umjetna inteligencija je počela brzo preoblikovati krajolik kibernetičke sigurnosti. Posao koji je nekada zahtijevao specijalizirane timove sada može biti podržan ili automatiziran sposobnim modelima. Istovremeno, sposobnosti UI-ja koje se brzo unapređuju mogu se koristiti i za ubrzavanje rada timova za cyberodbranu, uključujući identifikaciju i zakrpavanje ranjivosti te ubrzavanje odgovora.

Mnoge velike kompanije i privatni akteri mogu znatno ulagati u kibernetičku sigurnost kako bi zaštitili vlastite sisteme, uključujući i korištenje novih dostignuća u oblasti vještačke inteligencije. Predviđamo da ćemo značajne resurse usmjeriti na zaštitu drugih važnih društvenih aktera koji raspolažu s manje resursa i kojima će biti mnogo teže da dovoljno brzo implementiraju kibernetičke odbrane spremne za AI. Paralelno s tim, također smo usmjereni na pripremu za nove sigurnosne izazove koje će opća umjetna inteligencija naposljetku donijeti.

Sigurnost UI modela

Sigurnost UI modela fokusira se na ponašanje samih sistema—da li su istinoljubivi, pouzdani i usklađeni sa ljudskom namjerom. U svijetu u kojem ovo pođe po zlu, modeli mogu izmaći kontroli i ponašati se na nepredvidive načine, obmanjujući nas ili slijedeći ciljeve izvan okvira svog dizajna. Pravilno postupanje postaje sve važnije kako sistemi vještačke inteligencije postaju sve autonomniji i približavaju se inteligenciji na ljudskom nivou—te je naposljetku i nadmašuju.

Kompanije koje se bave umjetnom inteligencijom ulažu značajne resurse u sigurnost modela. Međutim, važnost ovog izazova zahtijeva širi, robusniji ekosistem: nezavisne institucije za procjenu sigurnosti modela, javnu infrastrukturu za provjeru sigurne primjene modela u praksi i kontinuirani napredak u nauci o usklađivanju koji široko unapređuje ovu oblast.

Utjecaj umjetne inteligencije na mlade

Mladi ljudi su često među prvima koji usvajaju nove tehnologije, koristeći ih za učenje, stvaranje, komunikaciju i istraživanje svijeta. UI nije izuzetak. Ali kako ovi alati postaju sve veći dio svakodnevnog života mladih ljudi, ključno je da razvijemo čvršću dokaznu osnovu kako bismo razumjeli njihove učinke.

Porodice, škole, kreatori politika i organizacije u zajednici suočavaju se s pitanjima o tome kako i kada mladi ljudi koriste umjetnu inteligenciju (UI)—uključujući njen utjecaj na ljudsku povezanost, učenje i razvoj. Naš početni fokus bit će na unapređivanju nezavisnih istraživanja kako bi se pomoglo u usmjeravanju tih odluka — radi boljeg razumijevanja gdje umjetna inteligencija može podržati razvoj, koje rizike može donijeti i koji konteksti oblikuju te učinke.

Ova saznanja trebala bi usmjeravati široke sigurnosne standarde i principe dizajna koji određuju kako se razvija bilo koji proizvod vještačke inteligencije, kako škole biraju da ih uvedu u upotrebu, te da li i kako porodice odlučuju uključiti ove tehnologije u svoje živote.

Posao koji je pred nama

Postoji jedna ključna razlika između umjetne inteligencije i tehnologija koje su joj prethodile: brzina.

Otpornost na vatru razvijala se milenijima. Otpornost elektroenergetskog sistema trajala je decenijama. Otpornost umjetne inteligencije razvija se u svega nekoliko godina. Sistemi koji ga čine sigurnim, pouzdanim i široko korisnim moraju se graditi uporedo s njim.

Ako to uradimo kako treba, umjetna inteligencija može postati dio temeljne infrastrukture modernog života—proširujući pristup znanju, ubrzavajući otkrića i poboljšavajući živote na globalnom nivou.

Ali taj ishod nije zagarantovan. Nijedna tehnologija opšte namjene nikada nije učinjena sigurnom.

Otpornost je trajna disciplina koja zahtijeva da mnogi ljudi i institucije učestvuju u njenoj izgradnji, ulažu u nju i sarađuju. To je zadatak koji je pred nama, i to je jedan od ključnih izazova našeg vremena. Nadamo se da ćete nam se pridružiti.