Отпорност у доба вештачке интелигенције

Фондација OpenAI постоји да би обезбедила да општа вештачка интелигенција користи целом човечанству.

Неуморно радимо како бисмо ишли у корак са убрзаним развојем саме вештачке интелигенције. У априлу је Фондација најавила⁠ својих првих 100 милиона УСД бесповратних средстава у области наука о животу и лечења болести, са амбицијом да помогне у спречавању и лечењу болести попут Алцхајмерове болести коришћењем напредне вештачке интелигенције. Прошле недеље смо најавили⁠ свој програм Радна места и економска будућност, у нади да ћемо разумети и обликовати шта рад и економски просперитет значе будућим генерацијама.

Данас проширујемо своју визију за наредни велики програм – како бисмо обезбедили да, како могућности вештачке интелигенције буду расле, способност друштва да је искористи расте истом брзином. Овај рад називамо отпорношћу AI: екосистемски приступ који је потребан за ублажавање ризика од вештачке интелигенције, како би друштво могло да максимално искористи њене предности.

Наш рад је већ почео. У свега неколико кратких месеци од почетка нашег рада, Фондација ради на томе да финализује доделу више од 130 милиона УСД бесповратних средстава организацијама кроз наш програм AI Resilience, о чему ће јавност ускоро бити обавештена, а биће их још.^1⁠

Образац трансформативних технологија

Значај отпорности вештачке интелигенције најбоље се разуме кроз призму претходних технологија које су значајно обликовале људску историју.

С времена на време, појави се технологија која из темеља преобликује друштво. Економисти их називају „технологијама опште намене“. Ватра. Штампарска преса. Електрична енергија. Интернет. Сваки од њих имао је сличан ток: брзе иновације, стварни ризици и институције које журе да ухвате корак. Али сваки пример такође показује шта је потребно да би моћна технологија била безбедна.

Ватра је учинила људску цивилизацију могућом. Грејала нас је, кувала нам храну и штитила нас од грабљивица. Такође је спалила наше градове до темеља. Временом су друштва јачала своју отпорност: ватроотпорни материјали, мреже хидраната, професионалне ватрогасне службе и грађевински прописи. Екосистем, слој по слој.

Електрична енергија је пратила исти пут. Након што је Едисонова станица у Перл стриту осветлила Менхетн 1882. године, електрична енергија донела је пожаре, струјне ударе и панику у јавности. Без заштитних мера као што су изоловане жице, аутоматски осигурачи и прописи, радници и пролазници страдали су од струјних удара у градовима широм земље. Градови су расправљали о томе да ли експеримент треба у потпуности обуставити. Уместо тога, како је технологија напредовала, успоставили смо независна тела за тестирање као што је Underwriters Laboratories, индустријске стандарде као што је Национални електрични кодекс и јавна улагања која су довела електричну енергију заједницама које је тржиште запоставило. Сваки слој је учинио електричну енергију безбеднијом и доступнијом; данас је толико безбедна да дете може да укључи прекидач и светло се упали.

Овако изгледа отпорност када се спроводи правилно.

Вештачка интелигенција захтева екосистем отпорности

Вештачка интелигенција прати исту путању као претходне технологије, али се креће невиђеном брзином.

Још увек смо на самом почетку, али користи су већ јасне: вештачка интелигенција смањује препреке за покретање пословања, проширује приступ образовању, убрзава научна открића и трансформише медицину.

Истовремено, ризици се појављују исто тако брзо – и као одраз у огледалу предности вештачке интелигенције. Исти тај раст који ствара нове индустрије може из корена да промени постојеће и поремети каријере. Исти системи који младим људима могу помоћи да уче и стварају могли би такође довести до непожељног понашања. Алати који убрзавају биолошка истраживања могли би да смање препреке за стварање штетних патогена. Способност вештачке интелигенције да пише код, у погрешним рукама, могла би да угрози критичну инфраструктуру.

Почетни тим компаније OpenAI веровао је да обезбеђивање да вештачка интелигенција користи друштву пре свега зависи од решавања техничког проблема усклађивања. То остаје кључно – и у средишту нашег рада – али сада верујемо да је то само један део слагалице. Како се вештачка интелигенција шири у различитим секторима и државама, друштво ће такође имати потребу за независним истраживањима, јавном инфраструктуром, координацијом у индустрији и потпуно новим областима стручности. Укратко, то ће захтевати отпорност вештачке интелигенције.

Одлучили смо да наш почетни рад усмеримо на четири области^2⁠ које се налазе на пресеку великих, краткорочних ризика и непосредног утицаја:

1. Биолошка отпорност као помоћ у спречавању будућих вештачки створених пандемија;

2. Сајбер отпорност за рад на обезбеђивању безбедности критичних система нашег света;

3. Безбедност AI модела како би се учврстила контрола човечанства над моделима које стварамо; и

4. Утицај вештачке интелигенције на младе како бисмо помогли да технологија буде позитивна снага за будуће генерације.

Наш рад тек почиње. Планирамо да поделимо више информација о својим стратегијама и почетним грантовима у свакој области, као и да се временом проширимо на друге области.

Биолошка отпорност

Вештачка интелигенција ће омогућити да се биолошка истраживања одвијају невиђеном брзином, помажући у развоју нових лекова и унапређења јавног здравља која ће свима нама омогућити да живимо здравије и дуже. Међутим, те исте могућности би злонамерни актери могли и да злоупотребе, олакшавајући осмишљавање штетних патогена.

Доба вештачке интелигенције захтева поновни фокус на биолошку безбедност. Пошто би злонамерни актери могли да злоупотребе напредне системе вештачке интелигенције како би створили широк спектар биолошких претњи, даћемо приоритет решењима за биолошку безбедност која нису везана за конкретан патоген. Ово ће захтевати улагања у области превенције, откривања и одбране. Морамо да отежамо злонамерним актерима приступ стручним знањима, опреми и материјалима потребним за стварање биолошких претњи, да унапредимо своју способност раног препознавања и праћења нових избијања болести, као и да ојачамо технологије – као што су заштитна опрема, системи за пречишћавање ваздуха у затвореним просторима и медицинске противмере – потребне за брз и делотворан одговор.

Сајбер отпорност

Вештачка интелигенција је почела убрзано да преобликује пејзаж сајбер безбедности. Посао који је некада захтевао специјализоване тимове сада може да се подржи или аутоматизује помоћу способних модела. Истовремено, могућности вештачке интелигенције које се брзо унапређују могу се користити и за убрзавање рада тимова за сајбер одбрану, укључујући откривање и отклањање рањивости и убрзавање реаговања.

Многе велике компаније и приватни актери могу да издвајају значајна средства за сајбер безбедност како би заштитили сопствене системе, укључујући и нова достигнућа у области вештачке интелигенције. Очекујемо да ћемо значајне ресурсе усмерити на заштиту других важних друштвених актера који располажу мањим ресурсима и којима ће бити знатно теже да примене сајбер одбрану спремну за вештачку интелигенцију онолико брзо колико је потребно. Паралелно с тим, усредсређени смо и на припрему за нове безбедносне изазове које ће општа вештачка интелигенција на крају донети.

Безбедност модела вештачке интелигенције

Безбедност AI модела усредсређује се на понашање самих система – да ли су истинити, поуздани и усклађени са људским намерама. У свету у којем ово крене по злу, модели могу да се отму контроли и понашају се на непредвидиве начине, обмањујући нас или тежећи циљевима изван оквира за које су пројектовани. Исправно решавање овог питања постаје све важније како системи вештачке интелигенције постају све аутономнији и приближавају се – а на крају и превазилазе – интелигенцију на нивоу човека.

Компаније које се баве вештачком интелигенцијом улажу значајне ресурсе у безбедност модела. Међутим, значај овог изазова захтева шири, робуснији екосистем: независне институције за процену безбедности модела, јавну инфраструктуру за проверу безбедног увођења модела у пракси и континуирани напредак у науци о усклађивању који унапређује целокупну област.

Утицај вештачке интелигенције на младе

Млади су често међу првима који усвајају нове технологије, користећи их за учење, стварање, комуникацију и истраживање света. Вештачка интелигенција није изузетак. Међутим, како ови алати постају све значајнији део свакодневног живота младих, од кључне је важности да развијемо снажнију основу засновану на доказима како бисмо разумели њихове утицаје.

Породице, школе, креатори политика и организације у заједници суочавају се са питањима о томе како и када млади ступају у интеракцију са вештачком интелигенцијом (ВИ) – укључујући њен утицај на људску повезаност, учење и развој. Наш почетни фокус биће на унапређивању независних истраживања која ће помоћи у усмеравању тих одлука – како бисмо боље разумели где вештачка интелигенција може да подржи развој, које ризике може да уведе и контексте који обликују те ефекте.

Ови увиди треба да покрену развој свеобухватних безбедносних стандарда и принципа дизајна који усмеравају начин на који се развија било који производ вештачке интелигенције, како школе одлучују да их примењују и да ли ће и како породице одлучити да укључе ове технологије у свој живот.

Посао који предстоји

Постоји једна кључна разлика између вештачке интелигенције и технологија које су јој претходиле: брзина.

Отпорност на ватру развијала се миленијумима. Отпорност електричне енергије развијала се деценијама. Отпорност вештачке интелигенције развија се у року од неколико година. Системи који омогућавају да то буде безбедно, поуздано и од користи широком кругу људи морају се градити упоредо с тим.

Ако то урадимо како треба, вештачка интелигенција може постати део темељне инфраструктуре савременог живота – ширећи приступ знању, убрзавајући открића и унапређујући животе на глобалном нивоу.

Међутим, тај исход није загарантован. Ниједна технологија опште намене никада није сама себе учинила безбедном.

Отпорност је трајна дисциплина која захтева учешће многих људи и институција како би се омогућила изградња, улагање и сарадња. То је задатак који је пред нама, и то је један од кључних изазова нашег времена. Надамо се да ћете нам се придружити.