Reżiljenza fl-era tal-IA

Il-Fondazzjoni OpenAI teżisti biex tiżgura li l-intelliġenza artifiċjali ġenerali tibbenefika lill-umanità kollha.

Ilna naħdmu bla heda biex inżommu l-pass mal-avvanzi mgħaġġla fl-intelliġenza artifiċjali nnifisha. F’April, il-Fondazzjoni ħabbret⁠ l-ewwel $100 miljun tagħna f’għotjiet fix-Xjenzi tal-Ħajja u l-Fejqan tal-Mard, bl-ambizzjoni li ngħinu fil-prevenzjoni u t-trattament ta’ mard bħall-Alzheimer billi nisfruttaw intelliġenza artifiċjali avvanzata. Il-ġimgħa li għaddiet, ħabbarna⁠ il-programm tagħna Impjiegi u futuri ekonomiċi, bit-tama li nifhmu u nsawru t-tifsira tax-xogħol u tal-prosperità ekonomika għall-ġenerazzjonijiet futuri.

Illum, qed niżviluppaw aktar il-viżjoni tagħna għall-programm ewlieni li jmiss—biex niżguraw li, hekk kif jikbru l-kapaċitajiet tal-IA, il-kapaċità tas-soċjetà li tagħmel użu effettiv minnhom tikber bl-istess rata. Din il-ħidma nsejħulha reżiljenza tal-IA: l-approċċ ekosistemiku meħtieġ biex jittaffew ir-riskji tal-IA, sabiex is-soċjetà tkun tista’ timmassimizza l-benefiċċji tagħha.

Ix-xogħol tagħna diġà beda. Fil-ftit xhur qosra minn meta bdejna l-ħidma tagħna, il-Fondazzjoni qed taħdem biex tiffinalizza aktar minn $130 miljun f’għotjiet lil organizzazzjonijiet permezz tal-programm AI Resilience tagħna, li se jitħabbru pubblikament dalwaqt u b’aktar x’ġej.^1⁠

Ix-xejra tat-teknoloġiji trasformattivi

L-importanza tar-reżiljenza tal-IA tinftiehem l-aħjar mill-perspettiva ta’ teknoloġiji tal-passat li sawru b’mod sinifikanti l-istorja tal-umanità.

Kull tant żmien, titfaċċa teknoloġija li tfassal mill-ġdid is-soċjetà mill-pedamenti tagħha. L-ekonomisti jsejħulhom "teknoloġiji għal skop ġenerali." Nar. L-istamperija. L-elettriku L-internet. Kull wieħed minnhom segwa trajettorja simili: innovazzjoni rapida, riskji reali, u istituzzjonijiet jiġru biex ilaħħqu. Iżda kull eżempju juri wkoll x’inhu meħtieġ biex teknoloġija qawwija ssir sigura.

In-nar għamel iċ-ċiviltà umana possibbli. Dan żammna sħan, sajjarilna l-ikel, u pproteġiena mill-predaturi. Ħaraq ukoll il-bliet tagħna sal-art. Maż-żmien, is-soċjetajiet żviluppaw ir-reżiljenza: materjali reżistenti għan-nar, netwerks tal-idranti, dipartimenti professjonali tat-tifi tan-nar, u kodiċijiet tal-bini. Ekosistema, saff b’saff.

L-elettriku segwa l-istess mogħdija. Wara li l-Pearl Street Station ta’ Edison dawwal lil Manhattan fl-1882, l-elettriku ġab miegħu nirien, elettrokuzzjonijiet u paniku pubbliku. Mingħajr protezzjonijiet bħal wajers iżolati, salvavita, u kodiċijiet, ħaddiema u persuni fil-qrib ġew elettrokutati fi bliet madwar il-pajjiż. Il-bliet iddibattew dwar jekk l-esperiment għandu jiġi abbandunat għalkollox. Minflok, hekk kif it-teknoloġija avvanzat, waqqafna korpi indipendenti tal-ittestjar bħal Underwriters Laboratories, standards tal-industrija bħan-National Electrical Code, u investiment pubbliku li wassal l-elettriku lil komunitajiet li s-suq kien ħalla warajh. Kull saff għamel l-elettriku aktar sikur u aktar aċċessibbli; illum, tant hu sikur li tifel jista’ jixgħel swiċċ u jidher id-dawl.

Hekk tidher ir-reżiljenza meta titwettaq kif suppost.

L-IA teħtieġ ekosistema ta’ reżiljenza

L-intelliġenza artifiċjali qed issegwi l-istess trajettorja bħal teknoloġiji preċedenti, iżda miexja b’veloċità bla preċedent.

L-IA għadha fil-bidu tagħha, iżda l-benefiċċji diġà huma ċari: qed tnaqqas ix-xkiel biex wieħed jibda negozju, twessa’ l-aċċess għall-edukazzjoni, tħaffef l-iskoperta xjentifika, u tittrasforma l-mediċina.

Fl-istess ħin, ir-riskji qed jitfaċċaw bl-istess ħeffa—u bħal riflessjoni fil-mera tal-benefiċċji tal-IA. L-istess tkabbir li joħloq industriji ġodda jista’ jikkawża bidla radikali fl-industriji eżistenti u jfixkel il-karrieri. L-istess sistemi li jistgħu jgħinu liż-żgħażagħ jitgħallmu u joħolqu jistgħu jwasslu wkoll għal imġiba negattiva. L-għodod li jħaffu r-riċerka bijoloġika jistgħu jbaxxu l-ostaklu għall-ħolqien ta’ patoġeni ta’ ħsara. U l-kapaċità tal-IA li tikteb kodiċi, f’idejn mhux korretti, tista’ thedded l-infrastruttura kritika.

It-tim inizjali ta’ OpenAI kien jemmen li l-iżgurar li l-AI tkun ta’ benefiċċju għas-soċjetà kien jiddependi primarjament fuq is-soluzzjoni tal-problema teknika tal-allinjament. Dan jibqa’ kruċjali—u ċentrali għall-ħidma tagħna—iżda issa nemmnu li huwa biss parti waħda mill-puzzle. Hekk kif l-IA tinfirex f’setturi u nazzjonijiet differenti, is-soċjetà se jkollha bżonn ukoll riċerka indipendenti, infrastruttura pubblika, koordinazzjoni fl-industrija, u oqsma ta’ speċjalizzazzjoni ġodda kompletament. Fil-qosor, dan se jirrikjedi reżiljenza tal-IA.

Għażilna li niffokaw il-ħidma inizjali tagħna fuq erba’ oqsma^2⁠ li jinsabu fejn jiltaqgħu riskji kbar u imminenti ma’ impatt immedjat:

1. Bijo-reżiljenza biex tgħin fil-prevenzjoni ta’ pandemiji inġinerizzati tal-futur;

2. Reżiljenza ċibernetika biex naħdmu biex niżguraw is-sigurtà tas-sistemi kritiċi tad-dinja tagħna;

3. Is-sikurezza tal-mudelli tal-IA biex insaħħu l-kontroll tal-umanità fuq il-mudelli li noħolqu; u

4. L-impatt tal-IA fuq iż-żgħażagħ biex ngħinu nagħmlu t-teknoloġija forza pożittiva għall-ġenerazzjonijiet futuri.

Ix-xogħol tagħna għadu kemm beda. Qed nippjanaw li naqsmu aktar informazzjoni dwar l-istrateġiji tagħna u l-għotjiet inizjali f’kull qasam, u li maż-żmien nespandu għal oqsma oħra.

Bijo-reżiljenza

L-IA se tippermetti li r-riċerka bijoloġika timxi b’veloċità bla preċedent, u tgħin fl-iżvilupp ta’ kura ġdida u titjib fis-saħħa pubblika li jippermettulna lkoll ngħixu ħajja aktar b’saħħitha u itwal. Madankollu, dawn l-istess kapaċitajiet jistgħu wkoll jintużaw ħażin minn atturi malizzjużi, u b’hekk inaqqsu l-ostaklu għat-tfassil ta’ patoġeni ta’ ħsara.

L-era tal-intelliġenza artifiċjali teħtieġ enfasi mġedda fuq il-bijosigurtà. Minħabba li sistemi avvanzati tal-IA jistgħu jintużaw ħażin minn atturi malizzjużi biex jgħinu fil-ħolqien ta’ firxa wiesgħa ta’ theddid bijoloġiku, se nagħtu prijorità lil soluzzjonijiet ta’ bijosigurtà indipendenti mit-tip ta’ patoġenu. Dan se jirrikjedi investimenti fil-prevenzjoni, is-sejbien u d-difiża. Jeħtieġ li nagħmluha aktar diffiċli għall-atturi malizzjużi biex ikollhom aċċess għall-għarfien espert, it-tagħmir u l-materjali meħtieġa biex joħolqu theddid bijoloġiku, intejbu l-kapaċità tagħna li nidentifikaw u nsegwu tifqigħat ġodda fi stadju bikri, u nsaħħu t-teknoloġiji—bħal tagħmir protettiv, sistemi għat-tindif tal-arja ta’ ġewwa, u kontromiżuri mediċi—meħtieġa biex nirrispondu malajr u b’mod effettiv.

Reżiljenza ċibernetika

L-IA bdiet tfassal mill-ġdid b’mod rapidu l-pajsaġġ taċ-ċibersigurtà. Ix-xogħol li darba kien jeħtieġ timijiet speċjalizzati issa jista’ jiġi appoġġjat jew awtomatizzat minn mudelli kapaċi. Fl-istess ħin, il-kapaċitajiet tal-IA li qed jitjiebu b’rata mgħaġġla jistgħu jintużaw ukoll biex jaċċelleraw il-ħidma tad-difensuri ċibernetiċi, inkluż permezz tal-identifikazzjoni u t-tiswija tal-vulnerabbiltajiet, u t-tħaffif tar-rispons.

Ħafna kumpaniji kbar u atturi privati jistgħu jonfqu ħafna fuq iċ-ċibersigurtà biex jiżguraw is-sistemi tagħhom stess, inkluż permezz ta’ avvanzi ġodda fl-intelliġenza artifiċjali. Nantiċipaw li niffukaw riżorsi sinifikanti fuq il-protezzjoni ta’ atturi importanti oħra fis-soċjetà li għandhom inqas riżorsi u li se jsibuha ħafna aktar diffiċli li jimplimentaw difiżi ċibernetiċi lesti għall-intelliġenza artifiċjali malajr kemm ikun meħtieġ. Fl-istess ħin, qed niffukaw ukoll fuq it-tħejjija għal sfidi ġodda ta’ sigurtà li l-intelliġenza artifiċjali ġenerali fl-aħħar mill-aħħar se ġġib magħha.

Sikurezza tal-mudell tal-IA

Is-sikurezza tal-mudell tal-IA tiffoka fuq l-imġiba tas-sistemi nfushom—jekk huma veritiera, affidabbli u allinjati mal-intenzjoni tal-bniedem. F’dinja fejn dan imur ħażin, il-mudelli jistgħu joħorġu mill-kontroll u jġibu ruħhom b’modi imprevedibbli, iqarrqu bina jew isegwu għanijiet lil hinn mid-disinn tagħhom. Li nagħmlu dan sew isir dejjem aktar importanti hekk kif is-sistemi tal-IA jsiru aktar awtonomi u joqorbu lejn—u eventwalment jaqbżu—l-intelliġenza ta’ livell uman.

Il-kumpaniji tal-IA qed jinvestu riżorsi sostanzjali fis-sikurezza tal-mudell. Madankollu, l-importanza ta’ din l-isfida titlob ekosistema usa’ u aktar robusta: istituzzjonijiet indipendenti biex jevalwaw is-sikurezza tal-mudelli, infrastruttura pubblika biex tivverifika l-implimentazzjoni sikura tal-mudelli fil-prattika, u avvanzi kontinwi fix-xjenza tal-allinjament li jmexxu ’l quddiem il-qasam b’mod wiesa’.

L-impatt tal-IA fuq iż-żgħażagħ

Iż-żgħażagħ spiss ikunu fost l-ewwel li jadottaw teknoloġiji ġodda, billi jużawhom biex jitgħallmu, joħolqu, jikkomunikaw u jesploraw id-dinja. L-IA mhijiex eċċezzjoni. Iżda hekk kif dawn l-għodod qed isiru parti dejjem akbar mill-ħajja ta’ kuljum taż-żgħażagħ, huwa kruċjali li niżviluppaw bażi ta’ evidenza aktar b’saħħitha biex nifhmu l-impatti tagħhom.

Il-familji, l-iskejjel, dawk li jfasslu l-politika, u l-organizzazzjonijiet komunitarji kollha qed jitħabtu ma’ mistoqsijiet dwar kif u meta ż-żgħażagħ jinvolvu ruħhom mal-IA—inkluż l-impatt tagħha fuq il-konnessjoni umana, it-tagħlim, u l-iżvilupp. L-enfasi inizjali tagħna se tkun fuq l-avvanz tar-riċerka indipendenti biex tgħin tiggwida dawk id-deċiżjonijiet—biex nifhmu aħjar fejn l-IA tista’ tappoġġja l-iżvilupp, ir-riskji li tista’ ġġib magħha, u l-kuntesti li jsawru dawk l-effetti.

Dawn l-għarfieniet għandhom jixprunaw standards wiesgħa ta’ sikurezza u prinċipji tad-disinn li jiggwidaw kif jiġi żviluppat kwalunkwe prodott tal-IA, kif l-iskejjel jagħżlu li jimplimentaw dawn il-prodotti, u jekk u kif il-familji jiddeċiedu li jinkorporaw dawn it-teknoloġiji f’ħajjithom.

Ix-xogħol li hemm quddiemna

Hemm differenza waħda kruċjali bejn l-IA u t-teknoloġiji li ġew qabilha: il-veloċità.

Ir-reżiljenza għan-nar ħadet millennji. Ir-reżiljenza tal-elettriku ħadet għexieren ta’ snin. Ir-reżiljenza tal-IA qed tevolvi fi żmien ftit snin. Is-sistemi li jagħmluh sikur, affidabbli u ta’ benefiċċju wiesa’ għandhom jinbnew fl-istess ħin miegħu.

Jekk nagħmlu dan sew, l-IA tista’ ssir parti mill-infrastruttura fundamentali tal-ħajja moderna—twessa’ l-aċċess għall-għarfien, tħaffef l-iskoperti, u ttejjeb il-ħajjiet fuq skala globali.

Iżda dak ir-riżultat mhuwiex garantit. L-ebda teknoloġija ta’ użu ġenerali qatt ma għamlet lilha nnifisha sikura.

Ir-reżiljenza hija dixxiplina permanenti li teħtieġ li ħafna nies u istituzzjonijiet jibnu, jinvestu u jikkollaboraw. Dik hija l-ħidma li għandna quddiemna, u hija waħda mill-isfidi determinanti ta’ żmienna. Nittamaw li tingħaqad magħna.