Katatagan sa Panahon ng AI

Umiiral ang OpenAI Foundation para matiyak na mapapakinabangan ang artificial general intelligence ng buong sangkatauhan.

Walang humpay kaming nagtatrabaho para makasabay sa mabilis na pagsulong ng AI mismo. Noong Abril, inanunsyo⁠ ng Foundation ang aming unang mga grant na nagkakahalaga ng $100 milyon sa Agham-buhay at Paggamot ng Mga Sakit, na may ambisyong tumulong sa pagpigil at paggamot ng mga sakit tulad ng Alzheimer’s sa pamamagitan ng paggamit ng advanced AI. Noong nakaraang linggo, inanunsyo⁠ namin ang aming programang Jobs and Economic Futures, sa pag-asang maunawaan at mahubog kung ano ang ibig sabihin ng trabaho at kasaganaan sa ekonomiya para sa mga susunod na henerasyon.

Ngayon, pinalalawak namin ang aming pananaw para sa susunod na malaking program—ang pagtitiyak na habang patuloy na lumalawak ang kakayahan ng AI, lalago rin nang kasingbilis ang kakayahan ng lipunan na gamitin at pakinabangan ito. Tinatawag namin ang gawaing ito na AI resilience: isang ecosystem approach na kinakailangan para mabawasan ang mga panganib ng AI, nang sa gayon ay mapakinabangan ng lubos ng lipunan ang mga benepisyo nito.

Nagsimula na ang aming gawain. Sa loob ng ilang maikling buwan mula nang simulan namin ang aming gawain, nagsusumikap ang Pundasyon na i-finalize ang mahigit $130,000,000 na mga grant sa mga organisasyon sa pamamagitan ng aming programang Katatagan ng AI, na ibabahagi sa publiko sa lalong madaling panahon at may marami pang susunod.^1⁠

Ang pattern ng mga transpormatibong teknolohiya

Mas malinaw na mauunawaan ang kahalagahan ng AI resilience kung titingnan ang mga naunang teknolohiyang may malaking ambag sa paghubog ng kasaysayan ng sangkatauhan.

Paminsan-minsan, may dumarating na teknolohiyang muling humuhubog sa lipunan mula sa pinakapundasyon nito. Tinatawag ng mga ekonomista ang mga ito na “mga teknolohiyang may pangkalahatang layunin.” Sunog. Ang makinang pang-imprenta. Kuryente. Ang internet. Bawat isa ay sumunod sa magkakatulad na daloy: mabilis na inobasyon, tunay na mga panganib, at mga institusyong naghahabol para makasabay. Pero ipinapakita rin ng bawat halimbawa kung ano ang kinakailangan para gawing ligtas ang powerful na teknolohiya.

Ginawang posible ng apoy ang sibilisasyong pantao. Pinanatili nito tayong mainit, niluto ang ating pagkain, at ipinagtanggol tayo mula sa mga mandaragit. Sinunog din nito ang ating mga lungsod hanggang maging abo. Sa paglipas ng panahon, nagpatatag ang mga lipunan ng kanilang katatagan: mga materyales na lumalaban sa apoy, network ng hydrant, propesyonal na departamento ng bumbero, at mga code ng pagtatayo ng gusali. Isang ecosystem, patong-patong.

Sumunod din sa kaparehong landas ang kuryente. Matapos pailawan ng Pearl Street Station ni Edison ang Manhattan noong 1882, nagdulot ang kuryente ng mga sunog, pagkakakuryente, at matinding takot sa publiko. Kung wala ang mga proteksiyong tulad ng mga insulated wire, circuit breaker, at building code, maraming manggagawa at bystander ang nakuryente sa iba’t ibang lungsod sa bansa. Pinagdebatehan ng mga lungsod kung dapat bang tuluyang itigil ang eksperimento. Sa halip, habang umuunlad ang teknolohiya, nagtatag tayo ng mga independiyenteng testing body gaya ng Underwriters Laboratories, mga pamantayan sa industriya tulad ng National Electrical Code, at pampublikong pamumuhunan na nagdala ng kuryente sa mga komunidad na naiwan ng merkado. Bawat layer ay nagpatatag sa kaligtasan at pagiging accessible ng kuryente; sa ngayon, napakaligtas na nito kaya kayang pindutin ng bata ang switch at sisindi ang ilaw.

Ganito ang hitsura ng katatagan kapag naisagawa ito nang maayos.

Ang AI ay nangangailangan ng isang ecosystem ng katatagan

Sinusundan ng AI ang parehong landas gaya ng mga nakaraang teknolohiya, pero gumagalaw sa isang walang kapantay na bilis.

Nasa maagang yugto pa rin tayo nito, pero malinaw na ang mga benepisyo: pinabababa ng AI ang mga hadlang sa pagsisimula ng negosyo, pinapalawak ang access sa edukasyon, pinapabilis ang mga siyentipikong pagtuklas, at binabago ang medisina.

Kasabay nito, mabilis ding umuusbong ang mga panganib—at tila kabaligtaran ng repleksiyon ng mga benepisyo ng AI. Ang parehong pag-usbong na lumilikha ng mga bagong industriya ay puwede ring magpabagsak sa mga umiiral na at gumulo sa mga karera. Maaari ring magdulot ng hindi kanais-nais na pag-uugali ang parehong mga sistemang makakatulong sa mga kabataan na matuto at lumikha. Puwede ring magpababa ng hadlang sa paglikha ng mga mapaminsalang pathogen ang mga tool na nagpapabilis ng biyolohikal na pananaliksik. Maaaring magbanta sa kritikal na imprastraktura at ang kakayahan ng AI na magsulat ng code, kung mapupunta sa maling kamay.

Naniniwala ang unang team ng OpenAI na pangunahing nakadepende sa paglutas ng teknikal na problema sa pag-aayon ang pagtiyak na nagdudulot ng pakinabang ang AI sa lipunan. Nananatili itong napakahalaga—at sentro ng aming gawain—pero naniniwala na kami ngayon na isa lamang ito sa mga bahagi ng puzzle. Habang lumalaganap ang AI sa iba’t ibang sektor at bansa, mangangailangan din ang lipunan ng independiyenteng pananaliksik, pampublikong imprastraktura, koordinasyon sa industriya, at ganap na bagong mga larangan ng kadalubhasaan. Sa madaling sabi, mangangailangan ito ng katatagan ng AI.

Pinili naming ituon ang aming paunang trabaho sa apat na larangan^2⁠ na nasa intersection ng malalaki, agarang panganib at direktang epekto:

1. Katatagang biyolohikal para makatulong na maiwasan ang mga engineered na pandemic sa hinaharap;

2. Katatagan sa cyber para magsikap na matiyak ang kaligtasan ng mahahalagang sistema ng ating mundo;

3. Kaligtasan ng modelo ng AI para patatagin ang kontrol ng sangkatauhan sa mga modelong ginawa natin; at

4. Ang epekto ng AI sa mga kabataan para makatulong na gawing positibong puwersa ang teknolohiya para sa mga susunod na henerasyon.

Nagsisimula pa lang ang aming gawain. Plano naming magbahagi ng higit pang impormasyon tungkol sa aming mga estratehiya at mga paunang grant sa bawat larangan, at palawakin ito sa iba pang mga larangan sa paglipas ng panahon.

Katatagang biyolohikal

Bibigyang-daan ng AI ang pananaliksik sa biyolohiya na umusad sa walang kapantay na bilis, na makakatulong sa pagbuo ng mga bagong lunas at mga pagpapahusay sa pampublikong kalusugan na magbibigay-daan para mamuhay tayong lahat nang mas malusog at mas matagal. Gayunpaman, puwede ring abusuhin ng mga mapaminsalang entidad ang parehong mga kakayahang ito, na nagpapababa sa hadlang sa pagdidisenyo ng mga nakapipinsalang pathogen.

Nangangailangan ang panahon ng AI ng panibagong pagtutok sa biosecurity. Dahil puwedeng gamitin sa maling paraan ng mga may masamang layunin ang mga advanced na system ng AI para tumulong sa paglikha ng malawak na hanay ng mga biyolohikal na banta, uunahin namin ang mga solusyon sa biosecurity na hindi nakapokus sa anumang partikular na pathogen. Mangangailangan ito ng mga pamumuhunan sa pag-iwas, pagtuklas, at depensa. Kailangan nating gawing mas mahirap para sa mga malisyosong aktor na ma-access ang kadalubhasaan, kagamitan, at materyales na kailangan para makalikha ng mga biyolohikal na banta; pagbutihin ang ating kakayahang maagang matukoy at masubaybayan ang mga bagong outbreak; at patatagin ang mga teknolohiya—gaya ng protective equipment, mga indoor air-cleaning system, at medical countermeasure—na kailangan para sa mabilis at epektibong pagtugon.

Katatagan sa cyber

Mabilis na binago ng AI ang larangan ng cybersecurity. Ang gawaing dating nangangailangan ng mga espesyalisadong koponan ay maaari na ngayong matulungan o maisagawa nang awtomatiko ng mga may-kakayahang modelo. Kasabay nito, maaari ring gamitin ang mabilis na umuunlad na mga kakayahan ng AI para mapabilis ang gawain ng mga cyberdefender, kabilang ang pagtukoy at pag-aayos ng mga kahinaan at pagpapabilis ng pagtugon.

Maraming malalaking kumpanya at pribadong mga aktor ang puwedeng gumastos nang malaki sa seguridad sa cyber para maprotektahan ang kanilang sariling mga system, kabilang ang paggamit ng mga bagong pagsulong sa AI. Inaasahan naming maglalaan ng malalaking mapagkukunan sa pag-secure ng iba pang mahahalagang aktor sa lipunan na mas kulang sa kakayahan at mas mahihirapang mabilis na mag-deploy ng AI-ready na cyberdefense. Kasabay nito, nakapokus din kami sa paghahanda para sa mga bagong hamon sa seguridad na idudulot ng artificial general intelligence sa huli.

Kaligtasan ng modelo ng AI

Nakatuon ang kaligtasan ng modelo ng AI sa pag-uugali ng mismong mga system—kung ang mga ito ay tapat, maaasahan, at nakaayon sa layunin ng tao. Sa isang mundo, kung saan nagkakamali ang mga system, maaaring makawala ang mga modelo at kumilos sa hindi inaasahang mga paraan—manlinlang sa atin o ituloy ang mga layuning lampas sa kanilang disenyo. Lalong nagiging mahalaga ang paggawa nito nang tama habang ang mga AI system ay nagiging mas autonomous at lumalapit—at kalaunan ay posibleng lumampas—sa antas ng intelihensiya ng tao.

Naglalaan ang mga kumpanya ng AI ng malaking mga mapagkukunan sa kaligtasan ng modelo. Gayunpaman, ang bigat ng hamong ito ay nangangailangan ng mas malawak at mas matibay na ecosystem: mga independiyenteng institusyon na magsusuri ng kaligtasan ng mga modelo, pampublikong imprastruktura para beripikahin ang pagsasagawa ng ligtas na pag-deploy ng mga ito, at patuloy na pagsulong sa alignment science na nagpapabuti sa buong larangan.

Epekto ng AI sa mga kabataan

Kadalasang ang mga kabataan ang kabilang sa mga pinakaunang gumagamit ng mga bagong teknolohiya, na ginagamit ang mga ito para matuto, lumikha, makipag-ugnayan, at tuklasin ang mundo. Hindi eksepsiyon ang AI. Pero habang nagiging mas malaking bahagi ng pang-araw-araw na buhay ng mga kabataan ang mga tool na ito, napakahalagang bumuo tayo ng mas matibay na batayan ng ebidensya para maunawaan ang mga epekto ng mga ito.

Ang mga pamilya, paaralan, mga policymaker, at mga organisasyong pangkomunidad ay kapwa humaharap sa mga tanong kung paano at kailan nakikisalamuha ang mga kabataan sa AI—kabilang ang epekto nito sa ugnayang pantao, pagkatuto, at pag-unlad. Ang aming unang pokus ay sa pagsusulong ng independiyenteng pananaliksik para makatulong na gabayan ang mga desisyong iyon—para mas maunawaan kung saan masusuportahan ng AI ang pag-unlad, ang panganib na maaaring idulot nito, at ang kontekstong humuhubog sa mga epektong iyon.

Ang mga insight na ito ay dapat magsilbing batayan ng malawak na mga pamantayan sa kaligtasan at mga prinsipyo sa disenyo na gagabay kung paano binubuo ang anumang AI product, kung paano ito ginagamit ng mga paaralan, at kung paano—at kung gagamitin nga ba—ng mga pamilya ang mga teknolohiyang ito sa kanilang buhay.

Ang mga gawain sa hinaharap

May isang mahalagang pagkakaiba sa pagitan ng AI at ng mga teknolohiyang nauna rito: ang bilis.

Inabot ng ilang milenyo ang katatagan laban sa apoy. Inabot ng mga dekada ang katatagan ng kuryente. Umuunlad ang katatagan ng AI sa loob lamang ng ilang taon. Kailangang sabay na itayo ang mga sistemang magpapaligtas, maaasahan, at magpapalawak ng benepisyo nito.

Kung magagawa natin ito nang tama, puwedeng maging bahagi ang AI ng pundasyong imprastraktura ng makabagong buhay—pagpapalawak ng access sa kaalaman, pagpapabilis ng pagtuklas, at pagpapabuti ng buhay sa pandaigdigang saklaw.

Pero hindi garantisado ang resultang iyon. Walang teknolohiyang pangkalahatang layunin ang kailanman naging ganap na ligtas.

Ang katatagan ay permanenteng disiplina na nangangailangan ng maraming tao at institusyon para bumuo, mamuhunan, at makipagtulungan. Iyan ang gawaing naghihintay sa atin, at isa ito sa mga hamong huhubog sa ating panahon. Umaasa kaming makakasama ka namin.