Katatagan sa Panahon ng AI

Umiiral ang OpenAI Foundation para matiyak na mapapakinabangan ang artificial general intelligence ng buong sangkatauhan.

Walang humpay kaming nagtatrabaho para makasabay sa mabilis na pagsulong ng AI mismo. Noong Abril, inanunsyo⁠ ng Foundation ang aming unang mga grant na nagkakahalaga ng $100 milyon sa Agham-buhay at Paggamot ng Mga Sakit, na may ambisyong tumulong sa pagpigil at paggamot ng mga sakit tulad ng Alzheimer’s sa pamamagitan ng paggamit ng advanced AI. Noong nakaraang linggo, inanunsyo⁠ namin ang aming programang Jobs and Economic Futures, sa pag-asang maunawaan at mahubog kung ano ang ibig sabihin ng trabaho at kasaganaan sa ekonomiya para sa mga susunod na henerasyon.

Ngayon, pinalalawak namin ang aming pananaw para sa susunod na malaking program—ang pagtitiyak na habang patuloy na lumalawak ang kakayahan ng AI, lalago rin nang kasingbilis ang kakayahan ng lipunan na gamitin at pakinabangan ito. Tinatawag namin ang gawaing ito na AI resilience: isang ecosystem approach na kinakailangan para mabawasan ang mga panganib ng AI, nang sa gayon ay mapakinabangan ng lubos ng lipunan ang mga benepisyo nito.

Nagsimula na ang aming gawain. Sa loob ng ilang maikling buwan mula nang simulan namin ang aming gawain, nagsusumikap ang Pundasyon na i-finalize ang mahigit $130,000,000 na mga grant sa mga organisasyon sa pamamagitan ng aming programang Katatagan ng AI, na ibabahagi sa publiko sa lalong madaling panahon at may marami pang susunod.^1⁠

Ang pattern ng mga transpormatibong teknolohiya

Mas malinaw na mauunawaan ang kahalagahan ng AI resilience kung titingnan ang mga naunang teknolohiyang may malaking ambag sa paghubog ng kasaysayan ng sangkatauhan.

Paminsan-minsan, may dumarating na teknolohiyang muling humuhubog sa lipunan mula sa pinakapundasyon nito. Tinatawag ng mga ekonomista ang mga ito na “mga teknolohiyang may pangkalahatang layunin.” Sunog. Ang makinang pang-imprenta. Kuryente. Ang internet. Bawat isa ay sumunod sa magkakatulad na daloy: mabilis na inobasyon, tunay na mga panganib, at mga institusyong naghahabol para makasabay. Pero ipinapakita rin ng bawat halimbawa kung ano ang kinakailangan para gawing ligtas ang powerful na teknolohiya.

Ginawang posible ng apoy ang sibilisasyong pantao. Pinanatili nito tayong mainit, niluto ang ating pagkain, at ipinagtanggol tayo mula sa mga mandaragit. Sinunog din nito ang ating mga lungsod hanggang maging abo. Sa paglipas ng panahon, nagpatatag ang mga lipunan ng kanilang katatagan: mga materyales na lumalaban sa apoy, network ng hydrant, propesyonal na departamento ng bumbero, at mga code ng pagtatayo ng gusali. Isang ecosystem, patong-patong.

Sumunod din sa kaparehong landas ang kuryente. Matapos pailawan ng Pearl Street Station ni Edison ang Manhattan noong 1882, nagdulot ang kuryente ng mga sunog, pagkakakuryente, at matinding takot sa publiko. Kung wala ang mga proteksiyong tulad ng mga insulated wire, circuit breaker, at building code, maraming manggagawa at bystander ang nakuryente sa iba’t ibang lungsod sa bansa. Pinagdebatehan ng mga lungsod kung dapat bang tuluyang itigil ang eksperimento. Sa halip, habang umuunlad ang teknolohiya, nagtatag tayo ng mga independiyenteng testing body gaya ng Underwriters Laboratories, mga pamantayan sa industriya tulad ng National Electrical Code, at pampublikong pamumuhunan na nagdala ng kuryente sa mga komunidad na naiwan ng merkado. Bawat layer ay nagpatatag sa kaligtasan at pagiging accessible ng kuryente; sa ngayon, napakaligtas na nito kaya kayang pindutin ng bata ang switch at sisindi ang ilaw.

Ganito ang hitsura ng katatagan kapag naisagawa ito nang maayos.

Ang AI ay nangangailangan ng isang ecosystem ng katatagan

Sinusundan ng AI ang parehong landas gaya ng mga nakaraang teknolohiya, pero gumagalaw sa isang walang kapantay na bilis.

Nasa maagang yugto pa rin tayo nito, pero malinaw na ang mga benepisyo: pinabababa ng AI ang mga hadlang sa pagsisimula ng negosyo, pinapalawak ang access sa edukasyon, pinapabilis ang mga siyentipikong pagtuklas, at binabago ang medisina.

Kasabay nito, mabilis ding umuusbong ang mga panganib—at tila kabaligtaran ng repleksiyon ng mga benepisyo ng AI. Ang parehong pag-usbong na lumilikha ng mga bagong industriya ay puwede ring magpabagsak sa mga umiiral na at gumulo sa mga karera. Maaari ring magdulot ng hindi kanais-nais na pag-uugali ang parehong mga sistemang makakatulong sa mga kabataan na matuto at lumikha. Puwede ring magpababa ng hadlang sa paglikha ng mga mapaminsalang pathogen ang mga tool na nagpapabilis ng biyolohikal na pananaliksik. Maaaring magbanta sa kritikal na imprastraktura at ang kakayahan ng AI na magsulat ng code, kung mapupunta sa maling kamay.

Naniniwala ang unang team ng OpenAI na pangunahing nakadepende sa paglutas ng teknikal na problema sa pag-aayon ang pagtiyak na nagdudulot ng pakinabang ang AI sa lipunan. Nananatili itong napakahalaga—at sentro ng aming gawain—pero naniniwala na kami ngayon na isa lamang ito sa mga bahagi ng puzzle. Habang lumalaganap ang AI sa iba’t ibang sektor at bansa, mangangailangan din ang lipunan ng independiyenteng pananaliksik, pampublikong imprastraktura, koordinasyon sa industriya, at ganap na bagong mga larangan ng kadalubhasaan. Sa madaling sabi, mangangailangan ito ng katatagan ng AI.

Pinili naming ituon ang aming paunang trabaho sa apat na larangan^2⁠ na nasa intersection ng malalaki, agarang panganib at direktang epekto:

1. Katatagang biyolohikal para makatulong na maiwasan ang mga engineered na pandemic sa hinaharap;

2. Katatagan sa cyber para magsikap na matiyak ang kaligtasan ng mahahalagang sistema ng ating mundo;

3. Kaligtasan ng modelo ng AI para patatagin ang kontrol ng sangkatauhan sa mga modelong ginawa natin; at

4. Ang epekto ng AI sa mga kabataan para makatulong na gawing positibong puwersa ang teknolohiya para sa mga susunod na henerasyon.

Nagsisimula pa lang ang aming gawain. Plano naming magbahagi ng higit pang impormasyon tungkol sa aming mga estratehiya at mga paunang grant sa bawat larangan, at palawakin ito sa iba pang mga larangan sa paglipas ng panahon.

Bio-resilience

AI will enable biological research to move at unprecedented speed, helping develop new cures and public health improvements that enable us to all live healthier and longer. However, these same capabilities could also be misused by malicious actors, lowering the barrier to designing harmful pathogens.

The age of AI requires a renewed focus on biosecurity. Because advanced AI systems could be misused by bad actors to help create a wide range of biological threats, we will prioritize pathogen-agnostic biosecurity solutions. This will require investments across prevention, detection, and defense. We need to make it harder for malicious actors to access the expertise, equipment, and materials to create biological threats, improve our ability to identify and track novel outbreaks early, and strengthen the technologies—such as protective equipment, indoor air cleaning systems, and medical countermeasures—needed to respond quickly and effectively.

Cyber-resilience

AI has begun to rapidly reshape the cybersecurity landscape. The work that once required specialized teams can now be assisted or automated by capable models. At the same time, rapidly-improving AI capabilities can also be used to accelerate cyberdefenders, including by identifying and patching vulnerabilities and accelerating response.

Many large companies and private actors can spend heavily on cyber to secure their own systems, including with new advances in AI. We anticipate focusing significant resources on securing other important societal actors that are less resourced and will have a much harder time deploying AI-ready cyberdefenses as quickly as needed. In parallel, we are also focused on preparing for novel security challenges that artificial general intelligence will ultimately bring.

AI model safety

AI model safety focuses on the behavior of the systems themselves—whether they are truthful, reliable, and aligned with human intent. In a world where this goes awry, models can break out and behave in unpredictable ways, deceiving us or pursuing goals beyond their design. Getting this right becomes increasingly important as AI systems grow more autonomous and approach—and eventually surpass—human-level intelligence.

AI companies are investing substantial resources in model safety. However, the importance of this challenge calls for a broader, more robust ecosystem: independent institutions to evaluate model safety, public infrastructure to verify models’ safe deployment in practice, and continued advances in alignment science that advance the field broadly.

AI’s impact on young people

Young people are often the earliest adopters of new technologies, using them to learn, create, communicate, and explore the world. AI is no exception. But as these tools become an increasing part of young people’s daily lives, it is critical that we develop a stronger evidence base to understand its impacts.

Families, schools, policymakers, and community organizations are all grappling with questions about how and when young people engage with AI—including its impact on human connection, learning, and development. Our initial focus will be on advancing independent research to help guide those decisions—to better understand where AI can support development, the risks it may introduce, and the contexts that shape those effects.

These insights should drive broad safety standards and design principles that guide how any AI product is developed, how schools choose to deploy them, and if and how families decide to incorporate these technologies into their lives.

The work ahead

There is one critical difference between AI and the technologies that came before it: speed.

Fire resilience took millennia. Electricity resilience took decades. AI resilience is evolving in a matter of years. The systems that make it safe, reliable, and broadly beneficial must be built alongside it.

If we get it right, AI can become part of the foundational infrastructure of modern life—expanding access to knowledge, accelerating discovery, and improving lives at a global scale.

But that outcome isn’t guaranteed. No general purpose technology ever made itself safe.

Resilience is a permanent discipline that requires many people and institutions to build, invest, and collaborate. That is the work ahead, and it is one of the defining challenges of our time. We hope you’ll join us.