AI 시대의 회복탄력성

OpenAI Foundation은 범용 인공지능이 인류 전체에 이익이 되도록 하기 위해 존재합니다.

OpenAI는 AI 자체의 빠른 발전 속도에 발맞추기 위해 끊임없이 노력해 왔습니다. 지난 4월, OpenAI Foundation은 첨단 AI를 활용하여 알츠하이머와 같은 질병을 예방하고 치료하는 데 기여하기 위해 생명과학 및 질병 치료 분야에 처음으로 1억 달러의 지원금을 지원한다고 발표했습니다⁠. 지난주, OpenAI는 미래 세대에게 일과 경제적 번영이 어떤 의미인지 이해하고 그 의미를 형성해 나가고자 하는 바람으로 ‘일자리와 경제적 미래’ 프로그램을 발표했습니다⁠.

이제 OpenAI는 차기 주요 프로그램에 대한 비전을 한층 더 발전시키고 있습니다. AI의 역량이 성장하는 만큼 사회가 이를 활용할 수 있는 능력도 그에 못지않게 빠르게 성장하도록 하기 위해서입니다. 이를 AI 회복탄력성이라고 합니다. AI의 위험을 완화하고 사회가 그 혜택을 최대한 활용할 수 있도록 하는 생태계적 접근 방식입니다.

OpenAI의 활동은 이미 시작되었습니다. 이 활동을 시작한 지 불과 몇 달 만에, OpenAI Foundation은 AI 회복탄력성 프로그램을 통해 여러 조직에 제공할 1억 3천만 달러 이상의 지원금을 최종 확정하는 단계에 있습니다. 이러한 내용은 곧 공개될 예정이며 이후 추가 지원도 이어질 예정입니다.^1⁠

혁신적 기술의 패턴

AI 회복탄력성의 중요성은 인류 역사를 의미 있게 변화시킨 과거 기술들의 관점에서 바라볼 때 가장 잘 이해할 수 있습니다.

때때로, 사회 근본적으로 변화시키는 기술이 나타납니다. 경제학자들은 이를 ‘범용 기술’이라고 부릅니다. 불. 인쇄기. 전기. 인터넷. 이들은 모두 빠른 혁신, 현실적인 위험, 그리고 이를 따라잡기 위해 분주히 움직이는 제도라는 비슷한 흐름을 겪었습니다. 하지만 각 사례는 강력한 기술을 안전하게 만들기 위해 무엇이 필요한지도 보여줍니다.

불은 인류 문명의 기초를 마련했습니다. 우리를 따뜻하게 해주고, 음식을 익히며, 포식자로부터 보호해 주었습니다. 하지만 도시들을 잿더미로 만들기도 했습니다. 시간이 지나면서 내화 소재, 소화전 시스템, 전문 소방 조직, 건축 규정 등을 마련하여 회복탄력성을 키웠습니다. 한 층씩 쌓아 생태계를 이루었습니다.

전기도 같은 과정을 거쳤습니다. 1882년 에디슨의 펄 스트리트 발전소가 맨해튼에 불을 밝힌 이후 전기는 화재와 감전 사고, 그리고 대중의 불안을 불러일으켰습니다. 절연 전선, 차단기, 전기 안전 규정과 같은 보호 장치가 없던 시기에는 전국 각지의 도시에서 작업자와 일반 시민들이 감전 사고를 당했습니다. 여러 도시에서 이 실험을 전면 중단해야 하는지에 대한 논의가 이어졌습니다. 하지만, 기술이 발전함에 따라 OpenAI는 미국 안전 인증 기관(UL)와 같은 독립 시험 기관, 미국 전기 공사 규정(NEC)과 같은 산업 표준, 그리고 시장에서 소외된 지역에 전력을 공급하기 위한 공공 투자를 마련했습니다. 이러한 안전 장치와 제도들이 하나씩 더해지면서 전기를 더욱 안전하고 보편적으로 사용할 수 있게 되었습니다. 오늘날에는 어린아이도 스위치를 누르면 불을 켤 수 있을 만큼 안전합니다.

이것이 바로 회복탄력성이 잘 발휘되었을 때의 모습입니다.

AI에는 회복력 생태계가 필요합니다.

AI는 과거의 기술들과 같은 궤적을 따라가고 있지만, 전례 없는 속도로 발전하고 있습니다.

AI는 아직 초기 단계에 있지만 그 이점은 이미 분명하게 나타나고 있습니다. 창업 장벽을 낮추고, 교육 접근성을 확대하며, 과학적 발견을 가속화하고, 의료 분야를 혁신하고 있습니다.

동시에 위험도 그만큼 빠르게 부상하고 있으며, AI의 긍정적 효과마다 그에 상응하는 부정적인 측면도 존재합니다. 새로운 산업을 창출하는 성장 과정은 동시에 기존 산업을 뒤흔들고 개인의 경력에도 혼란을 초래할 수 있습니다. 젊은이들이 학습하고 창작하는 데 도움을 줄 수 있는 바로 그 시스템이 바람직하지 않은 행동을 유발할 가능성도 있습니다. 생명과학 연구를 촉진하는 기술이 한편으로는 유해한 병원체의 개발을 더 쉽게 만들 수 있습니다. 또한 AI의 코드 작성 능력이 악의적으로 사용될 경우 핵심 인프라에 위협이 될 수 있습니다.

초기 OpenAI 팀은 AI가 사회에 긍정적으로 기여하려면 주로 기술적 정렬 문제를 해결해야 한다고 믿었습니다. 이 점은 여전히 매우 중요하며 OpenAI 업무의 핵심이기도 하지만, 이제는 전체 그림을 이루는 한 부분일 뿐이라고 봅니다. AI가 여러 부문과 국가 전반으로 확산됨에 따라 사회는 또한 독립적인 연구, 공공 인프라, 산업 협력 체계, 그리고 완전히 새로운 전문 분야를 필요로 하게 될 것입니다. 즉, AI 회복탄력성이 필요합니다.

OpenAI는 중대한 단기적 위험과 즉각적인 영향이 교차하는 지점에 있는 네 가지 분야^2⁠에 초기 작업의 초점을 맞추기로 했습니다.

1. 미래의 인위적으로 조작된 팬데믹을 예방하기 위한 생물학적 회복탄력성.

2. 전 세계 핵심 시스템의 안전을 확보하기 위한 사이버 회복탄력성.

3. OpenAI가 개발하는 모델에 대한 인간의 통제력을 강화하기 위한 AI 모델 안전성.

4. 미래 세대를 위해 기술이 긍정적인 역할을 하도록 하기 위한 AI가 청소년에게 미치는 영향.

이러한 노력은 이제 막 시작되었습니다. 각 분야의 전략과 초기 지원 내용을 더 자세히 공개하고 점차 다른 분야로도 확대해 나갈 계획입니다.

Bio-resilience

AI will enable biological research to move at unprecedented speed, helping develop new cures and public health improvements that enable us to all live healthier and longer. However, these same capabilities could also be misused by malicious actors, lowering the barrier to designing harmful pathogens.

The age of AI requires a renewed focus on biosecurity. Because advanced AI systems could be misused by bad actors to help create a wide range of biological threats, we will prioritize pathogen-agnostic biosecurity solutions. This will require investments across prevention, detection, and defense. We need to make it harder for malicious actors to access the expertise, equipment, and materials to create biological threats, improve our ability to identify and track novel outbreaks early, and strengthen the technologies—such as protective equipment, indoor air cleaning systems, and medical countermeasures—needed to respond quickly and effectively.

Cyber-resilience

AI has begun to rapidly reshape the cybersecurity landscape. The work that once required specialized teams can now be assisted or automated by capable models. At the same time, rapidly-improving AI capabilities can also be used to accelerate cyberdefenders, including by identifying and patching vulnerabilities and accelerating response.

Many large companies and private actors can spend heavily on cyber to secure their own systems, including with new advances in AI. We anticipate focusing significant resources on securing other important societal actors that are less resourced and will have a much harder time deploying AI-ready cyberdefenses as quickly as needed. In parallel, we are also focused on preparing for novel security challenges that artificial general intelligence will ultimately bring.

AI model safety

AI model safety focuses on the behavior of the systems themselves—whether they are truthful, reliable, and aligned with human intent. In a world where this goes awry, models can break out and behave in unpredictable ways, deceiving us or pursuing goals beyond their design. Getting this right becomes increasingly important as AI systems grow more autonomous and approach—and eventually surpass—human-level intelligence.

AI companies are investing substantial resources in model safety. However, the importance of this challenge calls for a broader, more robust ecosystem: independent institutions to evaluate model safety, public infrastructure to verify models’ safe deployment in practice, and continued advances in alignment science that advance the field broadly.

AI’s impact on young people

Young people are often the earliest adopters of new technologies, using them to learn, create, communicate, and explore the world. AI is no exception. But as these tools become an increasing part of young people’s daily lives, it is critical that we develop a stronger evidence base to understand its impacts.

Families, schools, policymakers, and community organizations are all grappling with questions about how and when young people engage with AI—including its impact on human connection, learning, and development. Our initial focus will be on advancing independent research to help guide those decisions—to better understand where AI can support development, the risks it may introduce, and the contexts that shape those effects.

These insights should drive broad safety standards and design principles that guide how any AI product is developed, how schools choose to deploy them, and if and how families decide to incorporate these technologies into their lives.

The work ahead

There is one critical difference between AI and the technologies that came before it: speed.

Fire resilience took millennia. Electricity resilience took decades. AI resilience is evolving in a matter of years. The systems that make it safe, reliable, and broadly beneficial must be built alongside it.

If we get it right, AI can become part of the foundational infrastructure of modern life—expanding access to knowledge, accelerating discovery, and improving lives at a global scale.

But that outcome isn’t guaranteed. No general purpose technology ever made itself safe.

Resilience is a permanent discipline that requires many people and institutions to build, invest, and collaborate. That is the work ahead, and it is one of the defining challenges of our time. We hope you’ll join us.