AI 시대의 회복탄력성

OpenAI Foundation은 범용 인공지능이 인류 전체에 이익이 되도록 하기 위해 존재합니다.

OpenAI는 AI 자체의 빠른 발전 속도에 발맞추기 위해 끊임없이 노력해 왔습니다. 지난 4월, OpenAI Foundation은 첨단 AI를 활용하여 알츠하이머와 같은 질병을 예방하고 치료하는 데 기여하기 위해 생명과학 및 질병 치료 분야에 처음으로 1억 달러의 지원금을 지원한다고 발표했습니다⁠. 지난주, OpenAI는 미래 세대에게 일과 경제적 번영이 어떤 의미인지 이해하고 그 의미를 형성해 나가고자 하는 바람으로 ‘일자리와 경제적 미래’ 프로그램을 발표했습니다⁠.

이제 OpenAI는 차기 주요 프로그램에 대한 비전을 한층 더 발전시키고 있습니다. AI의 역량이 성장하는 만큼 사회가 이를 활용할 수 있는 능력도 그에 못지않게 빠르게 성장하도록 하기 위해서입니다. 이를 AI 회복탄력성이라고 합니다. AI의 위험을 완화하고 사회가 그 혜택을 최대한 활용할 수 있도록 하는 생태계적 접근 방식입니다.

OpenAI의 활동은 이미 시작되었습니다. 이 활동을 시작한 지 불과 몇 달 만에, OpenAI Foundation은 AI 회복탄력성 프로그램을 통해 여러 조직에 제공할 1억 3천만 달러 이상의 지원금을 최종 확정하는 단계에 있습니다. 이러한 내용은 곧 공개될 예정이며 이후 추가 지원도 이어질 예정입니다.^1⁠

혁신적 기술의 패턴

AI 회복탄력성의 중요성은 인류 역사를 의미 있게 변화시킨 과거 기술들의 관점에서 바라볼 때 가장 잘 이해할 수 있습니다.

때때로, 사회 근본적으로 변화시키는 기술이 나타납니다. 경제학자들은 이를 ‘범용 기술’이라고 부릅니다. 불. 인쇄기. 전기. 인터넷. 이들은 모두 빠른 혁신, 현실적인 위험, 그리고 이를 따라잡기 위해 분주히 움직이는 제도라는 비슷한 흐름을 겪었습니다. 하지만 각 사례는 강력한 기술을 안전하게 만들기 위해 무엇이 필요한지도 보여줍니다.

불은 인류 문명의 기초를 마련했습니다. 우리를 따뜻하게 해주고, 음식을 익히며, 포식자로부터 보호해 주었습니다. 하지만 도시들을 잿더미로 만들기도 했습니다. 시간이 지나면서 내화 소재, 소화전 시스템, 전문 소방 조직, 건축 규정 등을 마련하여 회복탄력성을 키웠습니다. 한 층씩 쌓아 생태계를 이루었습니다.

전기도 같은 과정을 거쳤습니다. 1882년 에디슨의 펄 스트리트 발전소가 맨해튼에 불을 밝힌 이후 전기는 화재와 감전 사고, 그리고 대중의 불안을 불러일으켰습니다. 절연 전선, 차단기, 전기 안전 규정과 같은 보호 장치가 없던 시기에는 전국 각지의 도시에서 작업자와 일반 시민들이 감전 사고를 당했습니다. 여러 도시에서 이 실험을 전면 중단해야 하는지에 대한 논의가 이어졌습니다. 하지만, 기술이 발전함에 따라 OpenAI는 미국 안전 인증 기관(UL)와 같은 독립 시험 기관, 미국 전기 공사 규정(NEC)과 같은 산업 표준, 그리고 시장에서 소외된 지역에 전력을 공급하기 위한 공공 투자를 마련했습니다. 이러한 안전 장치와 제도들이 하나씩 더해지면서 전기를 더욱 안전하고 보편적으로 사용할 수 있게 되었습니다. 오늘날에는 어린아이도 스위치를 누르면 불을 켤 수 있을 만큼 안전합니다.

이것이 바로 회복탄력성이 잘 발휘되었을 때의 모습입니다.

AI에는 회복력 생태계가 필요합니다.

AI는 과거의 기술들과 같은 궤적을 따라가고 있지만, 전례 없는 속도로 발전하고 있습니다.

AI는 아직 초기 단계에 있지만 그 이점은 이미 분명하게 나타나고 있습니다. 창업 장벽을 낮추고, 교육 접근성을 확대하며, 과학적 발견을 가속화하고, 의료 분야를 혁신하고 있습니다.

동시에 위험도 그만큼 빠르게 부상하고 있으며, AI의 긍정적 효과마다 그에 상응하는 부정적인 측면도 존재합니다. 새로운 산업을 창출하는 성장 과정은 동시에 기존 산업을 뒤흔들고 개인의 경력에도 혼란을 초래할 수 있습니다. 젊은이들이 학습하고 창작하는 데 도움을 줄 수 있는 바로 그 시스템이 바람직하지 않은 행동을 유발할 가능성도 있습니다. 생명과학 연구를 촉진하는 기술이 한편으로는 유해한 병원체의 개발을 더 쉽게 만들 수 있습니다. 또한 AI의 코드 작성 능력이 악의적으로 사용될 경우 핵심 인프라에 위협이 될 수 있습니다.

초기 OpenAI 팀은 AI가 사회에 긍정적으로 기여하려면 주로 기술적 정렬 문제를 해결해야 한다고 믿었습니다. 이 점은 여전히 매우 중요하며 OpenAI 업무의 핵심이기도 하지만, 이제는 전체 그림을 이루는 한 부분일 뿐이라고 봅니다. AI가 여러 부문과 국가 전반으로 확산됨에 따라 사회는 또한 독립적인 연구, 공공 인프라, 산업 협력 체계, 그리고 완전히 새로운 전문 분야를 필요로 하게 될 것입니다. 즉, AI 회복탄력성이 필요합니다.

OpenAI는 중대한 단기적 위험과 즉각적인 영향이 교차하는 지점에 있는 네 가지 분야^2⁠에 초기 작업의 초점을 맞추기로 했습니다.

1. 미래의 인위적으로 조작된 팬데믹을 예방하기 위한 생물학적 회복탄력성.

2. 전 세계 핵심 시스템의 안전을 확보하기 위한 사이버 회복탄력성.

3. OpenAI가 개발하는 모델에 대한 인간의 통제력을 강화하기 위한 AI 모델 안전성.

4. 미래 세대를 위해 기술이 긍정적인 역할을 하도록 하기 위한 AI가 청소년에게 미치는 영향.

이러한 노력은 이제 막 시작되었습니다. 각 분야의 전략과 초기 지원 내용을 더 자세히 공개하고 점차 다른 분야로도 확대해 나갈 계획입니다.

생물학적 회복탄력성

AI는 생물학 연구가 전례 없는 속도로 진행될 수 있도록 하여 전 세계인의 건강과 수명을 향상시킬 새로운 치료법과 공중보건 개선에 기여할 것입니다. 그러나 이러한 AI의 역량은 악의적인 행위자에 의해 악용되어 유해한 병원체를 설계하는 데 필요한 진입 장벽을 낮출 수도 있습니다.

AI 시대에는 생물보안에 대한 새로운 관심과 집중이 필요합니다. 첨단 AI 시스템이 악의적 행위자에 의해 광범위한 생물학적 위협을 만드는 데 악용될 수 있기 때문에 OpenAI는 병원체에 구애받지 않는 생물보안 솔루션을 우선적으로 추진할 것입니다. 이를 위해서는 예방, 탐지, 방어 전반에 걸친 투자가 필요합니다. 악의적 행위자들이 생물학적 위협을 만들어 내는 데 필요한 전문 지식, 장비, 물질에 접근하기 어렵게 만들고, 새로운 감염병 발생을 조기에 식별하고 추적하는 능력을 향상시키며, 보호 장비, 실내 공기 정화 시스템, 의료 대응 수단과 같은 기술을 강화하여 신속하고 효과적으로 대응할 수 있도록 해야 합니다.

사이버 회복탄력성

AI는 사이버 보안 환경을 빠르게 재편하기 시작했습니다. 한때 전문 인력이 필요했던 작업은 이제 성능이 뛰어난 모델의 지원을 받거나 자동화될 수 있습니다. 이와 동시에, 빠르게 향상되는 AI 기술은 취약점을 식별하고, 패치하며, 대응 속도를 높이는 등 사이버 방어자들의 역량을 강화하는 데에도 활용될 수 있습니다.

많은 대기업과 민간 주체는 AI의 새로운 발전을 활용하고 자체 시스템을 보호하기 위해 사이버 보안에 막대한 투자를 할 수 있습니다. OpenAI는 상대적으로 자원이 부족하여 필요한 만큼 신속하게 AI 기반 사이버 방어 체계를 구축하는 데 훨씬 더 큰 어려움을 겪을 중요한 사회 주체들을 보호하는 데 상당한 자원을 자원을 투입할 계획입니다. 아울러 범용 인공지능이 궁극적으로 가져올 새로운 보안 과제에 대비하는 데에도 주력하고 있습니다.

AI 모델 안전성

AI 모델 안전성은 시스템 자체의 동작, 즉 시스템이 사실을 정확히 전달하고, 신뢰할 수 있으며, 인간의 의도와 부합하는지에 중점을 둡니다. 이것이 잘못될 경우 모델은 통제를 벗어나 예측할 수 없는 방식으로 행동하며, 인간을 속이거나, 설계 의도를 벗어난 목표를 추구할 수 있습니다. AI 시스템이 점점 더 자율적으로 발전하고 인간 수준의 지능에 근접하며 결국 이를 넘어설수록, 이 문제를 올바르게 해결하는 것은 더욱 중요해집니다.

AI 기업들은 모델 안전성에 상당한 자원을 투자하고 있습니다. 하지만 이 과제의 중요성을 고려하면 더 광범위하고 견고한 생태계가 필요합니다. 여기에는 모델 안전성을 평가하는 독립 기관, 실제 환경에서 안전한 배포를 검증하는 공공 인프라, 그리고 분야 전반의 발전을 촉진하는 정렬 연구의 지속적인 발전이 포함됩니다.

AI가 청소년에게 미치는 영향

젊은 세대는 새로운 기술을 가장 먼저 받아들이는 경우가 많으며 이를 활용해 배우고, 창작하고, 소통하며, 세상을 탐구합니다. AI 역시 예외는 아닙니다. 하지만 이러한 도구들이 젊은 사람들의 일상에서 차지하는 비중이 커짐에 따라 그 영향을 이해하기 위해 더 탄탄한 근거 기반을 구축하는 것이 매우 중요합니다.

가족, 학교, 정책 입안자, 지역사회 단체들은 젊은 세대가 언제, 어떻게 AI와 상호작용하는지와 AI가 인간관계, 학습, 발달에 미치는 영향을 둘러싼 문제를 고민하고 있습니다. OpenAI는 이러한 결정들을 지원하기 위해 독립적인 연구를 발전시키는 데 초기 초점을 둘 것입니다. 이를 통해 AI가 어디에서 발전을 지원할 수 있는지, 어떤 위험을 초래할 수 있는지, 그리고 그러한 영향이 어떤 환경적 맥락에서 형성되는지를 더 깊이 이해하고자 합니다.

이러한 인사이트는 모든 AI 제품이 개발되는 방식, 학교가 이를 도입하는 방식, 그리고 가정에서 이러한 기술을 삶에 받아들일지 여부와 그 방식을 안내하는 광범위한 안전 기준과 설계 원칙의 기반이 되어야 합니다.

앞으로의 과제

AI와 이전 기술들 사이에는 한 가지 결정적인 차이가 있습니다. 바로 속도입니다.

불 회복탄력성과 전기 회복탄력성은 각각 수천 년과 수십 년에 걸쳐 형성되었습니다. AI 회복탄력성은 불과 몇 년 사이에 진화하고 있습니다. AI를 안전하고 신뢰할 수 있으며 폭넓은 이익을 제공하는 기술로 만들기 위한 시스템도 함께 구축되어야 합니다.

이를 올바르게 구현한다면, AI는 현대 사회의 기반 인프라가 되어 지식에 대한 접근성을 확대하고, 발견을 가속화하며, 전 세계적으로 삶의 질을 개선할 수 있습니다.

하지만 그 결과는 보장되어 있지 않습니다. 그 어떤 범용 기술도 자체적으로 안전성이 보장된 적은 없습니다.

회복탄력성은 많은 사람과 기관이 구축하고, 투자하며, 협력해야 하는 지속적인 분야입니다. 그것이 앞으로의 과제이며, 우리 세대에 주어진 가장 중요한 일입니다. 여러분도 함께하기를 바랍니다.