AI 時代のレジリエンス

OpenAI Foundation は、汎用人工知能（AGI）が全人類に利益をもたらすことを確実にするために存在しています。

私たちは、AI そのものの急速な進歩に歩調を合わせるため、たゆまぬ努力を続けてきました。4月、OpenAI Foundation は生命科学と疾病治療分野における最初の1億ドルの助成を発表⁠しました。これは、高度な AI を活用してアルツハイマー病のような疾患の予防と治療を支援するという意欲的な目標を掲げたものです。先週には、将来の世代にとって仕事と経済的繁栄が何を意味するのかを理解し、形作ることを目指して、Jobs and Economic Futures プログラムを発表⁠しました。

そして本日、私たちは次の主要プログラムに関するビジョンを拡大します。それは、AI の能力の成長に合わせて、社会がそれを活用する能力も同じ速度で成長できるようにすることです。私たちはこの取り組みを「AI レジリエンス」と呼びます。これは、社会が AI の恩恵を最大化できるよう、AI のリスクを軽減するために必要なエコシステム型アプローチです。

私たちの取り組みはすでに始まっています。OpenAI Foundation は、活動開始からわずか数か月の間に、AI レジリエンスプログラムを通じて組織に提供する1億3,000万ドル超の助成金の最終調整を進めており、近日中に公表する予定です（また、今後さらに追加される予定です）。^1⁠

変革をもたらす技術のパターン

AI レジリエンスの重要性は、人類の歴史に大きな影響を与えた過去の技術を通して見ることで、よりよく理解できます。

時折、社会を根本から変える技術が登場します。経済学者はそれらを「汎用技術」と呼びます。火。印刷機。電気。インターネット。それぞれが似たような軌跡をたどり、急速な技術革新、現実のリスク、そして対応を急ぐ制度や組織が生まれました。しかし、それぞれの例はまた、強力な技術を安全にするために何が必要かも示しています。

火は人類文明の発展を可能にしました。私たちを暖め、食料を調理し、捕食者から守りました。しかし同時に、都市を焼き尽くすこともありました。やがて社会は、耐火材料、消火栓ネットワーク、専門の消防組織、建築基準など、レジリエンスを整備しました。層を重ねて構築されたエコシステムです。

電気も同じ道をたどりました。1882年にエジソンのパールストリート発電所がマンハッタンを照らした後、電気は火災、感電事故、そして社会的不安をもたらしました。絶縁電線、遮断器、電気規格といった保護措置がなかったため、作業員や通行人が感電死する事故が各地で起きていました。各都市では、電気導入の試みそのものを完全に中止すべきかどうかまで議論されました。しかし実際には、技術の進歩に伴い、Underwriters Laboratories のような独立した試験機関、米国電気工事規程のような業界標準、そして市場から取り残された地域に電力を届ける公共投資が整備されました。それぞれの保護層が電気をより安全で利用しやすいものにし、今日では子どもがスイッチを押すだけで明かりが灯るほど安全なものになっています。

これこそが、レジリエンスがうまく機能した姿です。

AI にはレジリエンスエコシステムが必要

AI も過去の技術と同じ軌跡をたどっていますが、その速度は前例がありません。

私たちはまだ初期段階にいますが、その恩恵はすでに明らかです。AI は起業の障壁を下げ、教育へのアクセスを拡大し、科学的発見を加速し、医療を変革しています。

同時に、そのリスクも同じくらいの速さで現れており、その構図は AI の恩恵と鏡写しです。新しい産業を生み出す同じ成長が、既存産業を揺るがし、個人のキャリアを破壊する可能性があります。若者の学習や創造を支援するシステムが、望ましくない行動につながる可能性もあります。生物学研究を加速するツールは、有害な病原体を作り出すための障壁を下げる可能性があります。また、AI のコーディング能力は、悪意ある者の手に渡れば重要インフラを脅かす可能性があります。

初期の OpenAI チームは、AI が社会に利益をもたらすことを確実にするためには、主として技術的アラインメント問題の解決が必要だと考えていました。もちろんそれは現在も重要であり、私たちの活動の中心であり続けていますが、今では、パズルのたった1ピースにすぎないと考えています。AI が産業や国家を越えて普及するにつれ、社会には独立した研究、公共インフラ、産業間の連携、そしてまったく新しい専門分野も必要になります。要するに、AI レジリエンスが必要なのです。

私たちはまず、近い将来の大きなリスクと即時的な影響が交差する4つの分野^2⁠に重点を置くことを決定しました。

1. 将来の人工的パンデミックの防止を支援するバイオレジリエンス

2. 世界の重要システムの安全確保に取り組むサイバーレジリエンス

3. 人類が自ら作り出したモデルに対する制御を強固にするための AI モデルの安全性

4. 技術を将来世代にとって前向きな力にするための若者への AI の影響

私たちの取り組みは始まったばかりです。各分野における戦略や初期助成についてさらに共有するとともに、時間をかけて他の分野にも拡大していく予定です。

Bio-resilience

AI will enable biological research to move at unprecedented speed, helping develop new cures and public health improvements that enable us to all live healthier and longer. However, these same capabilities could also be misused by malicious actors, lowering the barrier to designing harmful pathogens.

The age of AI requires a renewed focus on biosecurity. Because advanced AI systems could be misused by bad actors to help create a wide range of biological threats, we will prioritize pathogen-agnostic biosecurity solutions. This will require investments across prevention, detection, and defense. We need to make it harder for malicious actors to access the expertise, equipment, and materials to create biological threats, improve our ability to identify and track novel outbreaks early, and strengthen the technologies—such as protective equipment, indoor air cleaning systems, and medical countermeasures—needed to respond quickly and effectively.

Cyber-resilience

AI has begun to rapidly reshape the cybersecurity landscape. The work that once required specialized teams can now be assisted or automated by capable models. At the same time, rapidly-improving AI capabilities can also be used to accelerate cyberdefenders, including by identifying and patching vulnerabilities and accelerating response.

Many large companies and private actors can spend heavily on cyber to secure their own systems, including with new advances in AI. We anticipate focusing significant resources on securing other important societal actors that are less resourced and will have a much harder time deploying AI-ready cyberdefenses as quickly as needed. In parallel, we are also focused on preparing for novel security challenges that artificial general intelligence will ultimately bring.

AI model safety

AI model safety focuses on the behavior of the systems themselves—whether they are truthful, reliable, and aligned with human intent. In a world where this goes awry, models can break out and behave in unpredictable ways, deceiving us or pursuing goals beyond their design. Getting this right becomes increasingly important as AI systems grow more autonomous and approach—and eventually surpass—human-level intelligence.

AI companies are investing substantial resources in model safety. However, the importance of this challenge calls for a broader, more robust ecosystem: independent institutions to evaluate model safety, public infrastructure to verify models’ safe deployment in practice, and continued advances in alignment science that advance the field broadly.

AI’s impact on young people

Young people are often the earliest adopters of new technologies, using them to learn, create, communicate, and explore the world. AI is no exception. But as these tools become an increasing part of young people’s daily lives, it is critical that we develop a stronger evidence base to understand its impacts.

Families, schools, policymakers, and community organizations are all grappling with questions about how and when young people engage with AI—including its impact on human connection, learning, and development. Our initial focus will be on advancing independent research to help guide those decisions—to better understand where AI can support development, the risks it may introduce, and the contexts that shape those effects.

These insights should drive broad safety standards and design principles that guide how any AI product is developed, how schools choose to deploy them, and if and how families decide to incorporate these technologies into their lives.

The work ahead

There is one critical difference between AI and the technologies that came before it: speed.

Fire resilience took millennia. Electricity resilience took decades. AI resilience is evolving in a matter of years. The systems that make it safe, reliable, and broadly beneficial must be built alongside it.

If we get it right, AI can become part of the foundational infrastructure of modern life—expanding access to knowledge, accelerating discovery, and improving lives at a global scale.

But that outcome isn’t guaranteed. No general purpose technology ever made itself safe.

Resilience is a permanent discipline that requires many people and institutions to build, invest, and collaborate. That is the work ahead, and it is one of the defining challenges of our time. We hope you’ll join us.