AI 時代のレジリエンス

OpenAI Foundation は、汎用人工知能（AGI）が全人類に利益をもたらすことを確実にするために存在しています。

私たちは、AI そのものの急速な進歩に歩調を合わせるため、たゆまぬ努力を続けてきました。4月、OpenAI Foundation は生命科学と疾病治療分野における最初の1億ドルの助成を発表⁠しました。これは、高度な AI を活用してアルツハイマー病のような疾患の予防と治療を支援するという意欲的な目標を掲げたものです。先週には、将来の世代にとって仕事と経済的繁栄が何を意味するのかを理解し、形作ることを目指して、Jobs and Economic Futures プログラムを発表⁠しました。

そして本日、私たちは次の主要プログラムに関するビジョンを拡大します。それは、AI の能力の成長に合わせて、社会がそれを活用する能力も同じ速度で成長できるようにすることです。私たちはこの取り組みを「AI レジリエンス」と呼びます。これは、社会が AI の恩恵を最大化できるよう、AI のリスクを軽減するために必要なエコシステム型アプローチです。

私たちの取り組みはすでに始まっています。OpenAI Foundation は、活動開始からわずか数か月の間に、AI レジリエンスプログラムを通じて組織に提供する1億3,000万ドル超の助成金の最終調整を進めており、近日中に公表する予定です（また、今後さらに追加される予定です）。^1⁠

変革をもたらす技術のパターン

AI レジリエンスの重要性は、人類の歴史に大きな影響を与えた過去の技術を通して見ることで、よりよく理解できます。

時折、社会を根本から変える技術が登場します。経済学者はそれらを「汎用技術」と呼びます。火。印刷機。電気。インターネット。それぞれが似たような軌跡をたどり、急速な技術革新、現実のリスク、そして対応を急ぐ制度や組織が生まれました。しかし、それぞれの例はまた、強力な技術を安全にするために何が必要かも示しています。

火は人類文明の発展を可能にしました。私たちを暖め、食料を調理し、捕食者から守りました。しかし同時に、都市を焼き尽くすこともありました。やがて社会は、耐火材料、消火栓ネットワーク、専門の消防組織、建築基準など、レジリエンスを整備しました。層を重ねて構築されたエコシステムです。

電気も同じ道をたどりました。1882年にエジソンのパールストリート発電所がマンハッタンを照らした後、電気は火災、感電事故、そして社会的不安をもたらしました。絶縁電線、遮断器、電気規格といった保護措置がなかったため、作業員や通行人が感電死する事故が各地で起きていました。各都市では、電気導入の試みそのものを完全に中止すべきかどうかまで議論されました。しかし実際には、技術の進歩に伴い、Underwriters Laboratories のような独立した試験機関、米国電気工事規程のような業界標準、そして市場から取り残された地域に電力を届ける公共投資が整備されました。それぞれの保護層が電気をより安全で利用しやすいものにし、今日では子どもがスイッチを押すだけで明かりが灯るほど安全なものになっています。

これこそが、レジリエンスがうまく機能した姿です。

AI にはレジリエンスエコシステムが必要

AI も過去の技術と同じ軌跡をたどっていますが、その速度は前例がありません。

私たちはまだ初期段階にいますが、その恩恵はすでに明らかです。AI は起業の障壁を下げ、教育へのアクセスを拡大し、科学的発見を加速し、医療を変革しています。

同時に、そのリスクも同じくらいの速さで現れており、その構図は AI の恩恵と鏡写しです。新しい産業を生み出す同じ成長が、既存産業を揺るがし、個人のキャリアを破壊する可能性があります。若者の学習や創造を支援するシステムが、望ましくない行動につながる可能性もあります。生物学研究を加速するツールは、有害な病原体を作り出すための障壁を下げる可能性があります。また、AI のコーディング能力は、悪意ある者の手に渡れば重要インフラを脅かす可能性があります。

初期の OpenAI チームは、AI が社会に利益をもたらすことを確実にするためには、主として技術的アラインメント問題の解決が必要だと考えていました。もちろんそれは現在も重要であり、私たちの活動の中心であり続けていますが、今では、パズルのたった1ピースにすぎないと考えています。AI が産業や国家を越えて普及するにつれ、社会には独立した研究、公共インフラ、産業間の連携、そしてまったく新しい専門分野も必要になります。要するに、AI レジリエンスが必要なのです。

私たちはまず、近い将来の大きなリスクと即時的な影響が交差する4つの分野^2⁠に重点を置くことを決定しました。

1. 将来の人工的パンデミックの防止を支援するバイオレジリエンス

2. 世界の重要システムの安全確保に取り組むサイバーレジリエンス

3. 人類が自ら作り出したモデルに対する制御を強固にするための AI モデルの安全性

4. 技術を将来世代にとって前向きな力にするための若者への AI の影響

私たちの取り組みは始まったばかりです。各分野における戦略や初期助成についてさらに共有するとともに、時間をかけて他の分野にも拡大していく予定です。

バイオレジリエンス

AI は生物学研究を前例のない速度で進展させ、新たな治療法や公衆衛生の改善を実現し、私たち全員がより健康で長生きできる社会を実現します。しかし同時に、これらの能力は悪意ある者によって悪用され、有害な病原体を設計するための障壁を下げる可能性もあります。

AI 時代には、バイオセキュリティに改めて注力することが求められます。高度な AI システムが悪意ある者によって利用され、多様な生物学的脅威の創出を支援する可能性があるため、私たちは病原体に依存しないバイオセキュリティ対策を優先しなければなりません。そのためには、予防、検知、防御の各分野への投資が必要です。悪意ある者が生物学的脅威を生み出すための専門知識、設備、材料へアクセスすることをより困難にし、新たな感染拡大を早期に特定・追跡する能力を向上させ、保護具、屋内空気浄化システム、医療対抗措置などの技術を強化して、迅速かつ効果的に対応できるようにする必要があります。

サイバーレジリエンス

AI はすでにサイバーセキュリティの状況を急速に変え始めています。かつて専門チームを必要としていた作業は、今では高性能なモデルによって支援または自動化できるようになっています。同時に、急速に向上する AI の能力は、脆弱性の発見や修正、対応の迅速化など、防御側のサイバーセキュリティ活動も加速できます。

多くの大企業や民間主体は、新しい AI 技術も活用しながら、自らのシステムを守るためにサイバーセキュリティへ多額の投資を行うことができます。私たちは、そうした十分なリソースを持たず、必要な速度で AI 対応型サイバー防御を導入することがより困難な、その他の重要な社会的主体の保護に多大なリソースを重点的に投入する見込みです。並行して、将来的に汎用人工知能がもたらす新たなセキュリティ課題への備えにも取り組んでいます。

AI モデルの安全性

AI モデルの安全性は、システムそのものの振る舞い、すなわちそれらが真実性、信頼性、人間の意図との整合性を備えているかに焦点を当てます。これがうまく機能しない世界では、モデルが制御を逸脱して予測不能な振る舞いを示し、人間を欺いたり、設計意図を超えた目標を追求したりする可能性があります。AI システムがより自律的になり、人間レベルの知能に近づき、やがてそれを超えるにつれて、この課題を正しく解決する重要性はさらに高まります。

AI 企業はモデルの安全性に多大な資源を投資しています。しかし、この課題の重要性を考えると、より広範で強固なエコシステムが必要です。すなわち、モデル安全性を評価する独立機関、実運用における安全な導入を検証する公共インフラ、そして分野全体を前進させるアラインメント科学の継続的な進歩です。

AI が若者に与える影響

若者は新技術を最も早く採用することが多く、それを学習、創作、コミュニケーション、そして世界を探求するために利用します。AI も例外ではありません。しかし、これらのツールが若者の日常生活にますます深く入り込むにつれて、その影響を理解するためのより強固なエビデンス基盤を構築することが重要になります。

家庭、学校、政策立案者、地域団体はいずれも、若者が AI とどのように、またいつ関わるかという問題に取り組んでいます。そこには、人とのつながり、学習、発達への影響も含まれます。私たちの当面の重点は、そうした判断を支援する独立研究を推進することです。AI がどのような場面で発達を支援できるのか、どのようなリスクをもたらす可能性があるのか、そしてどのような文脈がその影響を左右するのかを、より深く理解することを目指します。

これらの知見は、あらゆる AI 製品の開発方法、学校がそれらを導入する方法、そして家庭がこれらの技術を生活に取り入れるかどうか、またどのように取り入れるかを導く、幅広い安全基準と設計原則の策定につながるべきです。

今後の道筋

AI とそれ以前の技術には、1つ重要な違いがあります。それは速度です。

火のレジリエンスには数千年、電気のレジリエンスには数十年かかりました。AI レジリエンスは数年単位で進化しています。AI を安全で信頼でき、広く有益なものにするシステムは、AI と並行して構築されなければなりません。

もし私たちがこれを正しく実現できれば、AI は現代生活の基盤インフラの一部となり、知識へのアクセスを拡大し、発見を加速し、世界規模で人々の生活を向上させることができます。

しかし、その結果は保証されているわけではありません。汎用技術が自ら安全性を確立したことはこれまで一度もありませんでした。

レジリエンスは、多くの人々や組織が構築に取り組み、投資し、協力し続けることを必要とする、継続的な営みです。それこそが私たちの前にある課題であり、私たちの時代を特徴づける課題の一つなのです。ご参加いただけることを願っております。