AI 時代的韌性

OpenAI 基金會的使命是確保通用人工智慧造福全人類。

我們一直持續不懈地努力，想跟上 AI 本身的快速發展。今年 4 月，OpenAI 基金會宣布⁠在生命科學與疾病治療領域提供首批 1 億美元補助金，期望透過運用先進 AI 協助預防與治療阿茲海默症等疾病。我們上週宣布⁠了「就業與經濟未來」計畫，希望能了解並形塑工作與經濟繁榮對未來世代的意義。

我們正進一步擴大對下一個重大計畫的願景，確保隨著 AI 能力提升，社會駕馭 AI 的能力也能以同樣的速度成長。我們將這項工作稱為 AI 韌性：這是降低 AI 風險的生態系統方法，旨在讓社會能將效益最大化。

我們已經著手行動。在計畫啟動短短幾個月內，OpenAI 基金會已著手落實透過「AI 韌性計畫」向各組織提供總計超過 1.3 億美元的資助金；首批名單將於近期公開，後續也將持續投入更多資金。^1⁠

轉型科技模式

唯有透過過往深刻改變人類歷史的技術變革為借鏡，才能最切實地理解 AI 韌性的核心重要性。

每隔一段時間會有新科技問世，徹底重塑社會。經濟學家稱這類科技為「通用技術」。火。印刷術。電力。網際網路。每一項都循著相似的發展軌跡：快速創新、實際面臨風險，以及各機構急起直追。但每個例子也都說明，要讓強大的技術變得安全需要付出哪些努力。

火讓人類文明成為可能。火讓我們得以保暖、煮熟食物，並保護我們免受掠食者攻擊。火也會讓城市付之一炬。隨著時間推移，社會逐步建立起韌性：耐火材料、消防栓網絡、專業消防部門以及建築法規。一個生態系，層層建構。

電力也走過相同的路。1882 年，愛迪生在珍珠街發電站點亮曼哈頓後，電力也帶來了火災、觸電身亡事故與公眾恐慌。在沒有絕緣電線、斷路器和電氣規範等防護措施的情況下，全國各城市都有工人和路人觸電身亡。各城市都能討論是否應該完全放棄這項實驗。相反地，隨著科技的進步，我們成立了保險商實驗室等獨立的測試機構、制定了美國《國家電工標準》等產業標準，並透過公共投資，將電力輸送到那些被市場遺忘的社區。每一層都讓用電變得更安全、更普及；如今，電力已安全到連孩子都能一扳開關就開燈。

這就是韌性建構得宜的樣子。

AI 需要韌性生態系統

AI 正走上與以往科技相同的發展軌跡，但發展速度卻是前所未有的快。

我們仍在發展初期，但效益已經清晰可見：AI 正在降低創業門檻、擴大教育機會、加速科學發現，並改變醫療領域。

與此同時，風險也正以同樣的速度出現，與 AI 帶來的效益如同一體兩面。推動新產業誕生的同一股成長力量，也可能顛覆既有產業並衝擊職涯。能協助年輕人學習與創作的同一套系統，也可能導致不良行為。加速生物研究的工具可能會降低製造有害病原體的門檻。而 AI 撰寫程式碼的能力一旦落入不當人士之手，可能會威脅關鍵基礎設施。

早期的 OpenAI 團隊相信，確保 AI 造福社會主要取決於解決技術和期望是否一致。這點仍然至關重要，也是我們工作的核心，但我們現在認為 AI 只是整個拼圖中的其中一塊。隨著 AI 擴散至各個產業與國家/地區，社會也將需要獨立研究、公共基礎建設、產業協調，以及全新的專業領域。簡言之，AI 韌性必不可少。

我們選擇將初期的工作重點放在四大領域^2⁠，這些領域兼具「巨大的近期風險」與「立即影響」：

1. 生物韌性，用於協助預防未來由蓄意製造的疫情；

2. 網路韌性，用於確保全球關鍵系統的安全；

3. AI 模型安全，用於鞏固人類對我們所創造之模型的掌控；以及

4. AI 對年輕人的影響，協助讓科技成為造福未來世代的正向力量。

我們的工作才剛起步。我們計畫分享更多關於各領域策略與首批補助的資訊，並隨著逐步擴展到其他領域。

生物韌性

AI 將讓生物學研究以前所未有的速度推進，協助開發新療法並促進公共衛生改善，讓我們每個人都能活得更健康、更長壽。然而，這些相同的能力也可能遭到惡意行為者濫用，從而降低設計有害病原體的門檻。

AI 時代需要重新重視生物安全。由於先進 AI 系統可能遭惡意行為者濫用，用來協助製造各式各樣的生物威脅，我們將優先推動不限特定病原體的生物安全解決方案。因此我們需要在預防、偵測與防禦方面進行投資。我們要讓惡意行為者更難取得能製造生物威脅的專業知識、設備與材料，提升我們及早識別並追蹤新型疫情爆發的能力，並強化快速且有效因應所需的技術——例如防護設備、室內空氣清淨系統，以及醫療因應措施。

資安韌性

AI 已開始迅速重塑網路安全版圖。過去需要專業團隊才能完成的工作，現在可由功能強大的模型協助或自動化處理。同時，快速提升的 AI 能力也可用於加速資安防禦工作，包括識別並修補漏洞，以及加快應變速度。

許多大型企業和民間業者都能在網路安全方面投入大量資源，包括運用 AI 的最新進展來保護自己的系統。我們預期將投入大量資源，致力於保障其他重要社會行為者的安全，這些行為者資源較少，也更難及時部署具備 AI 應用能力的資安防禦。同時，我們也專注於為通用人工智慧終將帶來的新型安全挑戰做好準備。

AI 模型安全性

AI 模型安全性著重於這些系統本身的行為：是否誠實、可靠，以及與人類意圖一致。如果技術不如預期發展，模型可能會脫離掌控，並以不可預測的方式運作，甚至欺騙我們，或追求有別於原始設計的目標。隨著 AI 系統變得越來越自主，並接近 (最終超越) 人類水準的智慧，妥善處理這件事也變得越來越重要。

AI 公司正在投入大量資源於模型安全。然而，這項挑戰事關重大，需要更廣泛、更強韌的生態系統：能評估模型安全性的獨立機構、驗證模型是否能在實務中安全部署的公共基礎設施，以及能讓 AI 符合人類意圖的科學持續進展。

AI 對年輕人的影響

年輕人往往是最早採用新科技的族群，利用這些科技來學習、創作、溝通並探索世界。而 AI 也不例外。但隨著這些工具逐漸成為年輕人日常生活的一部分，我們很需要建立更強而有力的證據基礎，以了解其影響。

家庭、學校、政策制定者和社區組織都在努力處理相關問題：年輕人如何以及何時與 AI 互動，以及 AI 對人際連結、學習與發展的影響。我們初期的重點將放在推動獨立研究，以協助引導這些決策，進一步了解 AI 能在哪些方面有助於發展、可能帶來哪些風險，以及哪些情境會形塑這些影響。

這類見解應轉化為安全標準與設計原則，以引領 AI 產品的研發方向、校園引入相關技術的評估指標，以及家庭是否或如何在日常生活使用 AI 的決策依據。

後續工作

AI 和過往技術之間有個關鍵差異：速度。

火的韌性歷經數千年才形成。電力系統的韌性耗時數十年才建立起來。AI 韌性在短短數年間演進。讓 AI 變得安全、可靠且廣泛有益的系統必須同步建構。

如果我們能妥善推動，AI 就能成為現代生活基礎設施，拓展知識取得管道、加速探索與發現流程，並改善全球人們的生活。

但不保證結果能如願。畢竟從來沒有任何通用技術能保證絕對安全。

韌性是一項長遠志業，需要許多人與機構共同建構、投入資源並協作。這就是我們接下來的任務，也是我們這個時代決定性的挑戰之一。我們期待你的加入。