Стійкість в епоху ШІ

OpenAI Foundation існує, щоб забезпечити користь штучного загального інтелекту для всього людства.

Ми невпинно працюємо, щоб не відставати від стрімкого розвитку самого ШІ. У квітні Фундація оголосила⁠ про перші гранти на суму 100 мільйонів доларів США у сфері біологічних наук і лікування захворювань, прагнучи допомогти запобігати таким захворюванням, як хвороба Альцгеймера, і лікувати їх за допомогою передового ШІ. Минулого тижня ми оголосили⁠ про програму Jobs and Economic Futures, щоб краще зрозуміти й сформувати те, що праця та економічне процвітання означатимуть для майбутніх поколінь.

Сьогодні ми розвиваємо наше бачення наступної великої програми — щоб у міру зростання можливостей ШІ здатність суспільства використовувати його потенціал зростала так само швидко. Ми називаємо цей напрямок розвитком стійкості ШІ: це екосистемний підхід, необхідний зниження ризиків ШІ, аби суспільство могло використовувати переваги ШІ по максимуму.

Наша робота вже почалася. За кілька коротких місяців від початку нашої роботи Фундація працює над завершенням оформлення грантів на суму понад 130 мільйонів доларів США для організацій у межах нашої програми AI Resilience. Невдовзі ми публічно повідомимо про них, і попереду — більше.^1⁠

Закономірність трансформаційних технологій

Важливість стійкості до ШІ найкраще зрозуміти крізь призму минулих технологій, які суттєво вплинули на історію людства.

Час від часу з’являється технологія, яка змінює суспільство від самих основ. Економісти називають їх «технологіями загального призначення». Вогонь. Друкарський верстат. Електрика. Інтернет. Кожна з них проходила схожий шлях: швидкі інновації, реальні ризики й інституції, що намагалися встигнути за змінами. Але кожен приклад також показує, що потрібно, щоб зробити потужну технологію безпечною.

Вогонь зробив людську цивілізацію можливою. Він зігрівав нас, готував нам їжу й захищав від хижаків. Він також спалював наші міста дощенту. З часом суспільства вибудували стійкість: вогнестійкі матеріали, мережі гідрантів, професійні пожежні служби та будівельні норми. Екосистему, шар за шаром.

Електрика — та сама історія. Після того, як електростанція Едісона на Перл-стріт у 1882 році освітила Мангеттен, електрика принесла не лише користь, а й пожежі, смертельні ураження струмом та паніку. Без таких засобів захисту, як ізольовані дроти, автоматичні вимикачі та норми електробезпеки, робітники та випадкові перехожі гинули від ураження електричним струмом у містах по всій країні. Велися обговорення стосовно того, чи не слід повністю відмовитись від експерименту. Натомість у міру розвитку технологій ми створили незалежні випробувальні організації (такі як Лабораторія з техніки безпеки), галузеві стандарти (такі як Національний електротехнічний кодекс), а також забезпечили державні інвестиції, завдяки яким електрика надійшла до спільнот, які ринок залишив позаду. Кожен рівень робив електрику безпечнішою та доступнішою; сьогодні вона настільки безпечна, що навіть дитина може клацнути вимикачем — і з’являється світло.

Ось так виглядає стійкість, коли її реалізовано належним чином.

ШІ потребує екосистеми стійкості

ШІ рухається за тією ж траєкторією, що й попередні технології, але з безпрецедентною швидкістю.

Ми все ще на ранньому етапі, але переваги вже очевидні: ШІ знижує бар’єри для започаткування бізнесу, розширює доступ до освіти, прискорює наукові відкриття й змінює медицину.

У той же час ризики виявляються так само швидко — немов дзеркальне відображення переваг ШІ. Те саме зростання, яке створює нові галузі, може радикально змінювати вже існуючі та порушувати кар’єрні траєкторії. Ті ж системи, які можуть допомагати молодим людям вчитися й творити, можуть призводити до небажаної поведінки. Інструменти, що прискорюють біологічні дослідження, можуть знизити поріг створення небезпечних патогенів. Здатність ШІ писати код у руках зловмисників може загрожувати критично важливій інфраструктурі.

Перша команда OpenAI вважала, що забезпечення користі ШІ для суспільства залежить насамперед від розв’язання технічної проблеми узгодження. Це й надалі критично важливо — і посідає центральне місце в нашій роботі, — але тепер ми вважаємо, що це лише одна частина складної картини. У міру того як ШІ поширюється секторами й країнами, суспільству також знадобляться незалежні дослідження, громадська інфраструктура, координація в галузі та цілком нові сфери експертизи. Інакше кажучи, знадобиться стійкість до ШІ.

Ми вирішили зосередити нашу початкову роботу на чотирьох напрямах^2⁠, що лежать на перетині масштабних короткострокових ризиків і безпосереднього впливу:

1. біостійкість, щоб допомогти запобігати створеним людиною пандеміям майбутнього;

2. кіберстійкість, щоб працювати над забезпеченням безпеки критично важливих систем нашого світу;

3. безпека моделей ШІ, щоб зміцнити контроль людства над моделями, які ми створюємо; і

4. вплив ШІ на молодих людей, щоб допомогти зробити технології позитивною силою для майбутніх поколінь.

Наша робота лише починається. Ми плануємо докладніше розповісти про наші стратегії та перші гранти в кожному напрямі, а з часом — розширитися на інші напрями.

Біостійкість

ШІ дасть змогу біологічним дослідженням рухатися з безпрецедентною швидкістю, допомагаючи розробляти нові методи лікування й покращення громадського здоров’я, які дадуть нам усім змогу жити здоровіше й довше. Однак ці самі можливості можуть також використовувати зловмисники, знижуючи бар’єр для створення шкідливих патогенів.

Епоха ШІ потребує оновленої уваги до біобезпеки. Оскільки передові системи ШІ можуть бути використані зловмисниками для створення широкого спектра біологічних загроз, ми надаватимемо пріоритет рішенням із біобезпеки, не прив’язаним до конкретних патогенів. Це потребуватиме інвестицій у профілактику, виявлення й захист. Нам потрібно ускладнити зловмисникам доступ до експертизи, обладнання й матеріалів для створення біологічних загроз, покращити нашу здатність рано виявляти й відстежувати нові спалахи, а також посилити технології, потрібні для швидкого й ефективного реагування, — зокрема засоби захисту, системи очищення повітря в приміщеннях і медичні контрзаходи.

Кіберстійкість

ШІ почав стрімко змінювати ландшафт кібербезпеки. Роботу, для якої раніше були потрібні спеціалізовані команди, тепер можна виконувати за допомогою просунутих моделей або автоматизувати. Водночас можливості ШІ, що швидко вдосконалюються, також можуть використовуватися для підвищення ефективності фахівців з кіберзахисту, у тому числі за рахунок виявлення та усунення вразливостей та прискорення реагування.

Багато великих компаній та приватних суб’єктів можуть вкладати значні кошти в кібербезпеку, щоб захищати власні системи, у тому числі з використанням нових досягнень у галузі ШІ. Ми плануємо зосередити значні ресурси на забезпеченні безпеки інших важливих громадських суб’єктів, які мають менші ресурси та яким буде набагато складніше розгорнути засоби кіберзахисту, готові до ШІ, так швидко, як це необхідно. Паралельно ми також зосереджені на підготовці до нових викликів у сфері безпеки, які зрештою принесе загальний штучний інтелект.

Безпека моделей ШІ

Безпека моделей ШІ зосереджується на поведінці самих систем — на тому, чи є вони правдивими, надійними й узгодженими з людськими намірами. У світі, де це виходить з-під контролю, моделі можуть вирватися за межі обмежень і поводитися непередбачувано, вводячи нас в оману або переслідуючи цілі поза межами свого задуму. Забезпечити правильний підхід стає дедалі важливіше, оскільки системи ШІ стають автономнішими й наближаються до рівня людського інтелекту, а згодом і перевершують його.

Компанії у сфері ШІ інвестують значні ресурси в безпеку моделей. Однак важливість цього виклику потребує ширшої й надійнішої екосистеми: незалежних інституцій для оцінювання безпеки моделей, громадської інфраструктури для перевірки безпечного розгортання моделей на практиці та подальшого прогресу в науці узгодження, що розвиватиме всю сферу.

Вплив ШІ на молодих людей

Молоді люди часто одними з перших починають користуватися новими технологіями, застосовуючи їх для навчання, творчості, спілкування й пізнання світу. ШІ не є винятком. Але оскільки ці інструменти стають дедалі більшою частиною повсякденного життя молодих людей, критично важливо сформувати сильнішу доказову базу, щоб розуміти їхній вплив.

Сім’ї, школи, політики й громадські організації — усі намагаються знайти відповіді на питання про те, як і коли молоді люди взаємодіють із ШІ, зокрема про його вплив на людські зв’язки, навчання й розвиток. Спершу ми зосередимося на підтримці незалежних досліджень, які допоможуть скеровувати ці рішення, — щоб краще зрозуміти, де ШІ може підтримувати розвиток, які ризики він може створювати та які контексти формують його вплив.

Ці висновки мають лягти в основу широких стандартів безпеки й принципів дизайну, які визначатимуть, як розробляється будь-який продукт ШІ, як школи вирішують його впроваджувати та чи й у який спосіб сім’ї вирішують інтегрувати ці технології у своє життя.

Майбутня робота

Є одна критично важлива відмінність між ШІ й технологіями, що були до нього: швидкість.

Щоб виробити стійкість до вогню, знадобилися тисячоліття. Щоб виробити стійкість до електрики, знадобилися десятиліття. Стійкість до ШІ розвивається за лічені роки. Системи, які роблять його безпечним, надійним і загальнокорисним, потрібно будувати паралельно з ним.

Якщо ми зробимо все правильно, ШІ може стати частиною базової інфраструктури сучасного життя — розширюючи доступ до знань, прискорюючи відкриття й покращуючи життя в усьому світі.

Але такий результат не гарантований. Жодна технологія загального призначення ніколи не робила себе безпечною сама.

Стійкість — постійна дисципліна, яка потребує участі, інвестицій та спільної роботи великої кількості людей та організацій. Ось яке завдання стоїть перед нами. І це, певно, одна з найважливіших місій нашого часу. Сподіваємося, ви приєднаєтеся до нас.