Устойчивость в эпоху ИИ

Фонд OpenAI Foundation существует для того, чтобы общий искусственный интеллект приносил пользу всему человечеству.

Мы неустанно работаем, чтобы не отставать от стремительного развития самого ИИ. В апреле фонд объявил⁠ о наших первых грантах на сумму 100 млн долл. США в области наук о жизни и лечении заболеваний, ставя перед собой цель помочь предотвращать и лечить такие заболевания, как болезнь Альцгеймера, с помощью передового ИИ. На прошлой неделе мы объявили⁠ о запуске нашей программы Jobs and Economic Futures, стремясь понять и сформировать значение работы и экономического процветания для будущих поколений.

Сегодня мы развиваем наше видение следующей крупной программы — чтобы по мере роста возможностей ИИ способность общества использовать его потенциал росла столь же быстро. Мы называем это направление развитием устойчивости ИИ: это экосистемный подход, необходимый для снижения рисков ИИ, чтобы общество могло использовать преимущества ИИ по максимуму.

Работа уже ведется. За несколько коротких месяцев с начала нашей работы фонд работает над окончательным оформлением грантов на сумму более 130 млн долл. США для организаций в рамках нашей программы AI Resilience; информация о них вскоре будет опубликована, и в дальнейшем последуют новые гранты.^1⁠

Шаблон трансформационных технологий

Важность устойчивости ИИ лучше всего осмысливать через призму прошлых технологий, которые существенным образом повлияли на ход истории человечества.

Время от времени появляется технология, которая коренным образом меняет общество. Экономисты называют их «технологиями широкого применения». Огонь. Печатный станок. Электричество. Интернет. Во всех случаях наблюдалась схожая траектория: стремительные инновации, реальные риски и институты, спешащие наверстать отставание. Но каждый пример также показывает, что нужно, чтобы сделать мощную технологию безопасной.

Огонь сделал возможным появление человеческой цивилизации. Он согревал нас, готовил нашу пищу и защищал от хищников. Но мог и сжигать города дотла. Со временем человечество повышало устойчивость к огню: создавало огнестойкие материалы, сети пожарных гидрантов, профессиональные пожарные службы, писало строительные нормы... Словом, слой за слоем строило экосистему.

Электричество — та же история. После того, как электростанция Эдисона на Перл-стрит в 1882 году осветила Манхэттен, электричество принесло не только пользу, но и пожары, смертельные поражения током и панику. Без таких средств защиты как изолированные провода, автоматические выключатели и нормы электробезопасности, рабочие и случайные прохожие погибали от поражения электрическим током в городах по всей стране. В городах обсуждали, не следует ли полностью отказаться от эксперимента. Вместо этого по мере развития технологий мы создали независимые испытательные организации (такие как Лаборатория по технике безопасности), отраслевые стандарты (такие как Национальный электротехнический кодекс), а также обеспечили государственные инвестиции, благодаря которым электричество пришло в сообщества, которые рынок оставил позади. Каждый уровень делал электричество безопаснее и доступнее; сегодня оно настолько безопасно, что ребёнок может щёлкнуть выключателем — и появляется свет.

Вот как выглядит устойчивость, когда она проявляется по-настоящему.

ИИ требует экосистемы устойчивости

ИИ следует той же траектории, что и предыдущие технологии, но движется с беспрецедентной скоростью.

Мы всё ещё находимся на раннем этапе, но преимущества уже очевидны: ИИ снижает барьеры для запуска бизнеса, расширяет доступ к образованию, ускоряет научные открытия и преобразует медицину.

В то же время риски проявляются столь же быстро — словно зеркальное отражение преимуществ ИИ. Тот же рост, который создает новые отрасли, может радикально менять уже существующие и нарушать карьерные траектории. Те же системы, которые могут помогать молодым людям учиться и творить, также могут приводить к нежелательному поведению. Инструменты, ускоряющие биологические исследования, могут снизить порог для создания опасных патогенов. Способность ИИ писать код в руках злоумышленников может угрожать критически важной инфраструктуре.

Команда OpenAI еще на раннем этапе считала, что обеспечение того, чтобы ИИ приносил пользу обществу, зависит прежде всего от решения технической проблемы согласования. Это по-прежнему критически важно — и занимает центральное место в нашей работе —, но теперь мы считаем, что это лишь часть общей картины. По мере того как ИИ распространяется по секторам и странам, обществу также потребуются независимые исследования, общественная инфраструктура, координация в отрасли и совершенно новые области экспертных знаний. Короче говоря, для этого потребуется устойчивость ИИ.

Мы решили сосредоточить наши первоначальные усилия на четырёх областях^2⁠, которые находятся на стыке значительных рисков ближайшей перспективы и возможности оказать немедленное воздействие:

1. биоустойчивость, помогающая предотвращать искусственное создание пандемий будущего;

2. киберустойчивость для обеспечения безопасности критически важных систем нашего мира;

3. безопасность моделей ИИ, чтобы укрепить контроль человечества над моделями, которые мы создаём; и

4. влияние ИИ на молодых людей, чтобы помочь сделать технологии положительной силой для будущих поколений.

Наша работа только начинается. Мы планируем подробнее рассказать о наших стратегиях и первых грантах в каждом из этих направлений, а со временем расширить работу на другие направления.

Биоустойчивость

ИИ позволит биологическим исследованиям двигаться с беспрецедентной скоростью, помогая разрабатывать новые методы лечения и улучшения в области общественного здравоохранения, которые помогут всем нам жить дольше и с лучшим здоровьем. Однако эти же возможности также могут быть использованы злоумышленниками не по назначению, снижая порог для разработки опасных патогенов.

Эпоха ИИ требует нового внимания к биобезопасности. Поскольку передовые системы ИИ могут быть использованы злоумышленниками для содействия созданию широкого спектра биологических угроз, мы будем уделять приоритетное внимание решениям в области биобезопасности, не привязанным к конкретным патогенам. Для этого потребуются инвестиции в предотвращение, обнаружение и защиту. Нам необходимо затруднить злоумышленникам доступ к экспертным знаниям, оборудованию и материалам, необходимым для создания биологических угроз, улучшить нашу способность выявлять и отслеживать новые вспышки заболеваний на ранних этапах, а также укрепить технологии — такие как защитное оборудование, системы очистки воздуха в помещениях и медицинские контрмеры, — необходимые для быстрого и эффективного реагирования.

Киберустойчивость

ИИ начал стремительно менять ландшафт кибербезопасности. Работу, для которой раньше требовались специализированные команды, теперь можно выполнять при помощи продвинутых моделей или автоматизировать. В то же время быстро совершенствующиеся возможности ИИ также могут использоваться для повышения эффективности специалистов по киберзащите, в том числе за счет выявления и устранения уязвимостей и ускорения реагирования.

Многие крупные компании и частные субъекты могут вкладывать значительные средства в кибербезопасность, чтобы защищать собственные системы, в том числе с использованием новых достижений в области ИИ. Мы предполагаем сосредоточить значительные ресурсы на обеспечении безопасности других важных общественных субъектов, которые располагают меньшими ресурсами и которым будет гораздо сложнее развернуть киберзащиту, готовую к эпохе ИИ, так быстро, как это необходимо. Параллельно мы также сосредоточены на подготовке к новым вызовам в области безопасности, которые в конечном итоге принесет общий искусственный интеллект.

Безопасность моделей ИИ

Безопасность моделей ИИ сосредоточена на поведении самих систем — на том, являются ли они правдивыми, надежными и соответствуют ли намерениям человека. В мире, где всё идёт не так, модели могут выйти из-под контроля и вести себя непредсказуемым образом, обманывая нас или преследуя цели, выходящие за рамки их замысла. Правильное решение этой задачи становится всё более важным по мере того, как системы ИИ становятся более автономными и приближаются к уровню человеческого интеллекта — а в конечном итоге и превосходят его.

Компании в сфере ИИ вкладывают значительные ресурсы в безопасность моделей. Однако значимость этой задачи требует более широкой и устойчивой экосистемы: независимых институтов для оценки безопасности моделей, общественной инфраструктуры для проверки безопасного развертывания моделей на практике, а также дальнейшего прогресса в науке о согласовании, который будет способствовать развитию всей области.

Влияние ИИ на молодых людей

Молодые люди часто одними из первых осваивают новые технологии, используя их для обучения, творчества, общения и изучения мира. ИИ — не исключение. Но по мере того как эти инструменты становятся всё более значимой частью повседневной жизни молодёжи, крайне важно сформировать более прочную доказательную базу, чтобы понять их влияние.

Семьи, школы, лица, принимающие политические решения, и общественные организации — все они пытаются разобраться в вопросах о том, как и когда молодые люди взаимодействуют с ИИ, включая его влияние на человеческое общение, обучение и развитие. Сначала мы сосредоточимся на развитии независимых исследований, которые помогут направлять такие решения, — чтобы лучше понять, где ИИ может поддерживать развитие, какие риски он может создавать и какие контексты формируют его воздействие.

Эти выводы должны лечь в основу широких стандартов безопасности и принципов проектирования, которые определяют, как разрабатывается любой продукт на основе ИИ, как школы решают внедрять такие продукты и будут ли семьи и каким образом решат включать эти технологии в свою жизнь.

Долгий путь впереди

Между ИИ и предшествовавшими ему технологиями есть одно принципиальное отличие: скорость.

Устойчивость к огню формировалась тысячелетиями. На обеспечение устойчивости электроснабжения ушли десятилетия. Устойчивость ИИ развивается за считанные годы. Системы, которые сделают эту технологию безопасной, надежной и приносящей широкую пользу, должны создаваться параллельно с ней.

Если мы всё сделаем правильно, ИИ может стать частью базовой инфраструктуры современной жизни — расширяя доступ к знаниям, ускоряя открытия и улучшая жизнь людей в глобальном масштабе.

Но такой исход не гарантирован. Ни одна технология широкого применения никогда не становилась безопасной сама по себе.

Устойчивость — постоянная дисциплина, которая требует участия, инвестиций и сотрудничества большого числа людей и организаций. Вот какая работа нам предстоит. И это, пожалуй, одна из самых важных миссий нашего времени. Мы надеемся, что вы к нам присоединитесь.