Отпорност во ерата на вештачката интелигенција

OpenAI Foundation постои за да обезбеди општа вештачка интелигенција да биде од корист за целото човештво.

Неуморно работиме за да држиме чекор со брзиот напредок на самата вештачка интелигенција. Во април, Фондацијата ги објави⁠ нашите први грантови од 100 милиони долари во областа на биолошките науки и лекувањето болести, со амбиција да помогне во спречувањето и лекувањето болести како Алцхајмеровата болест преку искористување на напредна вештачка интелигенција.о Минатата недела ја најавивме⁠ нашата програма „Работни места и економска иднина“, со надеж дека ќе разбереме и ќе обликуваме што значат работата и економскиот просперитет за идните генерации.

Денес ја надградуваме нашата визија за следната голема програма — осигурувајќи дека, како што растат способностите на ВИ, способноста на општеството да ја искористи ќе расте исто толку брзо. Оваа работа ја нарекуваме отпорност на ВИ: екосистемски пристап потребен за ублажување на ризиците од ВИ, така што општеството ќе може максимално да ги искористи нејзините придобивки.

Нашата работа веќе започна. Во неколкуте кратки месеци откако ја започнавме нашата работа, Фондацијата работи на финализирање на повеќе од 130 милиони американски долари во грантови за организации преку нашата програма за отпорност на вештачка интелигенција, кои наскоро ќе бидат јавно објавени, а ќе следуваат и други.

Моделот на трансформативните технологии

Важноста на отпорноста на вештачката интелигенција најдобро се разбира низ призмата на технологиите од минатото што значајно ја обликувале човечката историја.

Одвреме-навреме се појавува технологија што го преобликува општеството од темел. Економистите ги нарекуваат „технологии со општа намена“. Оган. Печатарска преса. Електрична енергија. Интернет. Секој од нив следеше слична траекторија: брза иновација, реални ризици и институции што брзаа да фатат чекор. Но секој пример исто така покажува што е потребно за една моќна технологија да биде безбедна.

Огнот ја овозможи човечката цивилизација. Тој нè топлеше, ни ја готвеше храната и нè штитеше од грабливци. Исто така, ги запали нашите градови до темел. Со текот на времето, општествата изградија отпорност: огноотпорни материјали, мрежи од хидранти, професионални противпожарни служби и градежни прописи. Екосистем, слој по слој.

Електричната енергија го следеше истиот пат. Откако станицата „Перл Стрит“ на Едисон го осветли Менхетен во 1882 година, електричната енергија донесе пожари, смртни случаи од струен удар и јавна паника. Без заштитни мерки како изолирани жици, автоматски прекинувачи и прописи, работници и минувачи беа електрифицирани во градови низ целата земја. Градовите расправаа за тоа дали експериментот треба целосно да се напушти. Наместо тоа, како што напредуваше технологијата, воспоставивме независни тела за тестирање, како што е Лабораторијата Underwriters (Underwriters Laboratories), индустриски стандарди како Националниот електричен кодекс и јавни инвестиции што донесоа електрична енергија до заедниците што пазарот ги остави зад себе. Секој слој ја правеше електричната енергија побезбедна и подостапна; денес, таа е толку безбедна што дете може да вклучи прекинувач и се појавува светлина.

Вака изгледа отпорноста кога е добро спроведена.

Вештачката интелигенција бара екосистем на отпорност

Вештачката интелигенција ја следи истата траекторија како и претходните технологии, но се движи со невидена брзина.

Сè уште сме во почетната фаза на нејзиниот развој, но придобивките веќе се јасни: вештачката интелигенција ги намалува пречките за започнување на бизнис, го проширува пристапот до образование, ги забрзува научните откритија и ја трансформира медицината.

Во исто време, ризиците се појавуваат подеднакво брзо — и како огледална слика на придобивките од вештачката интелигенција. Истиот раст што создава нови индустрии може да ги наруши постојните и да ги наруши кариерите. Истите системи што можат да им помогнат на младите луѓе да учат и да создаваат, исто така би можеле да доведат до негативно однесување. Алатките што ги забрзуваат биолошките истражувања би можеле да го намалат прагот за создавање штетни патогени. Способноста на ВИ да пишува код, во погрешни раце, може да ја загрози критичната инфраструктура.

Раната екипа на OpenAI веруваше дека обезбедувањето ВИ да биде од корист за општеството зависи првенствено од решавањето на техничкиот проблем со усогласувањето. Тоа останува од клучно значење — и централно за нашата работа — но сега веруваме дека е само еден дел од сложувалката. Како што вештачката интелигенција се шири низ секторите и државите, на општеството ќе му бидат потребни и независни истражувања, јавна инфраструктура, координација во индустријата и сосема нови области на експертиза. Накратко, тоа ќе бара отпорност на ВИ.

Одлучивме нашата почетна работа да ја фокусираме на четири области^2⁠ што се наоѓаат на пресекот на големи, краткорочни ризици и непосредно влијание:

1. Био-отпорност за да се помогне во спречување на инженерски создадени пандемии во иднина.

2. Сајбер-отпорност за да работиме на обезбедување на безбедноста на критичните системи во нашиот свет

3. Безбедност на модел за ВИ за да се зацврсти контролата на човештвото врз модел што го создаваме; и

4. Влијанието на вештачката интелигенција врз младите луѓе за да помогнеме технологијата да биде позитивна сила за идните генерации.

Нашата работа штотуку почнува. Планираме да споделиме повеќе за нашите стратегии и почетните грантови во секоја област, и со текот на времето да се прошириме и во други области.

Биоотпорност

Вештачката интелигенција ќе овозможи биолошките истражувања да се одвиваат со невидена брзина, помагајќи во развојот на нови лекови и подобрувања во јавното здравје што ќе ни овозможат на сите да живееме поздраво и подолго. Меѓутоа, истите овие можности би можеле да бидат злоупотребени и од злонамерни актери, со што би се намалил прагот за дизајнирање на штетни патогени.

Ерата на вештачката интелигенција бара обновен фокус на биосигурноста. Бидејќи напредните системи за вештачка интелигенција би можеле да бидат злоупотребени од злонамерни актери за да помогнат во создавањето широк спектар на биолошки закани, ќе им дадеме приоритет на патоген-агностичките решенија за биосигурност. Ова ќе бара инвестиции во превенција, откривање и одбрана. Треба да им го отежниме пристапот на злонамерните актери до стручноста, опремата и материјалите потребни за создавање биолошки закани, да ја подобриме нашата способност за рано идентификување и следење на нови епидемиски избувнувања и да ги зајакнеме технологиите — како што се заштитната опрема, системите за прочистување на воздухот во затворени простории и медицинските контрамерки — потребни за брз и ефикасен одговор.

Сајбер-отпорност

Вештачката интелигенција почна брзо да ја преобликува сферата на сајбер-безбедноста. Работата што некогаш бараше специјализирани тимови сега може да се потпомогне или автоматизира од способни модели. Истовремено, способностите на вештачката интелигенција што брзо се подобруваат може да се користат и за забрзување на работата на сајбер-бранителите, вклучително преку идентификување и закрпување на ранливости и забрзување на реакцијата.

Многу големи компании и приватни актери можат да трошат значителни средства за сајбер-безбедност за да ги заштитат сопствените системи, вклучително и со новите достигнувања во вештачката интелигенција. Очекуваме дека ќе насочиме значителни ресурси кон заштита на други важни општествени чинители кои располагаат со помалку ресурси и на кои ќе им биде многу потешко да воведат сајбер-безбедност подготвена за вештачка интелигенција толку брзо колку што е потребно. Паралелно, исто така сме фокусирани на подготовка за новите безбедносни предизвици што општата вештачка интелигенција на крајот ќе ги донесе.

Безбедност на модел со ВИ

Безбедноста на моделите со вештачка интелигенција се фокусира на однесувањето на самите системи — дали тие се точни, доверливи и усогласени со човечката намера. Во свет во кој ова тргнува наопаку, моделите можат да излезат од контрола и да се однесуваат на непредвидливи начини, мамејќи нè или стремејќи се кон цели надвор од нивниот дизајн. Да се направи ова како што треба станува сè поважно како што системите за вештачка интелигенција стануваат сè поавтономни и се приближуваат до — а на крајот и ја надминуваат — интелигенцијата на човечко ниво.

Компаниите за вештачка интелигенција вложуваат значителни ресурси во безбедноста на моделите. Сепак, важноста на овој предизвик налага поширок, поробустен екосистем: независни институции за процена на безбедноста на моделите, јавна инфраструктура за проверка на безбедното распоредување на моделите во практика и континуиран напредок во науката за усогласување што го унапредува полето во целина.

Влијанието на вештачката интелигенција врз младите луѓе

Младите луѓе често се меѓу првите што ги прифаќаат новите технологии, користејќи ги за да учат, создаваат, комуницираат и го истражуваат светот. Вештачката интелигенција не е исклучок. Но како што овие алатки стануваат сè поголем дел од секојдневниот живот на младите, критично е да развиеме посилна база на докази за да го разбереме нивното влијание.

Семејствата, училиштата, креаторите на политики и организациите од заедницата сите се справуваат со прашања за тоа како и кога младите луѓе стапуваат во интеракција со вештачката интелигенција — вклучувајќи го и нејзиното влијание врз човечката поврзаност, учењето и развојот. Нашиот првичен фокус ќе биде на унапредување на независните истражувања што ќе помогнат во насочувањето на тие одлуки — за подобро да се разбере каде вештачката интелигенција може да го поддржи развојот, кои ризици може да ги донесе и кои контексти ги обликуваат тие ефекти.

Овие сознанија треба да ги обликуваат сеопфатните безбедносни стандарди и принципи на дизајн што насочуваат како се развива секој производ со вештачка интелигенција, како училиштата избираат да ги воведат, и дали и како семејствата одлучуваат да ги вклучат овие технологии во својот живот.

Работата што ни претстои

Постои една клучна разлика меѓу вештачката интелигенција и технологиите што ѝ претходеа: брзината.

Отпорноста на пожар се развивала со милениуми. Електроенергетската отпорност се градеше со децении. Отпорноста на вештачката интелигенција се развива во рок од неколку години. Системите што го прават безбеден, сигурен и широко корисен мора да се градат паралелно со него.

Ако го направиме правилно, вештачката интелигенција може да стане дел од основната инфраструктура на современиот живот—проширувајќи го пристапот до знаење, забрзувајќи ги откритијата и подобрувајќи ги животите на глобално ниво.

Но тој исход не е загарантиран. Ниту една технологија за општа намена никогаш самата не станала безбедна.

Отпорноста е постојана дисциплина која бара многу луѓе и институции да ја градат, да вложуваат и да соработуваат. Тоа е работата што ни претстои, и тоа е еден од клучните предизвици на нашето време. Се надеваме дека ќе ни се придружите.