Устойчивост в епохата на изкуствения интелект

Фондацията OpenAI съществува, за да гарантира, че изкуствения общ интелект ще бъде от полза за цялото човечество.

Работим неуморно, за да сме в крак с бързия напредък в сферата на изкуствения интелект. През април фондацията обяви⁠ първите ни безвъзмездни средства на стойност 100 милиона щатски долара в областта на науките за живота и лечението на заболявания, с амбицията да помогне за предотвратяването и лечението на заболявания като болестта на Алцхаймер чрез използване на усъвършенстван ИИ. Миналата седмица обявихме⁠ нашата програма „Работни места и икономически перспективи“ с надеждата да разберем и оформим какво означават трудът и икономическият просперитет за бъдещите поколения.

Днес разгръщаме допълнително визията си за следващата мащабна програма, като гарантираме, че с нарастването на възможностите на ИИ способността на обществото да го оползотворява ще нараства също толкова бързо. Наричаме тази работа устойчивост спрямо ИИ: екосистемният подход, необходим за смекчаване на рисковете от ИИ, така че обществото да може да се възползва максимално от предимствата му.

Работата ни вече започна. През няколкото кратки месеца от началото на нашата работа Фондацията работи за финализиране на над 130 000 000 щатски долара в безвъзмездни средства за организации чрез нашата програма „Устойчивост спрямо ИИ“, които скоро ще бъдат публично обявени, като предстоят още.^1⁠

Моделът на преобразяващите технологии

Значението на устойчивостта спрямо ИИ се разбира най-добре през призмата на технологии от миналото, които съществено са оформили човешката история.

От време на време се появяват технологии, които преобразяват обществото из основи. Икономистите ги наричат „технологии с общо предназначение“. Огънят. Печатната преса. Електричеството. Интернетът. При всяка от тях се наблюдава сходна траектория: бързи иновации, реални рискове и институции, които се надпреварват да наваксат. Но всеки пример показва и какво е необходимо, за да бъде една мощна технология безопасна.

Огънят направи възможна човешката цивилизация. Той ни топлеше, готвеше храната ни и ни предпазваше от хищници. Той също така изгаряше градовете ни до основи. С течение на времето обществата изградиха устойчивост: огнеустойчиви материали, мрежи от пожарогасители, професионални противопожарни служби и строителни норми. Екосистема от много слоеве.

Електричеството измина същия път. След като през 1882 г. електроцентралата „Пърл Стрийт“ на Едисън осветява Манхатън, електричеството причинява пожари, смъртни случаи от токов удар и обществена паника. Без защити като изолирани проводници, прекъсвачи и нормативни изисквания, работници и пешеходци са убити от токов удар в градове из цялата страна. Градовете обсъждат дали експериментът трябва да бъде изцяло прекратен. Вместо това, с напредването на технологията, създадохме независими органи за изпитване като Underwriters Laboratories, отраслови стандарти като Националния електротехнически кодекс и публични инвестиции, които снабдиха с електроенергия общности, изостанали от пазара. Всеки слой направи електричеството по-безопасно и по-достъпно; днес то е толкова безопасно, че едно дете може да натисне ключа и лампата да светне.

Ето как изглежда устойчивостта, когато е изградена по правилния начин.

ИИ изисква екосистема за устойчивост

Изкуственият интелект следва същата траектория като предходните технологии, но се развива с безпрецедентна скорост.

Все още сме в ранните етапи на развитието му, но ползите вече са очевидни: ИИ намалява бариерите пред стартирането на бизнес, разширява достъпа до образование, ускорява научните открития и преобразява медицината.

В същото време рисковете се появяват също толкова бързо – и като огледален образ на ползите от ИИ. Същият растеж, който създава нови индустрии, може да преобърне съществуващите и да доведе до сътресения в кариерите. Същите системи, които могат да помогнат на младите хора да учат и да творят, биха могли също така да доведат до нежелано поведение. Инструментите, които ускоряват биологичните изследвания, биха могли да намалят бариерата пред създаването на опасни патогени. А способността на ИИ да пише код, в неподходящи ръце, би могла да застраши критичната инфраструктура.

Първият екип на OpenAI смяташе, че осигуряването на ползите от изкуствения интелект за обществото зависи основно от решаването на техническия проблем с техническото съгласуване. Това остава от критично значение — и в основата на нашата работа — но вече смятаме, че е само една част от пъзела. С навлизането на ИИ в различни сектори и държави обществото ще се нуждае също от независими изследвания, публична инфраструктура, координация между индустриите и изцяло нови области на експертиза. Накратко, това ще изисква устойчивост спрямо ИИ.

Избрахме да съсредоточим първоначалната си работа върху четири области^2⁠, които се намират в пресечната точка между големи, краткосрочни рискове и непосредствено въздействие:

1. Биоустойчивост, за предотвратяване на инженерно създадени пандемии в бъдеще;

2. Киберустойчивост за осигуряване на безопасността на критичните системи в света;

3. Безопасност на ИИ моделите, за да затвърдим контрола на човечеството върху моделите, които създаваме; и

4. Въздействието на ИИ върху младите хора, за да помогнем технологиите да станат положителна сила за бъдещите поколения.

Нашата работа едва започва. Планираме да споделим повече за нашите стратегии и първоначалните субсидии във всяка област и с течение на времето да разширим дейността си в други области.

Биоустойчивост

ИИ ще позволи на биологичните изследвания да напредват с безпрецедентна скорост, като помага за разработването на нови лечения и подобрения в общественото здраве, които ще позволят на всички ни да живеем по-здравословно и по-дълго. Въпреки това същите тези възможности биха могли да бъдат използвани със зла умисъл и от злонамерени лица, понижавайки прага за проектиране на вредни патогени.

Ерата на ИИ изисква подновен акцент върху биосигурността. Тъй като с усъвършенстваните системи с ИИ би могло да бъде злоупотребено от злонамерени лица, за да подпомогнат създаването на широк спектър от биологични заплахи, ще дадем приоритет на решения за биосигурност, независими от конкретен патоген. Това ще изисква инвестиции в областите на превенцията, откриването и защитата. Трябва да затрудним достъпа на злонамерени лица до експертните знания, оборудването и материалите, необходими за създаване на биологични заплахи, да подобрим способността си за ранно идентифициране и проследяване на нови огнища и да укрепим технологиите – като защитно оборудване, системи за пречистване на въздуха в закрити помещения и медицински мерки за противодействие – необходими за бърза и ефективна реакция.

Киберустойчивост

Изкуственият интелект започна бързо да преобразява средата на киберсигурността. Работата, която някога изискваше специализирани екипи, сега може да бъде подпомагана или автоматизирана от способни модели. В същото време бързо усъвършенстващите се възможности на ИИ могат да се използват и за ускоряване на работата на киберзащитниците, включително чрез идентифициране и отстраняване на уязвимости и ускоряване на реагирането.

Много големи компании и частни субекти могат да инвестират значителни средства в киберсигурност, за да защитят собствените си системи, включително чрез нови постижения в областта на изкуствения интелект. Предвиждаме да съсредоточим значителни ресурси върху защитата на други важни обществени субекти, които разполагат с по-ограничени ресурси и за които ще бъде много по-трудно да внедрят киберзащити, готови за ИИ, толкова бързо, колкото е необходимо. Паралелно с това сме съсредоточени и върху подготовката за нови предизвикателства пред сигурността, които общият изкуствен интелект в крайна сметка ще породи.

Безопасност на ИИ моделите

Безопасността на ИИ моделите се фокусира върху поведението на самите системи – дали са достоверни, надеждни и съобразени с човешките намерения. В свят, в който нещата се объркват, моделите могат да излязат извън контрол и да се държат по непредсказуеми начини, като ни заблуждават или преследват цели извън заложения им замисъл. Правилното справяне с това става все по-важно, тъй като системите с ИИ стават по-автономни и се доближават до интелигентността на човешко ниво, а в крайна сметка и го надминават.

Компаниите в областта на ИИ инвестират значителни ресурси в безопасността на моделите. Въпреки това значимостта на това предизвикателство изисква по-широка и по-стабилна екосистема: независими институции, които да оценяват безопасността на моделите, публична инфраструктура за проверка на безопасното внедряване на моделите на практика и постоянен напредък в науката за съгласуването, който да развива областта като цяло.

Въздействието на ИИ върху младите хора

Младите хора често са сред първите, които възприемат новите технологии, като ги използват, за да учат, да творят, да общуват и да опознават света. ИИ не е изключение. Но тъй като тези инструменти стават все по-голяма част от ежедневието на младите хора, от решаващо значение е да разработим по-солидна доказателствена база, за да разберем въздействието им.

Семействата, училищата, законодателите и общностните организации търсят отговори на въпроси за това как и кога младите хора взаимодействат с ИИ – включително за въздействието му върху човешките взаимоотношения, ученето и развитието. Първоначалният ни фокус ще бъде върху напредъка на независими изследвания, които да подпомагат вземането на тези решения – с цел по-добро разбиране къде изкуственият интелект може да подпомага развитието, какви рискове може да въведе и какъв контекст определя тези въздействия.

Тези изводи следва да залегнат в основата на общоприложими стандарти за безопасност и принципи на проектиране, които да насочват начина, по който се разработва всеки продукт с изкуствен интелект, начина, по който училищата избират да го внедряват, както и дали и как семействата решават да включат тези технологии в живота си.

Работата, която ни предстои

Има една съществена разлика между изкуствения интелект и технологиите, които го предшестваха – скоростта.

Устойчивостта на огъня се е формирала в продължение на хилядолетия. Устойчивостта на електроенергийната система отне десетилетия. Устойчивостта на ИИ се развива само за няколко години. Системите, които осигуряват безопасност, надеждност и широки ползи, трябва да се изграждат паралелно с развитието му.

Ако го направим правилно, изкуственият интелект може да стане част от фундаменталната инфраструктура на съвременния живот – като разширява достъпа до знания, ускорява откритията и подобрява живота на хората в глобален мащаб.

Но този резултат не е гарантиран. Нито една технология с общо предназначение никога не е направена безопасна.

Устойчивостта е постоянна дисциплина, която изисква много хора и институции да работят за изграждането ѝ, да инвестират и да си сътрудничат. Това е работата, която ни предстои, и тя е едно от ключовите предизвикателства на нашето време. Надяваме се да се присъедините към нас.