Odolnost ve věku umělé inteligence

Nadace OpenAI Foundation existuje proto, aby zajistila, že obecná umělá inteligence bude přinášet prospěch celému lidstvu.

Neúnavně pracujeme na tom, abychom drželi krok s rychlým vývojem samotné umělé inteligence. V dubnu nadace Foundation oznámila⁠ naše první granty v oblasti věd o živé přírodě a léčby nemocí v objemu 100 milionů USD, jejichž ambicí je pomáhat předcházet nemocem, jako je Alzheimerova choroba, a léčit je využitím pokročilé AI. Minulý týden jsme oznámili⁠ náš program Jobs and Economic Futures s nadějí, že pochopíme a pomůžeme utvářet, co práce a ekonomická prosperita znamenají pro budoucí generace.

Dnes rozšiřujeme naši vizi pro další velký program. Zajišťujeme, aby s růstem schopností umělé inteligence rostla stejně rychle i schopnost společnosti ji využívat. Tuto práci nazýváme odolností umělé inteligence: ekosystémovým přístupem potřebným ke zmírnění rizik umělé inteligence tak, aby společnost mohla maximalizovat její přínosy.

Naše úsilí již začalo. Během několika málo měsíců od zahájení naší práce pracuje nadace Foundation na finalizaci grantů v celkové výši více než 130 milionů USD pro organizace v rámci našeho programu AI Resilience. Tento program bude brzy veřejně vyhlášený a další budou následovat.^1⁠

Vzorec transformačních technologií

Důležitost odolnosti umělé inteligence lze nejlépe pochopit optikou minulých technologií, které smysluplně formovaly lidské dějiny.

Čas od času se objeví technologie, která od základů promění společnost. Ekonomové je označují jako „univerzální technologie“. Oheň. Tiskařský lis. Elektřina. Internet. Každý z nich postupoval podle podobného scénáře: rychlé inovace, reálná rizika a instituce, které se snažily držet ze všech sil krok. Každý příklad také ukazuje, co je potřeba k tomu, aby byla silná technologie bezpečná.

Oheň umožnil vznik lidské civilizace. Udržoval nás v teple, vařili jsme na něm jídlo a chránil nás před predátory. Také od základů vypaloval naše města. Postupem času si společnosti vybudovaly odolnost vůči požárům: požárně odolné materiály, sítě hydrantů, profesionální hasičské sbory a stavební předpisy. Ekosystém, vrstva po vrstvě.

Elektřina šla stejnou cestou. Poté, co Edisonova stanice Pearl Street v roce 1882 osvětlila Manhattan, způsobila elektřina požáry, úrazy elektrickým proudem a veřejnou paniku. Bez ochranných opatření jako izolované vodiče, jističe a předpisy docházelo po celém zemi k zasažení pracovníků i kolemjdoucích elektrickým proudem. Města debatovala o tom, zda by se od experimentu nemělo zcela upustit. Místo toho jsme s rozvojem technologie vytvořili nezávislé zkušební instituce, jako je Underwriters Laboratories, zavedli oborové normy, jako je National Electrical Code, a realizovali veřejné investice, které přivedly elektřinu do obcí, které se díky trhu ocitly stranou. Díky každé vrstvě byla elektřina bezpečnější a dostupnější. Dnes je tak bezpečná, že i dítě může přepnout vypínač a rozsvítí se světlo.

Takhle vypadá odolnost, když se s ní pracuje dobře.

Umělá inteligence vyžaduje ekosystém odolnosti

Umělá inteligence sleduje stejnou trajektorii jako předchozí technologie, ale pohybuje se nebývalou rychlostí.

Jsme stále na začátku, ale přínosy jsou už teď jasné: umělá inteligence snižuje bariéry pro zahájení podnikání, rozšiřuje přístup ke vzdělání, urychluje vědecké objevy a proměňuje medicínu.

Zároveň se však stejně rychle objevují i rizika – a to jako zrcadlový obraz přínosů umělé inteligence. Stejný růst, který vytváří nová odvětví, může zásadně proměnit ta stávající a narušit kariérní postupy. Ty stejné systémy, které mohou mladým lidem pomáhat učit se a tvořit, mohou také vést k nežádoucímu chování. Nástroje, které urychlují biologický výzkum, by mohly snížit překážku pro vznik škodlivých patogenů. A schopnost umělé inteligence psát kód může v nesprávných rukou ohrozit kritickou infrastrukturu.

Původní tým OpenAI věřil, že zajištění přínosu AI pro společnost závisí především na vyřešení technického problému sladění. To je i nadále klíčové (a pro naši práci ústřední), ale nyní se domníváme, že je to jen jeden dílek skládačky. S tím, jak se umělá inteligence šíří napříč sektory a národy, bude společnost potřebovat také nezávislý výzkum, veřejnou infrastrukturu, koordinaci v rámci průmyslu a zcela nové oblasti odborných znalostí. Stručně řečeno, bude to vyžadovat odolnost AI.

Rozhodli jsme se zaměřit své počáteční úsilí na čtyři oblasti^2⁠, které se nacházejí na průsečíku významných krátkodobých rizik a okamžitého dopadu:

1. Biologická odolnost pomáhající předcházet uměle vytvořeným pandemiím budoucnosti;

2. Kybernetická odolnost usiluje o zajištění bezpečnosti kritických systémů našeho světa;

3. Bezpečnost modelů AI s cílem upevnit kontrolu lidstva nad modely, které vytváříme, a

4. dopad umělé inteligence na mladé lidi, abychom pomohli zajistit, že technologie bude pozitivní silou pro budoucí generace.

Naše práce teprve začíná. Plánujeme sdílet více informací o našich strategiích a prvních grantech v jednotlivých oblastech a postupem času se rozšířit i do dalších oblastí.

Biologická odolnost

Umělá inteligence umožní biologickému výzkumu postupovat bezprecedentní rychlostí a pomůže vyvíjet nové způsoby léčby a zlepšení v oblasti veřejného zdraví, díky nimž budeme všichni žít zdravěji a déle. Ty stejné schopnosti by však mohli zneužít také jedinci se zlými úmysly, což by snížilo překážky při navrhování škodlivých patogenů.

Éra umělé inteligence vyžaduje znovu důraz na biologickou bezpečnost. Vzhledem k tomu, že pokročilé systémy umělé inteligence by mohly být jedinci se zlými úmysly zneužity k vytváření široké škály biologických hrozeb, budeme upřednostňovat řešení biologické bezpečnosti nezávislá na konkrétním patogenu. To bude vyžadovat investice v rámci různých oblastí prevence, odhalování a obrany. Jedincům se zlými úmysly musíme ztížit přístup k odborným znalostem, vybavení a materiálům potřebným k vytváření biologických hrozeb, zlepšit naši schopnost včas identifikovat a sledovat nově vznikající ohniska nákazy a posílit technologie (jako jsou ochranné prostředky, systémy čištění vzduchu ve vnitřních prostorách a zdravotnická protiopatření) potřebné k rychlé a účinné reakci.

Kybernetická odolnost

Umělá inteligence začala rychle přetvářet prostředí kybernetické bezpečnosti. Práci, která dříve vyžadovala specializované týmy, nyní mohou podpořit nebo automatizovat schopné modely. Zároveň lze rychle se zlepšující schopnosti umělé inteligence využít také k urychlení práce kybernetických obránců, mimo jiné identifikací a opravou zranitelností a urychlením reakce.

Mnohé velké společnosti a soukromé subjekty jsou schopné vynakládat značné prostředky na kybernetickou bezpečnost, aby zabezpečily své vlastní systémy, a to i s využitím nových pokroků v oblasti umělé inteligence. Očekáváme, že značné zdroje zaměříme na zabezpečení dalších důležitých společenských hráčů, kteří disponují menšími zdroji a pro které bude mnohem obtížnější nasadit kybernetická obranná opatření připravená na AI tak rychle, jak bude potřeba. Souběžně se také zaměřujeme na přípravu na nové bezpečnostní výzvy, které obecná umělá inteligence nakonec přinese.

Bezpečnost modelu AI

Bezpečnost modelů AI se zaměřuje na chování samotných systémů a na to, aby byly spolehlivé, pravdivé a v souladu s lidským záměrem. Ve světě, kde se tohle všechno nepovede, se modely mohou projevit nepředvídatelně a mohou se tak i chovat se, mohou náš klamat nebo sledovat cíle nad rámec svého záměru. Správné zvládnutí této problematiky nabývá na stále větší důležitosti s tím, jak se systémy umělé inteligence stávají autonomnějšími a přibližují se inteligenci na úrovni člověka (kterou nakonec i překonají).

Společnosti zabývající se AI investují značné prostředky do bezpečnosti modelů. Důležitost této výzvy však vyžaduje širší a odolnější ekosystém: nezávislé instituce pro hodnocení bezpečnosti modelů, veřejnou infrastrukturu pro ověřování bezpečného nasazování modelů v praxi a neustálé pokroky výzkumu sladění AI, které posouvají celý obor kupředu.

Dopad umělé inteligence na mladé lidi

Mladí lidé často bývají mezi prvními, kdo si osvojují nové technologie, a využívají je k učení, tvorbě, komunikaci a objevování světa. AI není výjimkou. Ale protože se tyto nástroje stávají stále větší součástí každodenního života mladých lidí, je zásadní, abychom vybudovali silnější základnu důkazů, které nám pomohou pochopit jejich dopady.

Rodiny, školy, tvůrci zásad i komunitní organizace se potýkají s otázkami, jak a kdy mladí lidé přicházejí do styku s umělou inteligencí a jaký je její dopad na mezilidské vazby, učení a vývoj. Zpočátku se zaměříme na podporu nezávislého výzkumu, který pomůže poskytnout podklady pro tato rozhodnutí s cílem lépe porozumět tomu, kde může umělá inteligence podporovat rozvoj, jaká rizika může přinášet a jaké kontexty utvářejí její dopady.

Tyto poznatky by měly být východiskem pro široce pojaté bezpečnostní standardy a principy návrhu, které určují, jak se vyvíjí jednotlivé produkty využívající umělou inteligenci, jak se školy rozhodují tyto produkty nasazovat a zda a jak se rodiny rozhodnou začlenit tyto technologie do svého života.

Práce, která nás čeká

Mezi umělou inteligencí a technologiemi, které jí předcházely, je jeden zásadní rozdíl: rychlost.

Odolnost vůči ohni se vyvíjela po tisíciletí. Odolnost elektrické sítě trvala desetiletí. Odolnost umělé inteligence se vyvíjí v řádu let. Systémy, které zajistí, aby tato technologie byla bezpečná, spolehlivá a široce prospěšná, musí být budovány souběžně s ní.

Pokud to zvládneme správně, AI se může stát součástí základní infrastruktury moderního života. Může rozšiřovat přístup ke znalostem, urychlovat objevy a zlepšovat životy v celosvětovém měřítku.

Tento výsledek ale není zaručen. Žádná obecně používaná technologie se nikdy nestala bezpečnou sama od sebe.

Odolnost je trvalé úsilí, které vyžaduje zapojení mnoha lidí a institucí, aby ji budovali, investovali do ní a spolupracovali. To je úkol, který máme před sebou, a je to jedna z určujících výzev naší doby. Doufáme, že se k nám připojíte.