Odolnosť v ére umelej inteligencie

Nadácia OpenAI existuje preto, aby zabezpečila, že všeobecná umelá inteligencia bude prinášať úžitok celému ľudstvu.

Neúnavne pracujeme na tom, aby sme držali krok s rýchlym pokrokom samotnej umelej inteligencie. V apríli nadácia oznámila⁠ naše prvé granty v hodnote 100 000 000 USD v oblasti biovedy a liečby chorôb s ambíciou pomôcť predchádzať chorobám, ako je Alzheimerova choroba a liečiť ich využitím pokročilej umelej inteligencie. Minulý týždeň sme spustili⁠ náš program Pracovné miesta a ekonomická budúcnosť s nádejou, že pochopíme a pomôžeme formovať, čo budú práca a ekonomická prosperita znamenať pre budúce generácie.

Dnes rozvíjame našu víziu ďalšieho významného programu — zabezpečiť, aby s rastom schopností umelej inteligencie rovnako rýchlo rástla aj schopnosť spoločnosti využívať ju. Túto prácu nazývame odolnosť AI: ekosystémový prístup potrebný na zmiernenie rizík spojených s AI, aby spoločnosť mohla maximalizovať jej prínosy.

Naša práca sa už začala. Za niekoľko krátkych mesiacov od začatia našej práce nadácia pracuje na finalizácii grantov v hodnote viac ako 130 000 000 USD pre organizácie v rámci nášho programu AI Resilience. Tieto budú čoskoro verejne oznámené a ďalšie budú nasledovať.^1⁠

Vzorec transformačných technológií

Dôležitosť odolnosti umelej inteligencie možno najlepšie pochopiť optikou minulých technológií, ktoré významne formovali ľudské dejiny.

Raz za čas sa objaví technológia, ktorá od základov pretvorí spoločnosť. Ekonómovia ich označujú ako „technológie všeobecného použitia“. Oheň. Tlačiarenský lis. Elektrina. Internet. Každý z nich mal podobný priebeh: rýchle inovácie, reálne riziká a inštitúcie sa predbiehali, aby dobehli vývoj. Každý príklad však zároveň ukazuje, čo je potrebné na to, aby sa silná technológia stala bezpečnou.

Oheň umožnil vznik ľudskej civilizácie. Udržiaval nás v teple, pripravoval nám jedlo a chránil nás pred predátormi. Tiež však naše mestá úplne vypálil. Postupom času spoločnosti zvyšovali svoju odolnosť: materiály odolné voči ohňu, hydrantové siete, profesionálne hasičské zbory a stavebné predpisy. Ekosystém, vrstva po vrstve.

Elektrina nasledovala rovnakú cestu. Po tom, čo Edisonova elektráreň Pearl Street Station v roku 1882 rozsvietila Manhattan, priniesla elektrina požiare, usmrtenia elektrickým prúdom a paniku verejnosti. Bez ochranných opatrení, ako sú izolované vodiče, ističe a predpisy, boli pracovníci aj okoloidúci v mestách po celej krajine usmrcovaní elektrickým prúdom. Mestá diskutovali o tom, či by sa mal experiment úplne ukončiť. Namiesto toho sme s pokrokom technológií zriadili nezávislé skúšobné orgány, ako napríklad Underwriters Laboratories, zaviedli priemyselné normy, ako napríklad National Electrical Code, a realizovali verejné investície, ktoré priviedli elektrinu do komunít, ktoré trh nechal bokom. Každá vrstva robila elektrinu bezpečnejšou a dostupnejšou. Dnes je taká bezpečná, že dieťa môže prepnúť vypínač a rozsvieti sa svetlo.

Takto vyzerá odolnosť, keď je zvládnutá správne.

AI vyžaduje ekosystém odolnosti

Umelá inteligencia sa uberá rovnakou trajektóriou ako predchádzajúce technológie, no napreduje bezprecedentnou rýchlosťou.

Sme ešte len na začiatku, ale prínosy sú už teraz jasné: AI znižuje prekážky pri zakladaní podnikov, rozširuje prístup k vzdelaniu, urýchľuje vedecké objavy a mení podobu medicíny.

Zároveň sa však rovnako rýchlo objavujú aj riziká – a sú zrkadlovým obrazom prínosov umelej inteligencie. Rovnaký rast, ktorý vytvára nové odvetvia, môže zásadne zmeniť existujúce a narušiť kariérne dráhy. Tie isté systémy, ktoré môžu mladým ľuďom pomáhať učiť sa a tvoriť, by mohli viesť aj k nežiaducemu správaniu. Nástroje, ktoré urýchľujú biologický výskum, by mohli znížiť prekážky pri vytváraní škodlivých patogénov. A schopnosť umelej inteligencie písať kód by v nesprávnych rukách mohla ohroziť kritickú infraštruktúru.

Skorý tím OpenAI veril, že zabezpečiť, aby AI prinášala prospech spoločnosti, závisí predovšetkým od vyriešenia technického problému zosúladenia. To je naďalej zásadné – a ústredné pre našu prácu –, no teraz sa domnievame, že je to len jeden dielik skladačky. Keď sa umelá inteligencia šíri naprieč odvetviami a krajinami, spoločnosť bude potrebovať aj nezávislý výskum, verejnú infraštruktúru, koordináciu v rámci priemyslu a úplne nové oblasti odbornosti. Skrátka, bude si to vyžadovať odolnosť AI.

Rozhodli sme sa svoju počiatočnú prácu zamerať na štyri oblasti^2⁠, ktoré sa nachádzajú na priesečníku veľkých, bezprostredných rizík a okamžitého vplyvu:

1. Bioodolnosť s cieľom pomôcť predchádzať budúcim umelo vytvoreným pandémiám;

2. Kybernetická odolnosť s cieľom zaistiť bezpečnosť kritických systémov nášho sveta;

3. Bezpečnosť modelov umelej inteligencie na upevnenie kontroly ľudstva nad modelmi, ktoré vytvárame; a

4. Vplyv umelej inteligencie na mladých ľudí s cieľom prispieť k tomu, aby technológie boli pozitívnou silou pre budúce generácie.

Naša práca sa len začína. Plánujeme zdieľať viac o našich stratégiách a počiatočných grantoch v každej oblasti a časom sa rozšíriť do ďalších oblastí.

Biologická odolnosť

Umelá inteligencia umožní biologickému výskumu napredovať bezprecedentnou rýchlosťou a pomôže vyvíjať nové spôsoby liečby a zlepšenia v oblasti verejného zdravia, vďaka ktorým budeme všetci žiť zdravšie a dlhšie. Tieto isté možnosti by však mohli zneužiť aj aktéri so zlými úmyslami a zmenšiť tým bariéru pri navrhovaní škodlivých patogénov.

Éra umelej inteligencie si vyžaduje obnovené zameranie na biologickú bezpečnosť. Keďže pokročilé systémy umelej inteligencie by mohli byť zneužité škodlivými aktérmi na pomoc pri vytváraní širokej škály biologických hrozieb, uprednostníme riešenia biologickej bezpečnosti nezávislé od konkrétneho patogénu. To si bude vyžadovať investície do prevencie, detekcie a obrany. Škodlivým aktérom musíme sťažiť prístup k odborným znalostiam, vybaveniu a materiálom potrebným na vytváranie biologických hrozieb, zlepšiť našu schopnosť včas identifikovať a sledovať nové ohniská nákazy a posilniť technológie — ako sú ochranné prostriedky, systémy čistenia vzduchu vo vnútorných priestoroch a zdravotnícke protiopatrenia — potrebné na rýchlu a účinnú reakciu.

Kybernetická odolnosť

Umelá inteligencia začala rýchlo meniť podobu oblasti kybernetickej bezpečnosti. Prácu, ktorá kedysi vyžadovala špecializované tímy, dnes dokážu podporovať alebo automatizovať schopné modely. Zároveň možno využiť rýchlo sa zlepšujúce schopnosti umelej inteligencie aj na urýchlenie práce kybernetických obrancov, napríklad identifikáciou a opravou zraniteľností a zrýchlením reakcie.

Mnohé veľké spoločnosti a súkromní aktéri môžu vynakladať značné prostriedky na kybernetickú bezpečnosť, aby zabezpečili svoje vlastné systémy, aj s využitím nových pokrokov v oblasti umelej inteligencie. Predpokladáme, že značné zdroje zameriame na zabezpečenie ďalších významných spoločenských aktérov s obmedzenejšími zdrojmi, pre ktorých bude oveľa ťažšie nasadiť kybernetické mechanizmy obrany pripravené na AI tak rýchlo, ako bude potrebné. Zároveň sa zameriavame aj na prípravu na nové bezpečnostné výzvy, ktoré so sebou všeobecná umelá inteligencia v konečnom dôsledku prinesie.

Bezpečnosť modelu AI

Bezpečnosť modelov umelej inteligencie sa zameriava na správanie samotných systémov – či sú dôveryhodné, spoľahlivé a v súlade s ľudským zámerom. Vo svete, kde sa to zvrtne, môžu sa modely vymknúť spod kontroly a správať sa nepredvídateľne, klamať nás alebo sledovať ciele nad rámec svojho zámeru. Spraviť to správne je čoraz dôležitejšie s tým, ako sa systémy umelej inteligencie stávajú autonómnejšími a približujú sa ľudskej inteligencii – a napokon ju aj prekonajú.

Spoločnosti pôsobiace v oblasti AI investujú značné zdroje do bezpečnosti modelov. Význam tejto výzvy si však vyžaduje širší a odolnejší ekosystém: nezávislé inštitúcie na hodnotenie bezpečnosti modelov, verejnú infraštruktúru na overovanie bezpečného nasadzovania modelov v praxi a pokračujúce pokroky vo vede o zosúlaďovaní, ktoré posúvajú celý odbor vpred.

Vplyv umelej inteligencie na mladých ľudí

Mladí ľudia si často ako prví osvojujú nové technológie a využívajú ich na učenie sa, tvorbu, komunikáciu a objavovanie sveta. AI nie je výnimkou. No keďže sa tieto nástroje stávajú čoraz väčšou súčasťou každodenného života mladých ľudí, je nevyhnutné, aby sme si vytvorili silnejšiu dôkazovú základňu na pochopenie ich vplyvov.

Rodiny, školy, tvorcovia verejných politík aj komunitné organizácie sa zaoberajú otázkami, ako a kedy mladí ľudia prichádzajú do kontaktu s umelou inteligenciou – vrátane jej vplyvu na medziľudské vzťahy, učenie a vývin. Naše počiatočné zameranie bude na podporu nezávislého výskumu, ktorý pomôže usmerňovať tieto rozhodnutia, aby sme lepšie porozumeli tomu, kde môže umelá inteligencia podporiť rozvoj, aké riziká môže prinášať a aké kontexty formujú tieto účinky.

Tieto poznatky by mali byť základom pre široko uplatňované bezpečnostné štandardy a zásady návrhu, ktoré usmernia vývoj akéhokoľvek produktu umelej inteligencie, spôsob, akým sa ich školy rozhodnú nasadzovať, ako aj to, či a ako sa rodiny rozhodnú začleniť tieto technológie do svojho života.

Práca, ktorá nás čaká

Medzi AI a technológiami, ktoré jej predchádzali, je jeden zásadný rozdiel: rýchlosť.

Odolnosť voči ohňu trvala tisícročia. Odolnosť elektriny trvala desaťročia. Odolnosť AI sa vyvíja v priebehu niekoľkých rokov. Systémy, ktoré zabezpečujú, že je bezpečný, spoľahlivý a široko prospešný, sa musia budovať súbežne s ním.

Ak to zvládneme správne, umelá inteligencia sa môže stať súčasťou základnej infraštruktúry moderného života – rozširovať prístup k poznaniu, urýchľovať objavy a zlepšovať životy ľudí v globálnom meradle.

Tento výsledok však nie je zaručený. Žiadna technológia všeobecného použitia sa nikdy nestala bezpečnou sama od seba.

Odolnosť je trvalá disciplína, ktorá vyžaduje, aby ju budovali mnohí ľudia a inštitúcie, investovali do nej a spolupracovali na nej. To je práca, ktorá nás čaká, a je to jedna z určujúcich výziev našej doby. Dúfame, že sa k nám pridáš.