Reziliencia a mesterséges intelligencia korában

Az OpenAI Alapítvány célja annak biztosítása, hogy a mesterséges általános intelligencia az egész emberiség javát szolgálja.

Fáradhatatlanul dolgozunk azon, hogy lépést tartsunk a mesterséges intelligencia rohamos fejlődésével. Áprilisban az Alapítvány bejelentette⁠ az élettudományok és betegségek gyógyítása területén nyújtott első 100 millió dollárnyi támogatásunkat, azzal a céllal, hogy a fejlett mesterséges intelligencia kiaknázásával segítsen megelőzni és kezelni olyan betegségeket, mint az Alzheimer-kór. Múlt héten bejelentettük⁠ a Munka és gazdasági jövők programunkat, abban a reményben, hogy megérthetjük és alakíthatjuk, mit jelent a munka és a gazdasági jólét a jövő generációi számára.

Ma bővebben ismertetjük a következő nagyszabású programmal kapcsolatos jövőképünket – biztosítva, hogy ahogy az MI képességei fejlődnek, a társadalom képessége is ugyanolyan gyorsan fejlődjön annak kiaknázására. Ezt a munkát AI-rezilienciának nevezzük: ez az AI kockázatainak mérsékléséhez szükséges ökoszisztéma-alapú megközelítés, amely lehetővé teszi, hogy a társadalom a lehető legnagyobb mértékben kiaknázhassa az előnyeit.

A munkánk már megkezdődött. A munkánk megkezdése óta eltelt néhány rövid hónap alatt az Alapítvány az AI-reziliencia programunk keretében több mint 130 millió $ támogatás véglegesítésén dolgozik, amelyeket hamarosan nyilvánosan is megosztunk, és továbbiak is várhatók.^1⁠

A transzformációs technológiák mintázata

Az AI-reziliencia jelentőségét leginkább azoknak a múltbeli technológiáknak a szemszögéből érthetjük meg, amelyek érdemben alakították az emberiség történelmét.

Időről időre megjelenik egy technológia, amely alapjaiban formálja át a társadalmat. A közgazdászok ezeket „általános célú technológiáknak” nevezik. Tűz. A nyomdagép. Villamos energia. Az internet. Mindegyik hasonló utat járt be: gyors innováció, valós kockázatok, valamint az intézmények versenyfutása a felzárkózásért. Ugyanakkor mindegyik példa azt is megmutatja, mi kell ahhoz, hogy egy nagy hatású technológiát biztonságossá tegyünk.

A tűz tette lehetővé az emberi civilizációt. Melegen tartott minket, megfőzte az ételünket, és megvédett minket a ragadozóktól. A városainkat is porig égette. Idővel a társadalmak ellenálló képességüket fejlesztették: tűzálló anyagok, tűzcsaphálózatok, hivatásos tűzoltóságok és építési szabályzatok. Egy ökoszisztéma, rétegről rétegre.

Az elektromosság ugyanazon az úton haladt. Miután Edison Pearl Street-i erőműve 1882-ben kivilágította Manhattant, az elektromosság tüzeket, áramütéseket és közpánikot okozott. Az olyan biztonsági intézkedések nélkül, mint a szigetelt vezetékek, a megszakítók és az előírások, országszerte városokban munkások és a közelben tartózkodók szenvedtek halálos áramütést. A városok arról vitáztak, hogy a kísérletet teljesen fel kell-e hagyni. Ehelyett ahogy a technológia fejlődött, független vizsgáló szervezeteket hoztunk létre, mint például az Underwriters Laboratories, iparági szabványokat vezettünk be, mint például a National Electrical Code, és közösségi beruházásokkal támogattuk azokat a közösségeket, amelyeket a piac magukra hagyott. Minden egyes réteg biztonságosabbá és hozzáférhetőbbé tette az elektromosságot; ma már annyira biztonságos, hogy egy gyerek is felkapcsolhatja a villanyt, és fény gyúl.

Így néz ki a reziliencia, ha jól csinálják.

Az MI-nek egy ellenálló képességi ökoszisztémára van szüksége

A mesterséges intelligencia ugyanazt a pályát követi, mint a korábbi technológiák, de példátlan sebességgel halad.

Még csak a kezdeti szakaszában járunk, de az előnyök már most egyértelműek: a mesterséges intelligencia csökkenti a vállalkozásindítás akadályait, szélesíti az oktatáshoz való hozzáférést, felgyorsítja a tudományos felfedezéseket, és átalakítja az orvoslást.

Ugyanakkor a kockázatok éppoly gyorsan jelennek meg – az MI előnyeinek tükörképeként. Ugyanaz a növekedés, amely új iparágakat hoz létre, felforgathatja a meglévőket, és megzavarhatja a karrierutakat. Ugyanazok a rendszerek, amelyek segíthetnek a fiataloknak a tanulásban és alkotásban, nemkívánatos viselkedéshez is vezethetnek. A biológiai kutatást felgyorsító eszközök csökkenthetik a káros kórokozók létrehozásának akadályait. A mesterséges intelligencia kódírási képessége rossz kezekben fenyegetheti a kritikus infrastruktúrát.

Az OpenAI korai csapata úgy vélte, hogy annak biztosítása, hogy az MI a társadalom javát szolgálja, elsősorban a technikai összehangolási probléma megoldásától függ. Ez továbbra is kritikus fontosságú – és központi szerepet játszik a munkánkban –, de most már úgy véljük, hogy ez csak a kirakós egyik darabja. Ahogy a mesterséges intelligencia elterjed az ágazatokban és az országokban, a társadalomnak független kutatásra, közinfrastruktúrára, iparági koordinációra és teljesen új szakterületekre is szüksége lesz. Röviden: AI-rezilienciára lesz szükség.

Úgy döntöttünk, hogy kezdeti munkánkat négy olyan területre^2⁠ összpontosítjuk, amelyek a jelentős, rövid távú kockázatok és az azonnali hatás metszéspontjában helyezkednek el:

1. Bioreziliencia a jövő mesterségesen előidézett világjárványainak megelőzéséért;

2. Kiberreziliencia világunk kritikus rendszerei biztonságának biztosítása érdekében;

3. AI-modell biztonsága az általunk létrehozott modellek feletti emberi kontroll megszilárdítása érdekében; valamint

4. Az AI fiatalokra gyakorolt hatása, hogy a technológia pozitív erővé váljon a jövő generációi számára.

Munkánk még csak most kezdődik. Tervezzük, hogy minden területen megosztunk további információkat stratégiáinkról és az első támogatásokról, és idővel más területekre is kiterjesztjük tevékenységünket.

Bioreziliencia

Az AI lehetővé teszi, hogy a biológiai kutatások példátlan sebességgel haladjanak, elősegítve új gyógymódok és közegészségügyi fejlesztések kidolgozását, amelyek mindannyiunk számára egészségesebb és hosszabb életet tesznek lehetővé. Ugyanakkor ugyanezekkel a képességekkel rosszindulatú szereplők is visszaélhetnek, ezáltal csökkentve a káros kórokozók megtervezésének akadályait.

A mesterséges intelligencia korában újra kell fókuszálnunk a biológiai biztonságra. Mivel a fejlett mesterséges intelligencia-rendszereket rosszindulatú szereplők visszaélésszerűen felhasználhatják különféle biológiai fenyegetések előidézésére, elsőbbséget biztosítunk a kórokozó-független biológiai biztonsági megoldásoknak. Ehhez beruházásokra lesz szükség a megelőzés, az észlelés és a védelem területén. Meg kell nehezítenünk, hogy a rosszindulatú szereplők hozzáférhessenek a biológiai fenyegetések létrehozásához szükséges szakértelemhez, berendezésekhez és anyagokhoz, javítanunk kell az új járványkitörések korai azonosítására és nyomon követésére való képességünket, valamint meg kell erősítenünk azokat a technológiákat –például a védőfelszereléseket, a beltéri levegőtisztító rendszereket és az orvosi ellenintézkedéseket–, amelyek a gyors és hatékony reagáláshoz szükségesek.

Kiberreziliencia

A mesterséges intelligencia gyorsan elkezdte átalakítani a kiberbiztonsági környezetet. A korábban specializált csapatokat igénylő munka ma már fejlett modellekkel támogatható vagy automatizálható. Ugyanakkor a gyorsan fejlődő mesterséges intelligencia-képességek a kibervédők munkáját is felgyorsíthatják, többek között a sebezhetőségek azonosításával és javításával, valamint a reagálás felgyorsításával.

Számos nagyvállalat és magánszereplő jelentős összegeket fordíthat kiberbiztonságra saját rendszereik védelme érdekében, többek között a mesterséges intelligencia új vívmányainak felhasználásával. Várhatóan jelentős erőforrásokat fogunk fordítani más fontos társadalmi szereplők védelmére, amelyek kevesebb erőforrással rendelkeznek, és amelyek számára sokkal nehezebb lesz az MI-re felkészített kibervédelmi megoldásokat a szükséges gyorsasággal bevezetni. Ezzel párhuzamosan arra is összpontosítunk, hogy felkészüljünk azokra az új biztonsági kihívásokra, amelyeket a mesterséges általános intelligencia végső soron magával hoz majd.

AI-modell biztonsága

Az AI-modellek biztonsága a rendszerek viselkedésére összpontosít – arra, hogy igazmondók, megbízhatók-e, és összhangban állnak-e az emberi szándékkal. Egy olyan világban, ahol ez félresiklik, a modellek elszabadulhatnak, és kiszámíthatatlan módon viselkedhetnek: megtéveszthetnek minket, vagy a tervezett működésükön túlmutató célokat követhetnek. Ennek helyes megoldása egyre fontosabbá válik, ahogy az MI-rendszerek egyre autonómabbá válnak, és megközelítik, majd végül meg is haladják az emberi szintű intelligenciát.

Az MI-vállalatok jelentős erőforrásokat fektetnek a modellbiztonságba. Ennek a kihívásnak a jelentősége azonban, szélesebb körű, robusztusabb ökoszisztémát tesz szükségessé: független intézményeket a modellek biztonságosságának értékelésére, nyilvános infrastruktúrát a modellek biztonságos gyakorlati bevezetésének igazolására, valamint az összehangolástudomány további előrelépéseit, amelyek széles körben előmozdítják a terület fejlődését.

A mesterséges intelligencia hatása a fiatalokra

A fiatalok gyakran az elsők között sajátítják el az új technológiákat, amelyeket tanulásra, alkotásra, kommunikációra és a világ felfedezésére használnak. A mesterséges intelligencia sem kivétel. Ahogy azonban ezek az eszközök egyre inkább a fiatalok mindennapi életének részévé válnak, létfontosságú, hogy erősebb bizonyítékbázist alakítsunk ki hatásaik megértéséhez.

A családok, az iskolák, a döntéshozók és a közösségi szervezetek egyaránt keresik a választ arra, hogyan és mikor kerülnek kapcsolatba a fiatalok a mesterséges intelligenciával – beleértve annak az emberi kapcsolatokra, a tanulásra és a fejlődésre gyakorolt hatását is. Kezdetben arra fogunk összpontosítani, hogy előmozdítsuk a független kutatásokat, amelyek segíthetnek e döntések megalapozásában – annak jobb megértése érdekében, hogy az MI hol támogathatja a fejlődést, milyen kockázatokat idézhet elő, és milyen kontextusok alakítják ezeket a hatásokat.

Ezeknek a felismeréseknek kell meghatározniuk azokat az átfogó biztonsági szabványokat és tervezési alapelveket, amelyek irányt mutatnak abban, hogyan történjen bármely MI-termék fejlesztése, hogyan döntsenek az iskolák azok bevezetéséről, valamint hogy a családok beépítsék-e ezeket a technológiákat az életükbe, és ha igen, hogyan.

Az előttünk álló munka

Egy döntő különbség van a mesterséges intelligencia és az azt megelőző technológiák között: a sebesség.

A tűzzel szembeni reziliencia kialakulásához évezredek kellettek. Az elektromosenergia-ellátás rezilienciája évtizedek alatt alakult ki. Az AI-reziliencia néhány év alatt fejlődik. Azokat a rendszereket, amelyek biztonságossá, megbízhatóvá és széles körben hasznossá teszik, vele párhuzamosan kell kiépíteni.

Ha jól csináljuk, a mesterséges intelligencia a modern élet alapinfrastruktúrájának részévé válhat — bővítve a tudáshoz való hozzáférést, felgyorsítva a felfedezéseket, és globális léptékben javítva az emberek életét.

De ez az eredmény nem garantált. Egyetlen általános célú technológia sem tette még biztonságossá önmagát.

A reziliencia egy folyamatos elkötelezettség, amelyhez sok embernek és intézménynek kell építenie, befektetnie és együttműködnie. Ez az előttünk álló feladat, és korunk egyik meghatározó kihívása. Reméljük, hogy csatlakozol hozzánk.