Vastupidavus tehisintellekti ajastul

OpenAI fondi eesmärk on tagada, et tehislik üldintellekt (AGI) tooks kasu kogu inimkonnale.

Oleme teinud väsimatult tööd, et pidada sammu tehisintellekti enda kiirete edusammudega. Aprillis kuulutas⁠ fond välja esimesed 100 miljoni dollari suurused toetused eluteaduste ja haiguste ravimise valdkonnas eesmärgiga aidata vältida ja ravida selliseid haigusi nagu Alzheimeri tõbi, rakendades selleks arenenud tehisintellekti. Eelmisel nädalal kuulutasime⁠ välja oma töökohtade ja majandusliku tuleviku programmi lootusega mõista ja kujundada seda, mida tähendavad töö ja majanduslik õitseng tulevastele põlvkondadele.

Täna avame oma visiooni järgmise suurema programmi jaoks—tagamaks, et tehisintellekti võimekuste kasvades kasvaks sama kiiresti ka ühiskonna võime seda rakendada. Me nimetame seda tööd tehisintellekti vastupidavuseks: ökosüsteemi lähenemisviis, mis on vajalik tehisintellekti riskide maandamiseks, et ühiskond saaks maksimeerida selle eeliseid.

Meie töö on juba alanud. Vaid paari lühikese kuu jooksul alates oma töö alustamisest teeb fond tööd enam kui 130 miljoni dollari suuruste toetuste lõplikuks vormistamiseks organisatsioonidele meie tehisintellekti vastupidavuse programmi kaudu, mida jagatakse peagi avalikult ja mida on veel tulemas.^1⁠

Läbimurdeliste tehnoloogiate muster

Tehisintellekti vastupidavuse olulisust on kõige parem mõista läbi mineviku tehnoloogiate prisma, mis on inimkonna ajalugu märkimisväärselt kujundanud.

Aeg-ajalt ilmub tehnoloogia, mis kujundab ühiskonna algusest peale ümber. Majandusteadlased nimetavad neid „üldotstarbelisteks tehnoloogiateks“. Tuli. Trükipress. Elekter. Internet. Kõik need järgisid sarnast kaart: kiire innovatsioon, reaalsed riskid ja asutused, mis püüavad järele jõuda. Kuid iga näide näitab ka seda, mida on vaja võimsa tehnoloogia ohutuks muutmiseks.

Tuli tegi inimtsivilisatsiooni võimalikuks. See hoidis meid soojas, küpsetas meie toitu ja kaitses meid kiskjate eest. Kuid see põletas ka meie linnu maani maha. Aja jooksul ehitasid ühiskonnad üles vastupidavuse: tulekindlad materjalid, hüdrantide võrgustikud, elukutselised tuletõrjeosakonnad ja ehitusnormid. Ökosüsteem, kiht-kihilt.

Elekter järgis sama teed. Pärast seda, kui Edisoni Pearl Street Station 1882. aastal Manhattani valgustas, tõi elekter kaasa tulekahjusid, elektrilööke ja avalikku paanikat. Ilma kaitsemeetmeteta, nagu isoleeritud juhtmed, kaitselülitid ja eeskirjad, said töötajad ja kõrvalseisjad elektrilööke linnades üle kogu riigi. Linnad vaidlesid selle üle, kas eksperiment tuleks täielikult hüljata. Selle asemel, kui tehnoloogia arenes, lõime sõltumatud testimisorganisatsioonid nagu Underwriters Laboratories, valdkonnastandardid nagu National Electrical Code ja avalikud investeeringud, mis tõid elektri kogukondadesse, mille turg oli maha jätnud. Iga kiht muutis elektri ohutumaks ja kättesaadavamaks; täna on see nii ohutu, et laps saab lülitit vajutada ja valgus ilmub.

See on see, milline vastupidavus välja näeb, kui see on hästi tehtud.

Tehisintellekt vajab vastupidavuse ökosüsteemi

Tehisintellekt järgib sama trajektoori nagu varasemad tehnoloogiad, kuid liigub enneolematu kiirusega.

Oleme veel selle algusajajärgus, kuid eelised on juba selged: tehisintellekt vähendab tõkkeid ettevõtte asutamisel, laiendab juurdepääsu haridusele, kiirendab teaduslikke avastusi ja muudab meditsiini.

Samal ajal on riskid ilmnemas sama kiiresti ja tehisintellekti eeliste peegelpildina. Sama kasv, mis loob uusi tööstusharusid, võib olemasolevaid pea peale pöörata ja karjääre häirida. Sama süsteemid, mis võivad aidata noortel õppida ja luua, võivad viia ka ebasoovitava käitumiseni. Tööriistad, mis kiirendavad bioloogilist uurimistööd, võiksid vähendada tõkkeid kahjulike patogeenide loomisel. Ja tehisintellekti võime koodi kirjutada võiks valedes kätes ohustada kriitilist infrastruktuuri.

Varajane OpenAI meeskond uskus, et tehisintellekti ühiskonnale kasulikuks muutmise tagamine sõltub peamiselt tehnilise joondamisprobleemi lahendamisest. See on endiselt kriitiline—ja meie töö keskmes—kuid praegu usume, et see on vaid üks osa puslest. Kuna tehisintellekt levib üle sektorite ja riikide, vajab ühiskond ka sõltumatut uurimistööd, avalikku infrastruktuuri, tööstusharude koordineerimist ja täiesti uusi erialavaldkondi. Lühidalt, see nõuab tehisintellekti vastupidavust.

Oleme otsustanud keskenduda oma esialgsele tööle neljas valdkonnas^2⁠, mis asuvad suurte lähiaja riskide ja otsese mõju ristumiskohas:

1. Biovastupidavus aitamaks vältida tuleviku konstrueeritud pandeemiaid;

2. Kübervastupidavus töötamaks selle nimel, et tagada meie maailma kriitiliste süsteemide ohutus;

3. Tehisintellekti mudelite ohutus meie loodud mudelite üle inimkonna kontrolli kindlustamiseks; ja

4. Tehisintellekti mõju noortele, aitamaks muuta tehnoloogia tulevaste põlvkondade jaoks positiivseks jõuks.

Meie töö alles algab. Kavatseme jagada rohkem infot oma strateegiate ja esmaste toetuste kohta igas valdkonnas ning aja jooksul laieneda teistele aladele.

Biovastupidavus

Tehisintellekt võimaldab bioloogilisel uurimistööl liikuda enneolematu kiirusega, aidates välja töötada uusi ravimeid ja parandades rahvatervist, mis võimaldab meil kõigil elada tervemini ja kauem. Kuid neid samu võimalusi võivad kuritahtlikud osalejad ka valesti kasutada, vähendades tõkkeid kahjulike patogeenide kujundamisel.

Tehisintellekti ajastu nõuab uuendatud fookust bioohutusele. Kuna pahaloomulised tegutsejad võiksid arenenud tehisintellektisüsteeme väärkasutada paljude bioloogiliste ohtude loomiseks, seame esikohale patogeenidest sõltumatud bioohutuse lahendused. See nõuab investeeringuid kogu ennetuse, avastamise ja kaitse ulatuses. Peame muutma kuritahtlike osalejate jaoks raskemaks juurdepääsu bioloogiliste ohtude loomiseks vajalikele teadmistele, seadmetele ja materjalidele, parandama oma võimet uudseid haiguspuhanguid varakult tuvastada ja jälgida ning tugevdama kiireks ja tõhusaks reageerimiseks vajalikke tehnoloogiaid—nagu isikukaitsevahendid, siseõhu puhastussüsteemid ja meditsiinilised vastumeetmed.

Kübervastupidavus

Tehisintellekt on hakanud kiiresti ümber kujundama küberturvalisuse maastikku. Tööd, mis kunagi nõudis spetsialiseeritud meeskondi, saavad nüüd aidata või automatiseerida võimekad mudelid. Samal ajal saab kiiresti paranevaid tehisintellekti võimekusi kasutada ka küberkaitsjate kiirendamiseks, sealhulgas tuvastades ja paigates haavatavusi ning kiirendades reageerimist.

Paljud suurettevõtted ja eraõiguslikud isikud saavad oma süsteemide turvamiseks palju kulutada, sealhulgas tehisintellekti uute edusammudega. Ootame, et keskendame märkimisväärseid ressursse teiste oluliste ühiskondlike osalejate turvamisele, kes on vähem varustatud ressurssidega ja kellel on palju raskem rakendada tehisintellektiks valmis küberkaitset nii kiiresti kui vaja. Paralleelselt oleme keskendunud ka ettevalmistumisele uudsete turvalisuse väljakutseteks, mida tehislik üldintellekt lõpuks toob.

Tehisintellekti mudelite ohutus

Tehisintellekti mudelite ohutus keskendub süsteemide enda käitumisele—kas need on tõesed, usaldusväärsed ja kooskõlas inimese kavatsustega. Maailmas, kus see läheb viltu, võivad mudelid murda välja ja käituda ettearvamatutel viisidel, pettes meid või järgides eesmärke, mis ulatuvad kaugemale nende kujundusest. Selle õigesti tegemine muutub üha olulisemaks, kuna tehisintellekti süsteemid muutuvad üha autonoomsemaks ja lähenevad—ja lõpuks ületavad—inimtasemel mõistuse.

Tehisintellekti ettevõtted investeerivad mudelite ohutusse märkimisväärseid ressursse. Kuid selle väljakutse olulisus nõuab laiemat ja tugevamat ökosüsteemi: sõltumatuid institutsioone mudelite ohutuse hindamiseks, avalikku infrastruktuuri, et kontrollida mudelite ohutut juurutamist praktikas, ja pidevaid edusamme joondamisteaduses, mis edendavad valdkonda laiemalt.

Tehisintellekti mõju noortele

Noored on sageli uute tehnoloogiate esimesed kasutuselevõtjad, kasutades neid õppimiseks, loomiseks, suhtlemiseks ja maailma avastamiseks. Tehisintellekt ei ole erand. Kuid kuna need vahendid muutuvad üha enamaks osaks noorte igapäevaelust, on kriitilise tähtsusega arendada tugevamat tõendusbaasi nende mõjude mõistmiseks.

Pered, koolid, poliitikakujundajad ja kogukonnaorganisatsioonid maadlevad kõik küsimustega, kuidas ja millal noored tehisintellektiga suhtlevad—sealhulgas selle mõjuga inimestevahelisele sidemele, õppimisele ja arengule. Meie esialgne fookus on sõltumatute uuringute edendamisel, et aidata neid otsuseid suunata – et paremini mõista, kus tehisintellekt saab arengut toetada, milliseid riske see võib endaga kaasa tuua ja milliseid kontekste need mõjud kujundavad.

Need arusaamad peaksid vedama laialdasi ohutusstandardeid ja kujunduspõhimõtteid, mis juhivad seda, kuidas mis tahes tehisintellekti toodet arendatakse, kuidas koolid valivad nende juurutamist ja kas ning kuidas pered otsustavad neid tehnoloogiaid oma ellu integreerida.

Eesootav töö

Tehisintellekti ja sellele eelnenud tehnoloogiate vahel on üks kriitiline erinevus: kiirus.

Tule vastupidavus võttis aastatuhandeid. Elektri vastupidavus võttis aastakümneid. Tehisintellekti vastupidavus areneb aastatega. Süsteemid, mis muudavad selle ohutuks, usaldusväärseks ja laialdaselt kasulikuks, tuleb luua sellega samal ajal.

Kui teeme selle õigesti, võib tehisintellektist saada kaasaegse elu alusinfrastruktuuri osa—avardades juurdepääsu teadmistele, kiirendades avastusi ja parandades elusid globaalsel tasandil.

Kuid see tulemus ei ole garanteeritud. Ükski üldotstarbeline tehnoloogia ei ole end ise ohutuks teinud.

Vastupidavus on pidev distsipliin, mille ülesehitamine, investeeringud ja koostöö nõuavad paljude inimeste ja institutsioonide panust. See on eesseisev töö ning see on üks meie ajastu märgilisemaid väljakutseid. Loodame, et ühined meiega.