Resilienssi tekoälyn aikakaudella

OpenAI-säätiön tarkoituksena on varmistaa, että yleinen tekoäly hyödyttää koko ihmiskuntaa.

Olemme tehneet hellittämättä töitä pysyäksemme mukana tekoälyn nopeassa kehityksessä. Huhtikuussa säätiö ilmoitti⁠ myöntävänsä ensimmäiset 100 miljoonan dollarin apurahat biotieteiden ja sairauksien hoidon aloille. Tavoitteena on auttaa ehkäisemään ja hoitamaan esimerkiksi Alzheimerin tautia hyödyntämällä edistynyttä tekoälyä. Viime viikolla julkaisimme⁠ Työ ja taloudellinen tulevaisuus -ohjelmamme, jonka tavoitteena on ymmärtää ja muokata sitä, mitä työ ja taloudellinen vauraus merkitsevät tuleville sukupolville.

Tänään laajennamme visiotamme seuraavasta suuresta ohjelmasta – varmistaaksemme, että tekoälyn kehittyessä yhteiskunnan kyky hyödyntää sitä kasvaa yhtä nopeasti. Kutsumme tätä työtä tekoälyn resilienssiksi. Se on ekosysteemiin perustuva lähestymistapa, jota tarvitaan tekoälyn riskien hallitsemiseksi, jotta yhteiskunta voi hyötyä siitä mahdollisimman paljon.

Työmme on jo alkanut. Toimintamme aloittamisesta kuluneiden muutaman kuukauden aikana säätiö on viimeistelemässä yli 130 miljoonan dollarin avustuksia organisaatioille AI Resilience -ohjelmansa kautta. Nämä avustukset julkistetaan pian, ja lisää on tulossa.^1⁠

Muutosteknologioiden kehitys

Tekoälyn resilienssin merkitys ymmärretään parhaiten tarkastelemalla aiempia teknologioita, jotka ovat merkittävästi muovanneet ihmiskunnan historiaa.

Aina silloin tällöin ilmestyy teknologia, joka muokkaa yhteiskuntaa perusteellisesti. Taloustieteilijät kutsuvat näitä ”yleiskäyttöisiksi teknologioiksi”. Tulipalo. Painokone Sähkö Internet Kullakin oli samankaltainen kehityskaari: nopea innovointi, todelliset riskit, ja instituutioiden kiire pysyä perässä. Jokainen esimerkki osoittaa myös, mitä vaaditaan, jotta tehokas teknologia voidaan tehdä turvalliseksi.

Tuli mahdollisti ihmiskunnan sivilisaation. Se piti meidät lämpiminä, kypsensi ruokamme ja suojeli meitä petoeläimiltä. Se myös poltti kaupunkimme maan tasalle. Ajan myötä yhteiskunnat vahvistivat kriisinkestävyyttään: palonkestäviä materiaaleja, palopostiverkostoja, ammattimaisia palokuntia ja rakennusmääräyksiä. Ekosysteemi, kerros kerrokselta.

Sähkö kehittyi samalla tavalla. Edisonin Pearl Streetin voimalaitos valaisi Manhattanin vuonna 1882- Sähkö toi kuitenkin mukanaan tulipaloja, sähköiskun aiheuttamia kuolemantapauksia ja yleistä paniikkia. Ilman suojatoimia kuten eristettyjä johtoja, suojakatkaisijoita ja sähköturvallisuusmääräyksiä työntekijät ja sivulliset kuolivat sähköiskuihin kaupungeissa eri puolilla maata. Kaupungeissa pohdittiin, pitäisikö kokeilu lopettaa kokonaan. Sen sijaan teknologian kehittyessä loimme riippumattomia testauslaitoksia, kuten Underwriters Laboratoriesin, otimme käyttöön National Electrical Coden kaltaisia alan standardeja, ja teimme julkisia investointeja, joiden avulla saatiin sähköä yhteisöihin, jotka markkinat olivat jättäneet huomiotta. Jokainen kerros teki sähköstä turvallisempaa ja helpommin saavutettavaa. Nykyään se on niin turvallista, että lapsi voi painaa kytkintä ja valo syttyy.

Tältä näyttää hyvin toteutettu resilienssi.

Tekoäly tarvitsee resilienssiä tukevan ekosysteemin

Tekoäly kulkee samaa kehityskulkua kuin aiemmat teknologiat, mutta etenee ennennäkemättömällä nopeudella.

Olemme vielä alkuvaiheessa, mutta hyödyt ovat jo selvät: tekoäly madaltaa yrityksen perustamisen kynnystä, laajentaa koulutuksen saatavuutta, vauhdittaa tieteellisiä löytöjä ja uudistaa lääketiedettä.

Samaan aikaan riskit nousevat esiin yhtä nopeasti – ja ikään kuin tekoälyn hyötyjen peilikuvana. Sama kasvu, joka luo uusia toimialoja, voi myös mullistaa olemassa olevia toimialoja ja aiheuttaa muutoksia työelämässä. Samat järjestelmät, jotka voivat auttaa nuoria oppimaan ja luomaan, voivat myös johtaa haitalliseen käyttäytymiseen. Biologista tutkimusta nopeuttavat työkalut voisivat madaltaa kynnystä haitallisten taudinaiheuttajien luomiseen. Ja tekoälyn kyky kirjoittaa koodia voi väärissä käsissä vaarantaa kriittisen infrastruktuurin.

OpenAI:n alkuperäinen tiimi oli sitä mieltä, että tekoälyn hyötyjen varmistaminen yhteiskunnalle riippui ensisijaisesti teknisen linjausongelman ratkaisemisesta. Se on edelleen ratkaisevan tärkeää – ja keskeistä työllemme – mutta uskomme nyt, että se on vain yksi osa kokonaisuutta. Kun tekoäly leviää eri sektoreille ja maihin, yhteiskunta tarvitsee myös riippumatonta tutkimusta, julkista infrastruktuuria, toimialojen koordinointia ja kokonaan uusia asiantuntemuksen aloja. Lyhyesti sanottuna se edellyttää tekoälyn resilienssiä.

Olemme päättäneet keskittää alkuvaiheen työmme neljään alueeseen^2⁠, jotka sijoittuvat merkittävien lähiajan riskien ja välittömän vaikutuksen leikkauspisteeseen:

1. Bioresilienssi, jolla pyritään ehkäisemään tulevaisuuden keinotekoisia pandemioita;

2. Kyberresilienssi, jolla varmistetaan maailman kriittisten järjestelmien turvallisuus;

3. Tekoälymallien turvallisuus vahvistaa ihmiskunnan hallintaa luomistamme malleista; ja

4. Tekoälyn vaikutus nuoriin auttaa tekemään teknologiasta myönteisen voiman tuleville sukupolville.

Työmme on vasta alussa. Aiomme kertoa lisää strategioistamme ja alkuvaiheen apurahoistamme kullakin osa-alueella sekä laajentaa toimintaamme ajan myötä muillekin alueille.

Bioresilienssi

Tekoäly mahdollistaa biologisen tutkimuksen etenemisen ennennäkemättömällä nopeudella ja auttaa kehittämään uusia lääkkeitä sekä kansanterveyden parannuksia, joiden ansiosta voimme kaikki elää terveempinä ja pidempään. Kuitenkin myös pahantahtoiset toimijat voisivat väärinkäyttää näitä samoja kyvykkyyksiä, mikä madaltaisi kynnystä haitallisten taudinaiheuttajien kehittämiselle.

Tekoälyn aikakausi edellyttää, että bioturvallisuuteen kiinnitetään entistä enemmän huomiota. Koska pahantahtoiset toimijat voisivat väärinkäyttää kehittyneitä tekoälyjärjestelmiä monenlaisten biologisten uhkien luomiseen, asetamme etusijalle taudinaiheuttajista riippumattomat bioturvallisuusratkaisut. Tämä edellyttää investointeja ennaltaehkäisyyn, tunnistamiseen ja torjuntaan. Meidän on vaikeutettava pahantahtoisten toimijoiden pääsyä biologisten uhkien luomiseen tarvittavan asiantuntemuksen, laitteiden ja materiaalien äärelle, parannettava kykyämme tunnistaa ja seurata uusia epidemioita varhaisessa vaiheessa sekä vahvistettava teknologioita – kuten suojavarusteita, sisäilman puhdistusjärjestelmiä ja lääketieteellisiä vastatoimia – joita tarvitaan nopeaan ja tehokkaaseen reagointiin.

Kyberresilienssi

Tekoäly on alkanut nopeasti muuttaa kyberturvallisuuden toimintaympäristöä. Työtä, joka aiemmin vaati erikoistuneita tiimejä, voidaan nyt tukea tai automatisoida kyvykkäillä malleilla. Samalla nopeasti kehittyviä tekoälyominaisuuksia voidaan hyödyntää myös kyberturvallisuuden parantamisessa, esimerkiksi tunnistamalla ja korjaamalla haavoittuvuuksia sekä nopeuttamalla reagointia.

Monet suuret yritykset ja yksityiset toimijat voivat investoida huomattavia summia kyberturvallisuuteen varmistaakseen omien järjestelmiensä turvallisuuden, muun muassa hyödyntämällä tekoälyn uusimpia kehityssuuntia. Aiomme kohdentaa merkittäviä resursseja muiden tärkeiden yhteiskunnallisten toimijoiden turvaamiseen, joilla on vähemmän resursseja ja joille tekoälyvalmiiden kyberpuolustusratkaisujen käyttöönotto niin nopeasti kuin tarve edellyttää on huomattavasti vaikeampaa. Samanaikaisesti keskitymme myös valmistautumaan uudenlaisiin turvallisuushaasteisiin, joita yleinen tekoäly lopulta tuo mukanaan.

AI-mallin turvallisuus

Tekoälymallien turvallisuudessa keskitytään itse järjestelmien käyttäytymiseen – siihen, ovatko ne totuudenmukaisia, luotettavia ja ihmisten tavoitteiden mukaisia. Maailmassa jossa tämä menee pieleen, mallit voivat päästä hallinnasta ja käyttäytyä arvaamattomasti, johtaa meitä harhaan tai tavoitella päämääriä, jotka ylittävät niiden suunnittelun rajat. Tämän tekeminen oikein käy yhä tärkeämmäksi, kun tekoälyjärjestelmistä tulee yhä autonomisempia ja ne lähestyvät ihmistasoista älykkyyttä – ja lopulta ylittävät sen.

Tekoäly-yritykset investoivat merkittäviä resursseja mallien turvallisuuteen. Tämän haasteen merkitys edellyttää kuitenkin laajempaa ja vahvempaa ekosysteemiä: riippumattomia instituutioita arvioimaan mallien turvallisuutta, julkista infrastruktuuria todentamaan mallien turvallinen käyttöönotto käytännössä sekä jatkuvaa edistystä linjaustutkimuksessa, joka vie alaa laajasti eteenpäin.

Tekoälyn vaikutus nuoriin

Nuoret ovat usein uusien teknologioiden varhaisimpia omaksujia ja käyttävät niitä oppimiseen, luomiseen, viestimiseen ja maailman tutkimiseen. Tekoäly ei ole poikkeus. Mutta kun nämä työkalut ovat yhä suurempi osa nuorten arkea, on ratkaisevan tärkeää, että kehitämme vahvemman näyttöpohjan niiden vaikutusten ymmärtämiseksi.

Perheet, koulut, päättäjät ja yhteisöjärjestöt pohtivat kysymyksiä siitä, miten ja milloin nuoret ovat vuorovaikutuksessa tekoälyn kanssa, mukaan lukien sen vaikutukset ihmisten väliseen yhteyteen, oppimiseen ja kehitykseen. Aluksi keskitymme edistämään riippumatonta tutkimusta päätöksenteon tueksi – jotta ymmärtäisimme paremmin, missä tekoäly voi tukea kehitystä, mitä riskejä se voi tuoda mukanaan ja mitkä kontekstit muovaavat näitä vaikutuksia.

Näiden havaintojen tulisi ohjata laajoja turvallisuusstandardeja ja suunnitteluperiaatteita, jotka määrittävät, miten tekoälytuotteita kehitetään, miten koulut päättävät ottaa niitä käyttöön sekä päättävätkö ja miten perheet sisällyttävät nämä teknologiat elämäänsä.

Edessä oleva työ

Tekoälyn ja sitä edeltäneiden teknologioiden välillä on yksi ratkaiseva ero: nopeus.

Palonkestävyyden kehittyminen vei vuosituhansia. Sähköjärjestelmän häiriönsietokyvyn saavuttaminen vei vuosikymmeniä. Tekoälyn resilienssi kehittyy muutamassa vuodessa. Sen rinnalla on rakennettava järjestelmät, jotka tekevät siitä turvallisen, luotettavan ja yleisesti hyödyllisen.

Jos onnistumme siinä, tekoälystä voi tulla osa modernin elämän perusinfrastruktuuria – se laajentaa tiedon saatavuutta, nopeuttaa uusien löytöjen tekemistä ja parantaa ihmisten elämänlaatua maailmanlaajuisesti.

Mutta tämä lopputulos ei ole taattu. Mikään yleiskäyttöinen teknologia ei ole koskaan ollut itsessään turvallinen.

Resilienssi on jatkuva prosessi, joka edellyttää monien ihmisten ja instituutioiden panostusta, investointeja ja yhteistyötä. Tämä työ on yksi aikakautemme merkittävimmistä haasteista. Toivomme, että liityt joukkoomme.