Robusthet i KI-alderen

OpenAI Foundation finnes for å sikre at kunstig generell intelligens kommer hele menneskeheten til gode.

Vi har jobbet utrettelig for å holde tritt med de raske fremskrittene innen selve KI. I april kunngjorde⁠ stiftelsen våre første tilskudd på 100 millioner dollar innen biovitenskap og kurering av sykdommer, med en ambisjon om å bidra til å forebygge og behandle sykdommer som Alzheimers sykdom ved å utnytte avansert KI. I forrige uke kunngjorde⁠ vi Jobs and Economic Futures-programmet vårt, i håp om å forstå og forme hva arbeid og økonomisk velstand betyr for fremtidige generasjoner.

I dag bygger vi videre på visjonen vår for det neste store programmet – for å sikre at etter hvert som KIs evner vokser, vil samfunnets evne til å dra nytte av dem vokse like raskt. Vi kaller dette arbeidet KI-robusthet: økosystemtilnærmingen som kreves for å redusere risikoene ved KI, slik at samfunnet kan maksimere fordelene.

Arbeidet vårt er allerede i gang. I løpet av de få korte månedene siden vi startet arbeidet vårt, arbeider stiftelsen med å sluttføre tilskudd på mer enn $130 millioner til organisasjoner gjennom vårt AI-resiliensprogram. Disse vil snart bli offentliggjort, og mer er på vei.^1⁠

Mønsteret for transformative teknologier

Betydningen av KI-robusthet forstås best i lys av tidligere teknologier som på vesentlig måte har formet menneskehetens historie.

Fra tid til annen dukker det opp en teknologi som omformer samfunnet fra grunnen av. Økonomer kaller disse «generelle formålsteknologier». Brann. Trykkpressen. Elektrisitet. Internett. Hver av dem fulgte et lignende utviklingsforløp: rask innovasjon, reelle risikoer og institusjoner som hastet med å holde tritt. Men hvert eksempel viser også hva som skal til for å gjøre en kraftig teknologi trygg.

Ilden gjorde menneskelig sivilisasjon mulig. Den holdt oss varme, tilberedte maten vår og beskyttet oss mot rovdyr. Det brente også byene våre til grunnen. Over tid bygde samfunn opp motstandskraft: brannbestandige materialer, nettverk av brannhydranter, profesjonelle brannvesen og byggeforskrifter. Et økosystem, lag for lag.

Elektrisitet fulgte den samme stien. Etter at Edisons Pearl Street Station lyste opp Manhattan i 1882, førte elektrisiteten med seg branner, dødsfall ved elektrisk støt og panikk i offentligheten. Uten vernetiltak som isolerte ledninger, automatsikringer og forskrifter ble arbeidere og forbipasserende elektrocutert i byer over hele landet. Byene diskuterte om eksperimentet burde skrinlegges helt. I stedet fikk vi, etter hvert som teknologien utviklet seg, på plass uavhengige testorganer som Underwriters Laboratories, bransjestandarder som National Electrical Code og offentlige investeringer som førte strøm til lokalsamfunn markedet hadde latt bli hengende etter. Hvert lag gjorde strømmen tryggere og mer tilgjengelig; i dag er den så trygg at et barn kan slå på en bryter, og lyset tennes.

Slik ser robusthet ut når det gjøres riktig.

KI krever et økosystem for motstandsdyktighet

KI følger samme utviklingsløp som tidligere teknologier, men beveger seg i et tempo uten sidestykke.

Vi er fortsatt i en tidlig fase, men fordelene er allerede tydelige: KI senker terskelen for å starte en bedrift, utvider tilgangen til utdanning, fremskynder vitenskapelige oppdagelser og forandrer medisinen.

Samtidig oppstår risikoene like raskt – og som et speilbilde av fordelene med KI. Den samme veksten som skaper nye næringer, kan snu eksisterende næringer på hodet og skape omveltninger i karrierer. De samme systemene som kan hjelpe unge mennesker med å lære og skape, kan også føre til skadelig atferd. Verktøyene som fremskynder biologisk forskning, kan senke terskelen for å skape skadelige patogener. Og KIs evne til å skrive kode, i feil hender, kan true kritisk infrastruktur.

Det tidlige OpenAI-teamet mente at det å sikre at KI kommer samfunnet til gode, først og fremst var avhengig av å løse det tekniske tilpasningsproblemet. Det er fortsatt avgjørende – og står sentralt i arbeidet vårt – men vi mener nå at det bare er én del av puslespillet. Etter hvert som KI sprer seg på tvers av sektorer og land, vil samfunnet også ha behov for uavhengig forskning, offentlig infrastruktur, koordinering i næringslivet og helt nye kompetansefelt. Kort sagt vil det kreve KI-robusthet.

Vi har valgt å fokusere vårt innledende arbeid på fire områder^2⁠ som befinner seg i skjæringspunktet mellom store risikoer på kort sikt og umiddelbar effekt:

1. Biologisk motstandskraft for å bidra til å forebygge fremtidens konstruerte pandemier;

2. Cyberrobusthet for å bidra til å ivareta sikkerheten i verdens kritiske systemer;

3. Sikkerhet for KI-modeller for å befeste menneskehetens kontroll over modellene vi skaper; og

4. KIs innvirkning på unge mennesker for å bidra til å gjøre teknologi til en positiv kraft for fremtidige generasjoner.

Vårt arbeid er bare begynnelsen. Vi planlegger å dele mer om strategiene våre og de første tilskuddene på hvert område, og å utvide til andre områder over tid.

Bio-resiliens

KI vil gjøre det mulig for biologisk forskning å bevege seg i et tempo uten sidestykke, og bidra til å utvikle nye behandlingsmetoder og forbedringer innen helse som gjør at vi alle kan leve sunnere og lenger. Disse samme mulighetene kan imidlertid også misbrukes av ondsinnede aktører, noe som senker terskelen for å utforme skadelige patogener.

KI-alderen krever et fornyet fokus på biosikkerhet. Fordi avanserte KI-systemer kan misbrukes av ondsinnede aktører til å bidra til å skape et bredt spekter av biologiske trusler, vil vi prioritere patogenuavhengige biosikkerhetsløsninger. Dette vil kreve investeringer på tvers av forebygging, deteksjon og forsvar. Vi må gjøre det vanskeligere for ondsinnede aktører å få tilgang til ekspertisen, utstyret og materialene som trengs for å skape biologiske trusler, forbedre vår evne til å identifisere og spore nye utbrudd tidlig, og styrke teknologiene—som verneutstyr, systemer for rensing av inneluft og medisinske mottiltak—som trengs for å respondere raskt og effektivt.

Cyberresiliens

KI har begynt å omforme cybersikkerhetslandskapet i høyt tempo. Arbeidet som tidligere krevde spesialiserte team, kan nå støttes eller automatiseres av kapable modeller. Samtidig kan stadig mer avanserte KI-kapasiteter også brukes til å gjøre cyberforsvarere mer effektive, blant annet ved å identifisere og tette sårbarheter og fremskynde responsen.

Mange store selskaper og private aktører kan bruke store summer på cybersikkerhet for å sikre sine egne systemer, blant annet med nye fremskritt innen KI. Vi regner med å rette betydelige ressurser mot å sikre andre viktige samfunnsaktører som har færre ressurser, og som vil ha langt større problemer med å ta i bruk KI-klare cyberforsvar så raskt som det er behov for. Parallelt fokuserer vi også på å forberede oss på nye sikkerhetsutfordringer som kunstig generell intelligens til syvende og sist vil føre med seg.

KI-modellsikkerhet

Sikkerhet for KI-modeller fokuserer på atferden til selve systemene – om de er sannferdige, pålitelige og i tråd med menneskelige intensjoner. I en verden der dette går galt, kan modeller bryte ut og oppføre seg på uforutsigbare måter, lure oss eller forfølge mål utover det de er utformet for. Å få dette riktig blir stadig viktigere etter hvert som KI-systemer blir mer autonome og nærmer seg – og etter hvert overgår – intelligens på menneskelig nivå.

KI-selskaper investerer betydelige ressurser i modellsikkerhet. Likevel krever betydningen av denne utfordringen et bredere og mer robust økosystem: uavhengige institusjoner for å evaluere modellsikkerhet, offentlig infrastruktur for å verifisere trygg utrulling av modeller i praksis, og fortsatte fremskritt innen tilpasningsforskning som bringer feltet bredt videre.

KIs innvirkning på unge mennesker

Unge mennesker er ofte blant de første til å ta i bruk ny teknologi, og bruker den til å lære, skape, kommunisere og utforske verden. KI er intet unntak. Men etter hvert som disse verktøyene blir en stadig større del av unges hverdag, er det avgjørende at vi utvikler et sterkere kunnskapsgrunnlag for å forstå hvilke virkninger de har.

Både familier, skoler, makthavere og lokale organisasjoner er opptatt av hvordan og når unge mennesker skal kunne bruke KI, og hvilken innvirkning det har på menneskelig kontakt, læring og utvikling. I første omgang fokuserer vi på å fremme uavhengig forskning som kan bidra til å veilede disse beslutningene, for å bedre forstå hvor KI kan støtte utvikling, hvilke risikoer teknologien kan medføre, og i hvilke forbindelser disse virkningene formes.

Denne innsikten bør danne grunnlag for brede sikkerhetsstandarder og designprinsipper som veileder hvordan KI-produkter utvikles, hvordan skoler velger å ta dem i bruk, og om og hvordan familier bestemmer seg for å innlemme disse teknologiene i livene sine.

Arbeidet som ligger foran oss

Det er én avgjørende forskjell på KI og teknologiene som kom før den: hastighet.

Motstandsdyktighet mot brann tok årtusener. Robusthet i strømforsyningen tok flere tiår. KI-robusthet utvikler seg i løpet av få år. Systemene som gjør det trygt, pålitelig og til bred nytte, må bygges parallelt med det.

Hvis vi gjør dette riktig, kan KI bli en del av den grunnleggende infrastrukturen i det moderne livet – utvide tilgangen til kunnskap, fremskynde oppdagelser og forbedre liv på global skala.

Men det utfallet er ikke garantert. Ingen teknologi med generelt bruksområde har noensinne gjort seg selv trygg.

Robusthet er en varig disiplin som krever at mange mennesker og institusjoner bygger, investerer og samarbeider. Det er arbeidet som ligger foran oss, og det er en av utfordringene som definerer vår tid. Vi håper du blir med.