Motståndskraft i AI-eran

OpenAI Foundation finns till för att säkerställa att artificiell generell intelligens kommer hela mänskligheten till godo.

Vi har arbetat outtröttligt för att hålla jämna steg med de snabba framstegen inom själva AI. I april tillkännagav⁠ stiftelsen våra första anslag på 100 miljoner dollar inom livsvetenskap och sjukdomsbekämpning, med målet att bidra till att förebygga och behandla sjukdomar som Alzheimers sjukdom genom att utnyttja avancerad AI. Förra veckan presenterade⁠ vi programmet Jobb och ekonomisk framtid, i hopp om att förstå och forma vad arbete och ekonomiskt välstånd innebär för framtida generationer.

I dag bygger vi vidare på vår vision för nästa stora program – för att säkerställa att samhällets förmåga att dra nytta av AI:s ökande kapacitet växer i samma takt. Vi kallar detta arbete för AI-motståndskraft: den ekosystembaserade strategi som krävs för att minska riskerna med AI, så att samhället kan dra maximal nytta av fördelarna.

Vårt arbete har redan börjat. Under de få månader som gått sedan vi inledde vårt arbete arbetar stiftelsen med att slutföra bidrag på mer än 130 miljoner dollar till organisationer genom vårt program för AI-motståndskraft. Dessa kommer snart att offentliggöras, och fler är på väg.^1⁠

Mönstret för transformativa tekniker

Betydelsen av AI-motståndskraft förstås bäst mot bakgrund av tidigare teknologier som på ett avgörande sätt har format mänsklighetens historia.

Då och då dyker det upp en teknik som omformar samhället från grunden. Ekonomer kallar dessa för ”allmänt användbara tekniker”. Eld. Tryckpressen. El. Internet. Var och en följde en liknande utvecklingskurva: snabb innovation, verkliga risker och institutioner som skyndade sig att komma ikapp. Men varje exempel visar också vad som krävs för att göra en kraftfull teknik säker.

Elden gjorde mänsklig civilisation möjlig. Den höll oss varma, tillagade maten och skyddade oss från rovdjur. Det brände också ner våra städer till grunden. Med tiden byggde samhällen upp motståndskraft: brandbeständiga material, brandpostnät, professionella brandkårer och byggnormer. Ett ekosystem, lager för lager.

Elektriciteten följde samma väg. Efter att Edisons Pearl Street Station lyste upp Manhattan 1882 förde elektriciteten med sig bränder, dödsolyckor genom elstötar och panik bland allmänheten. Utan skyddsåtgärder som isolerade ledningar, automatsäkringar och föreskrifter fick arbetare och förbipasserande dödliga elstötar i städer över hela landet. Städer diskuterade huruvida experimentet borde överges helt och hållet. I stället fick vi, i takt med att tekniken utvecklades, oberoende testorgan som Underwriters Laboratories, branschstandarder som National Electrical Code och offentliga investeringar som förde el till lokalsamhällen som marknaden hade lämnat på efterkälken. Varje steg gjorde elen säkrare och mer tillgänglig; idag är den så säker att ett barn kan trycka på en väggkontakt och tända lampan.

Så ser motståndskraften ut när den fungerar som bäst.

AI kräver ett ekosystem för motståndskraft

AI följer samma utvecklingskurva som tidigare tekniker, men utvecklas i en aldrig tidigare skådad takt.

Vi befinner oss fortfarande i ett tidigt skede, men fördelarna är redan tydliga: AI sänker tröskeln för att starta företag, breddar tillgången till utbildning, påskyndar vetenskapliga upptäckter och förändrar medicinen.

Samtidigt uppstår riskerna lika snabbt – och som en spegelbild av fördelarna med AI. Samma tillväxt som skapar nya branscher kan vända upp och ner på befintliga branscher och leda till omvälvningar i yrkeslivet. Samma system som kan hjälpa unga människor att lära sig och skapa kan också leda till skadligt beteende. De verktyg som påskyndar biologisk forskning kan sänka tröskeln för att skapa skadliga patogener. Och AI:s förmåga att skriva kod kan, i fel händer, utgöra ett hot mot viktig infrastruktur.

Det tidiga OpenAI-teamet ansåg att det för att säkerställa att AI kommer samhället till nytta i första hand handlade om att lösa det tekniska anpassningsproblemet. Det är fortfarande avgörande – och står i centrum för vårt arbete – men vi anser nu att det bara är en del av pusslet. I takt med att AI sprider sig över olika sektorer och länder kommer samhället också att behöva oberoende forskning, offentlig infrastruktur, samordning inom näringslivet och helt nya kompetensområden. Kort sagt kommer det att kräva AI-motståndskraft.

Vi har valt att inledningsvis fokusera vårt arbete på fyra områden^2⁠ som befinner sig i skärningspunkten mellan stora kortsiktiga risker och omedelbar effekt:

1. biologisk motståndskraft för att bidra till att förebygga framtida konstgjorda pandemier

2. cybersäkerhet för att bidra till att upprätthålla säkerheten i världens kritiska system

3. säkerhet för AI-modeller för att befästa mänsklighetens kontroll över de modeller vi skapar

4. AI:s påverkan på unga människor för att bidra till att göra tekniken till en positiv kraft för kommande generationer.

Vårt arbete har bara börjat. Vi planerar att dela med oss av mer information om våra strategier och de första anslagen inom varje område, samt att successivt utvidga verksamheten till andra områden.

Biologisk motståndskraft

AI kommer att göra det möjligt för den biologiska forskningen att utvecklas i en oöverträffad takt och bidra till att ta fram nya behandlingsmetoder och förbättringar inom hälso- och sjukvården som gör att vi alla kan leva hälsosammare och längre. Dessa möjligheter kan dock också missbrukas av illvilliga aktörer, vilket sänker tröskeln för att ta fram skadliga patogener.

AI-eran kräver ett förnyat fokus på biosäkerhet. Eftersom avancerade AI-system kan missbrukas av illvilliga aktörer för att bidra till att skapa ett brett spektrum av biologiska hot, kommer vi att prioritera patogenoberoende biosäkerhetslösningar. Detta kommer att kräva investeringar inom både förebyggande åtgärder, upptäckt och försvar. Vi måste göra det svårare för illvilliga aktörer att få tillgång till den expertis, den utrustning och de material som krävs för att skapa biologiska hot, förbättra vår förmåga att tidigt identifiera och spåra nya utbrott, och stärka de tekniker – som skyddsutrustning, system för rening av inomhusluft och medicinska motåtgärder – som krävs för att reagera snabbt och effektivt.

Cybersäkerhet

AI har börjat omforma cybersäkerhetslandskapet i rask takt. Det arbete som tidigare krävde specialiserade team kan nu stödjas eller automatiseras av avancerade modeller. Samtidigt kan AI-kapaciteter som utvecklas snabbt även användas för att göra cybersäkerhetspersonal mer effektiv, bland annat genom att identifiera och åtgärda sårbarheter samt påskynda insatserna.

Många stora företag och privata aktörer kan lägga stora summor på cybersäkerhet för att skydda sina egna system, bland annat genom nya framsteg inom AI. Vi räknar med att avsätta betydande resurser för att stödja andra viktiga samhällsaktörer som har mindre resurser och som kommer att ha betydligt större svårigheter att införa AI-baserade cyberförsvar så snabbt som det krävs. Samtidigt fokuserar vi också på att förbereda oss för de nya säkerhetsutmaningar som den allmänna artificiella intelligensen i slutändan kommer att medföra.

Säkerhet för AI-modeller

Säkerhet för AI-modeller fokuserar på systemens beteende – om de är sanningsenliga, tillförlitliga och i linje med människors avsikter. I en värld där detta går snett kan modellerna gå överstyr och bete sig på oförutsägbara sätt, lura oss eller jaga mål som ligger utanför det de är avsedda för. Att få detta rätt blir allt viktigare i takt med att AI-system blir mer autonoma och närmar sig – och så småningom överträffar – mänsklig intelligens.

AI-företag investerar betydande resurser i modellsäkerhet. Ändå kräver betydelsen av denna utmaning ett bredare och mer robust ekosystem: oberoende institutioner för att utvärdera modellsäkerhet, offentlig infrastruktur för att verifiera en säker implementering av modeller i praktiken, samt fortsatta framsteg inom anpassningsforskning som driver området framåt på bred front.

AI:s påverkan på unga människor

Ungdomar är ofta bland de första att ta till sig ny teknik och använder den för att lära sig, skapa, kommunicera och utforska världen. AI är inget undantag. Men i takt med att dessa verktyg blir en allt större del av ungdomars vardag är det avgörande att vi bygger upp en bredare kunskapsbas för att förstå vilka effekter de har.

Familjer, skolor, beslutsfattare och organisationer i lokalsamhället arbetar alla med frågor om hur och när ungdomar använder AI – inklusive vilken inverkan det har på mänskliga kontakter, lärande och utveckling. Vårt inledande fokus kommer att ligga på att främja oberoende forskning för att bidra till att vägleda dessa beslut – för att bättre förstå var AI kan stödja utveckling, vilka risker den kan medföra och vilka sammanhang som formar dessa effekter.

Denna insikt bör ligga till grund för övergripande säkerhetsstandarder och designprinciper som ger vägledning om hur AI-produkter utvecklas, hur skolor väljer att använda dem samt om och hur familjer beslutar sig för att integrera dessa tekniker i sina liv.

Arbetet som väntar

Det finns en avgörande skillnad mellan AI och de tekniker som föregick den: hastigheten.

Motståndskraft mot eld tog årtusenden. Det tog årtionden att uppnå motståndskraft i elförsörjningen. Motståndskraft inom AI utvecklas på bara några år. De system som gör det säkert, tillförlitligt och till nytta för många måste byggas parallellt med det.

Om vi gör detta på rätt sätt kan AI bli en del av den grundläggande infrastrukturen i det moderna livet – bredda tillgången till kunskap, påskynda upptäckter och förbättra människors liv på global nivå.

Men det resultatet är inte garanterat. Ingen allmänt användbar teknik har någonsin gjort sig själv säker.

Motståndskraft är en permanent disciplin som kräver att många människor och institutioner bygger upp, investerar och samarbetar. Det är den uppgiften som väntar oss, och det är en av vår tids avgörande utmaningar. Vi hoppas att du vill vara med.