Weerbaarheid in het tijdperk van AI

De missie van de OpenAI Foundation is ervoor te zorgen dat kunstmatige algemene intelligentie de hele mensheid ten goede komt.

We werken onvermoeibaar om de snelle ontwikkelingen binnen AI zelf bij te benen. In april kondigde⁠ de Foundation de eerste 100 miljoen dollar aan subsidies aan voor de biowetenschappen en de bestrijding van ziekten. Ons doel is om met behulp van geavanceerde AI ziektes zoals alzheimer te helpen voorkomen en behandelen. Vorige week kondigden⁠ we ons programma Jobs and Economic Futures aan. Hiermee willen we begrijpen en vormgeven wat werk en economische welvaart betekenen voor toekomstige generaties.

Vandaag presenteren we de visie achter ons volgende grote initiatief. We willen ervoor zorgen dat de maatschappij net zo snel leert om te gaan met AI als dat de technologie zelf zich ontwikkelt. We noemen dit AI-weerbaarheid: een ecosysteem-brede aanpak om de risico's van AI te beperken, zodat de samenleving de voordelen ervan kan maximaliseren.

Ons werk is al begonnen. Slechts enkele maanden na de start legt de Foundation momenteel de laatste hand aan meer dan 130 miljoen dollar aan subsidies voor diverse organisaties binnen ons AI-weerbaarheidsprogramma. De details hiervan worden binnenkort bekendgemaakt, en er volgt snel meer.^1⁠

Het patroon van transformatieve technologieën

Het belang van AI-weerbaarheid is het best te begrijpen door te kijken naar eerdere technologieën die de menselijke geschiedenis ingrijpend hebben gevormd.

Eens in de zoveel tijd dient zich een technologie aan die de samenleving vanaf de grond toe opnieuw vormgeeft. Economen noemen dit 'general purpose technologies'. Vuur. De drukpers. Elektriciteit. Het internet. Elk volgde een vergelijkbaar verloop: snelle innovatie, reële risico's en instanties die zich moesten haasten om bij te blijven. Maar elk voorbeeld laat ook zien wat er nodig is om een krachtige technologie veilig te maken.

Vuur maakte de menselijke beschaving mogelijk. Het hield ons warm, kookte ons eten en beschermde ons tegen roofdieren. Het legde ook onze steden in de as. In de loop der tijd bouwde de samenleving weerbaarheid op: brandvertragende materialen, netwerken van brandkranen, professionele brandweerkorpsen en bouwvoorschriften. Een ecosysteem, laag voor laag.

Elektriciteit volgde hetzelfde pad. Nadat Edisons Pearl Street Station in 1882 Manhattan verlichtte, bracht elektriciteit branden, elektrocuties en publieke paniek met zich mee. Zonder bescherming zoals geïsoleerde bedrading, zekeringen en richtlijnen werden arbeiders en omstanders in steden door het hele land geëlektrocuteerd. Steden debatteerden over de vraag of het experiment niet volledig moest worden gestaakt. In plaats daarvan richtten we, naarmate de technologie vorderde, onafhankelijke keuringsinstanties op zoals Underwriters Laboratories, industriestandaarden zoals de National Electrical Code, en zorgden we voor publieke investeringen die stroom brachten naar gemeenschappen die door de markt waren achtergelaten. Elke laag maakte elektriciteit veiliger en toegankelijker; vandaag de dag is het zo veilig dat een kind een schakelaar kan omzetten en er licht brandt.

Zo ziet weerbaarheid eruit wanneer het goed wordt vormgegeven.

AI vereist een weerbaar ecosysteem

AI volgt hetzelfde traject als eerdere technologieën, maar beweegt zich voort met een ongekende snelheid.

We staan nog aan het begin, maar de voordelen zijn nu al duidelijk: AI verlaagt de drempel om een bedrijf te starten, verruimt de toegang tot onderwijs, versnelt wetenschappelijke ontdekkingen en transformeert de geneeskunde.

Tegelijkertijd dienen de risico's zich net zo snel aan, als het spiegelbeeld van de voordelen van AI. Dezelfde groei die nieuwe industrieën creëert, kan bestaande ontwrichten en carrières overhoopgooien. Dezelfde systemen die jongeren kunnen helpen te leren en te creëren, kunnen ook leiden tot schadelijk gedrag. De tools die biologisch onderzoek versnellen, kunnen de drempel voor het creëren van schadelijke pathogenen verlagen. En het vermogen van AI om code te schrijven kan, in de verkeerde handen, vitale infrastructuur bedreigen.

Het vroege OpenAI-team geloofde dat het laten slagen van AI voor de samenleving vooral afhing van het oplossen van het technische alignment-probleem. Dat blijft cruciaal en staat centraal in ons werk, maar we geloven nu dat het slechts een deel van de puzzel is. Naarmate AI zich verspreidt over sectoren en landen, heeft de samenleving ook behoefte aan onafhankelijk onderzoek, publieke infrastructuur, sectorbrede coördinatie en compleet nieuwe expertisegebieden. Kortom, het vereist AI-weerbaarheid.

We hebben ervoor gekozen ons eerste werk te richten op vier gebieden^2⁠ die zich op het snijvlak bevinden van grote, nabije risico's en directe impact:

1. Bio-weerbaarheid om kunstmatige pandemieën van de toekomst te helpen voorkomen;

2. Cyberweerbaarheid om te werken aan de veiligheid van de vitale systemen in onze wereld;

3. Veiligheid van AI-modellen om de controle van de mensheid over de modellen die we creëren te verankeren; en

4. De impact van AI op jongeren om te helpen technologie een positieve kracht te laten zijn voor toekomstige generaties.

Ons werk is nog maar net begonnen. We zijn van plan om meer te delen over onze strategieën en eerste subsidies binnen elk gebied, en dit in de loop der tijd uit te breiden naar andere gebieden.

Bio-weerbaarheid

AI zal biologisch onderzoek in staat stellen om zich in een ongekend tempo te ontwikkelen. Dit helpt bij het vinden van nieuwe geneesmiddelen en het verbeteren van de volksgezondheid, waardoor we allemaal gezonder en langer kunnen leven. Dezelfde mogelijkheden kunnen echter ook worden misbruikt door kwaadwillenden, wat de drempel verlaagt om schadelijke pathogenen te ontwerpen.

Het tijdperk van AI vraagt om een hernieuwde focus op bioveiligheid. Omdat geavanceerde AI-systemen door kwaadwillenden kunnen worden misbruikt om een breed scala aan biologische dreigingen te creëren, geven wij prioriteit aan pathogeen-agnostische bioveiligheidsoplossingen. Dit vereist investeringen op het gebied van preventie, detectie en defensie. We moeten het kwaadwillenden moeilijker maken om toegang te krijgen tot de expertise, apparatuur en materialen om biologische dreigingen te creëren. Ook moeten we ons vermogen verbeteren om nieuwe uitbraken vroegtijdig te identificeren en te volgen, en de technologieën versterken (zoals beschermingsmiddelen, luchtzuiveringssystemen voor binnenruimtes en medische tegenmaatregelen) die nodig zijn om snel en effectief te reageren.

Cyberweerbaarheid

AI is begonnen het cybersecuritylandschap in hoog tempo te hervormen. Taken waar vroeger gespecialiseerde teams voor nodig waren, kunnen nu worden ondersteund of geautomatiseerd door capabele modellen Tegelijkertijd kunnen snel verbeterende AI-mogelijkheden ook worden ingezet om cyberverdedigers te versterken, bijvoorbeeld door kwetsbaarheden te identificeren en te dichten, en reactietijden te verkorten.

Veel grote bedrijven en private partijen kunnen fors investeren in cyberbeveiliging om hun eigen systemen te beschermen, onder meer met de nieuwste ontwikkelingen in AI. Wij zijn van plan om aanzienlijke middelen te richten op het beveiligen van andere belangrijke maatschappelijke actoren die minder middelen hebben en veel meer moeite zullen hebben om tijdig AI-gestuurde cyberdefensie te implementeren. Parallel hieraan richten we ons op de voorbereiding op nieuwe beveiligingsuitdagingen die algemene kunstmatige intelligentie (AGI) uiteindelijk met zich mee zal brengen.

Veiligheid van AI-modellen

AI-modelveiligheid richt zich op het gedrag van de systemen zelf, of ze waarheidsgetrouw, betrouwbaar en afgestemd op de menselijke intentie zijn. In een scenario waarin dit misgaat, kunnen modellen ontsporen en zich op onvoorspelbare manieren gedragen, ons misleiden of doelen najagen die buiten hun ontwerp liggen. Dit goed aanpakken wordt steeds belangrijker naarmate AI-systemen autonomer worden en de menselijke intelligentie naderen en uiteindelijk overtreffen.

AI-bedrijven investeren aanzienlijke middelen in modelveiligheid. De omvang van deze uitdaging vraagt echter om een breder, robuuster ecosysteem: onafhankelijke instanties om modelveiligheid te evalueren, publieke infrastructuur om de veilige inzet van modellen in de praktijk te verifiëren, en voortdurende vooruitgang in de alignment-wetenschap om het vakgebied in de breedte vooruit te helpen.

De impact van AI op jongeren

Jongeren lopen vaak voorop bij het omarmen van nieuwe technologieën. Ze gebruiken deze om te leren, te creëren, te communiceren en de wereld te ontdekken. AI vormt daarop geen uitzondering. Maar nu deze tools een steeds groter deel uitmaken van het dagelijks leven van jongeren, is het essentieel dat we een stevigere wetenschappelijke basis leggen om de impact ervan te begrijpen.

Gezinnen, scholen, beleidsmakers en maatschappelijke organisaties worstelen allemaal met vragen over hoe en wanneer jongeren met AI omgaan, inclusief de invloed ervan op menselijk contact, leren en ontwikkeling. Onze eerste focus ligt op het stimuleren van onafhankelijk onderzoek om deze beslissingen te ondersteunen om beter te begrijpen waar AI de ontwikkeling kan bevorderen, welke risico's het met zich mee kan brengen, en welke contexten de effecten ervan bepalen.

Deze inzichten moeten leiden tot brede veiligheidsnormen en ontwerpprincipes. Deze kunnen richting geven aan de ontwikkeling van elk AI-product, de manier waarop scholen ze inzetten, en de keuze van gezinnen of en hoe ze deze technologieën in hun leven integreren.

Het werk dat voor ons ligt

Er is één cruciaal verschil tussen AI en de technologieën die eraan voorafgingen: snelheid.

Weerbaarheid tegen vuur kostte millennia. Weerbaarheid rondom elektriciteit kostte decennia. AI-weerbaarheid ontwikkelt zich in slechts een paar jaar tijd. De systemen die AI veilig, betrouwbaar en breed maatschappelijk nuttig maken, moeten er gelijktijdig mee worden opgebouwd.

Als we dit goed aanpakken, kan AI deel gaan uitmaken van de basisinfrastructuur van het moderne leven door de toegang tot kennis te vergroten, ontdekkingen te versnellen en levens op wereldwijde schaal te verbeteren.

Maar de uitkomst is niet gegarandeerd. Geen enkele sleuteltechnologie heeft zichzelf ooit veilig gemaakt.

Veerkracht is een discipline die instanties en personen aan de dag kunnen leggen door veerkracht op te bouwen, erin te investeren en samen te werken. Dat is het werk dat voor ons ligt, en het is een van de belangrijkste uitdagingen van onze tijd. We hopen dat we op je kunnen rekenen.