Resilienz im Zeitalter der KI

Die OpenAI Foundation sorgt dafür, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt.

Wir arbeiten unermüdlich daran, mit den rasanten Fortschritten in der KI selbst Schritt zu halten. Im April hat die Stiftung unsere ersten Fördermittel in Höhe von 100 Millionen USD in den Bereichen Biowissenschaften und Krankheitsheilung bekannt gegeben⁠, mit dem Ziel, durch den Einsatz fortschrittlicher KI dazu beizutragen, Krankheiten wie Alzheimer vorzubeugen und zu behandeln. Letzte Woche haben wir unser Programm Jobs and Economic Futures bekannt gegeben⁠, in der Hoffnung, besser zu verstehen und mitzugestalten, was Arbeit und wirtschaftlicher Wohlstand für künftige Generationen bedeuten.

Heute bauen wir unsere Vision für das nächste große Programm weiter aus – damit die Fähigkeit der Gesellschaft, KI nutzbar zu machen, genauso schnell wächst wie die Fähigkeiten von KI. Wir nennen diese Arbeit KI-Resilienz: der Ökosystemansatz, der erforderlich ist, um die Risiken der KI zu mindern, damit die Gesellschaft deren Vorteile maximieren kann.

Unsere Arbeit hat bereits begonnen. In den wenigen Monaten seit Aufnahme unserer Arbeit arbeitet die Stiftung daran, die Vergabe von Fördermitteln in Höhe von mehr als 130 Mio. USD an Organisationen im Rahmen unseres AI-Resilience-Programms zu finalisieren; diese sollen in Kürze öffentlich bekannt gegeben werden, und weitere werden folgen.^1⁠

Das Muster transformativer Technologien

Die Bedeutung der KI-Resilienz lässt sich am besten aus der Perspektive vergangener Technologien verstehen, die die Menschheitsgeschichte maßgeblich geprägt haben.

Von Zeit zu Zeit kommt eine Technologie auf, die die Gesellschaft von Grund auf verändert. Ökonomen bezeichnen diese als „Querschnittstechnologien“. Feuer. Die Druckerpresse. Elektrizität. Das Internet. Jede davon folgte einem ähnlichen Verlauf: rasante Innovation, reale Risiken und Institutionen, die fieberhaft versuchen, Schritt zu halten. Doch jedes Beispiel zeigt auch, was nötig ist, um eine leistungsstarke Technologie sicher zu machen.

Feuer machte die menschliche Zivilisation möglich. Es hielt uns warm, garte unser Essen und schützte uns vor Raubtieren. Es brannte auch unsere Städte bis auf die Grundmauern nieder. Im Laufe der Zeit stärkten Gesellschaften ihre Widerstandsfähigkeit: feuerbeständige Materialien, Hydrantennetze, professionelle Feuerwehren und Bauvorschriften. Ein Ökosystem, Schicht für Schicht.

Elektrizität folgte dem gleichen Weg. Nachdem Edisons Pearl Street Station 1882 Manhattan erhellt hatte, brachte die Elektrizität Brände, tödliche Stromschläge und Panik in der Öffentlichkeit mit sich. Ohne Schutzmaßnahmen wie isolierte Leitungen, Sicherungsautomaten und Vorschriften wurden Arbeiter und Passanten in Städten im ganzen Land durch Stromschläge ums Leben gebracht. Die Städte diskutierten, ob das Experiment vollständig aufgegeben werden sollte. Stattdessen richteten wir mit dem Fortschritt der Technologie unabhängige Prüfinstitutionen wie Underwriters Laboratories, Branchenstandards wie den National Electrical Code und öffentliche Investitionen ein, die Strom in Gemeinden brachten, die der Markt zurückgelassen hatte. Jede Schicht machte Elektrizität sicherer und zugänglicher; heute ist sie so sicher, dass ein Kind einen Schalter umlegen kann und das Licht angeht.

So sieht Resilienz aus, wenn sie richtig umgesetzt wird.

KI erfordert ein Resilienz-Ökosystem

KI folgt demselben Entwicklungspfad wie frühere Technologien, jedoch mit beispielloser Geschwindigkeit.

Wir stehen noch ganz am Anfang, aber die Vorteile sind bereits klar: KI senkt die Hürden für die Gründung eines Unternehmens, erweitert den Zugang zu Bildung, beschleunigt wissenschaftliche Entdeckungen und verändert die Medizin grundlegend.

Gleichzeitig zeichnen sich die Risiken ebenso schnell ab – und zwar spiegelbildlich zu den Vorteilen der KI. Dasselbe Wachstum, das neue Branchen entstehen lässt, kann bestehende auf den Kopf stellen und Karrieren beeinträchtigen. Dieselben Systeme, die jungen Menschen beim Lernen und kreativen Schaffen helfen können, könnten auch zu problematischem Verhalten führen. Die Werkzeuge, die die biologische Forschung beschleunigen, könnten die Hürde für die Entwicklung gefährlicher Krankheitserreger senken. Und die Fähigkeit von KI, Code zu schreiben, könnte in den falschen Händen kritische Infrastruktur gefährden.

Das frühe OpenAI-Team war der Überzeugung, dass es, um sicherzustellen, dass KI der Gesellschaft zugutekommt, in erster Linie darauf ankommt, das technische Alignment-Problem zu lösen. Das bleibt entscheidend – und zentral für unsere Arbeit –, doch mittlerweile sind wir der Ansicht, dass es nur ein Teil des Puzzles ist. Während sich KI über Branchen und Länder hinweg verbreitet, wird die Gesellschaft auch unabhängige Forschung, öffentliche Infrastruktur, Koordination zwischen Wirtschaft und Staat und völlig neue Fachgebiete benötigen. Kurz gesagt, es wird KI-Resilienz erfordern.

Wir haben uns entschieden, unsere ersten Arbeiten auf vier Bereiche^2⁠ zu konzentrieren, die an der Schnittstelle von erheblichen kurzfristigen Risiken und unmittelbarer Wirkung liegen:

1. Bio-Resilienz, um dazu beizutragen, künftige künstlich erzeugte Pandemien zu verhindern;

2. Cyber-Resilienz, um daran zu arbeiten, die Sicherheit der kritischen Systeme unserer Welt zu gewährleisten;

3. Sicherheit von KI-Modellen, um die Kontrolle der Menschheit über die von uns geschaffenen Modelle zu festigen; und

4. Die Auswirkungen von KI auf junge Menschen, um dazu beizutragen, Technologie zu einer positiven Kraft für künftige Generationen zu machen.

Unsere Arbeit fängt gerade erst an. Wir planen, mehr über unsere Strategien und ersten Förderzusagen in den einzelnen Bereichen zu berichten und unsere Arbeit im Laufe der Zeit auf weitere Bereiche auszuweiten.

Bio-Resilienz

KI wird es der biologischen Forschung ermöglichen, sich in beispiellosem Tempo weiterzuentwickeln, und dazu beitragen, neue Heilmittel und Verbesserungen der öffentlichen Gesundheit zu entwickeln, die es uns allen ermöglichen, gesünder und länger zu leben. Allerdings könnten dieselben Fähigkeiten auch von böswilligen Akteuren missbraucht werden, wodurch die Hürden für die Entwicklung schädlicher Pathogene gesenkt würden.

Das Zeitalter der KI erfordert einen erneuten Fokus auf Biosicherheit. Da fortgeschrittene KI-Systeme von böswilligen Akteuren missbraucht werden könnten, um bei der Entwicklung eines breiten Spektrums biologischer Bedrohungen zu helfen, werden wir pathogenunabhängige Biosicherheitslösungen priorisieren. Dies wird Investitionen in Prävention, Erkennung und Abwehr erfordern. Wir müssen es böswilligen Akteuren erschweren, Zugang zu Fachwissen, Ausrüstung und Materialien zu erlangen, die zur Schaffung biologischer Bedrohungen erforderlich sind, unsere Fähigkeit verbessern, neuartige Ausbrüche frühzeitig zu erkennen und zu verfolgen, und die Technologien stärken – wie etwa Schutzausrüstung, Systeme zur Reinigung der Innenraumluft und medizinische Gegenmaßnahmen –, die notwendig sind, um schnell und wirksam zu reagieren.

Cyber-Resilienz

KI hat begonnen, die Cybersicherheitslandschaft rasant zu verändern. Die Arbeit, die früher spezialisierte Teams erforderte, kann heute durch leistungsfähige Modelle unterstützt oder automatisiert werden. Gleichzeitig können sich rasant verbessernde KI-Fähigkeiten auch nutzen lassen, um Cyberabwehrkräfte zu beschleunigen, indem Schwachstellen identifiziert, behoben und die Reaktion beschleunigt werden.

Viele große Unternehmen und private Akteure können umfangreich in Cybersicherheit investieren, um ihre eigenen Systeme zu schützen, auch mithilfe neuer Fortschritte im Bereich der KI. Wir gehen davon aus, erhebliche Ressourcen darauf zu konzentrieren, andere wichtige gesellschaftliche Akteure abzusichern, die über weniger Ressourcen verfügen und erheblich größere Schwierigkeiten haben werden, KI-fähige Cyberabwehrmaßnahmen so schnell wie nötig einzusetzen. Parallel dazu richten wir unseren Fokus auch darauf, uns auf neuartige Sicherheitsherausforderungen vorzubereiten, die künstliche allgemeine Intelligenz letztlich mit sich bringen wird.

Sicherheit von KI-Modellen

Die Sicherheit von KI-Modellen konzentriert sich auf das Verhalten der Systeme selbst – darauf, ob sie wahrheitsgetreu, zuverlässig und an menschlichen Absichten ausgerichtet sind. In einer Welt, in der dies aus dem Ruder läuft, können Modelle ausbrechen und sich auf unvorhersehbare Weise verhalten, uns täuschen oder Ziele verfolgen, die außerhalb ihres vorgesehenen Designs liegen. Dies richtig hinzubekommen, gewinnt zunehmend an Bedeutung, je autonomer KI-Systeme werden und je näher sie an Intelligenz auf menschlichem Niveau heranrücken – und diese schließlich übertreffen.

KI-Unternehmen investieren erhebliche Ressourcen in die Modellsicherheit. Die Bedeutung dieser Herausforderung erfordert jedoch ein breiteres, robusteres Ökosystem: unabhängige Institutionen zur Bewertung der Modellsicherheit, öffentliche Infrastruktur, um den sicheren Einsatz von Modellen in der Praxis zu überprüfen, sowie kontinuierliche Fortschritte in der Alignment-Forschung, die das Feld insgesamt voranbringen.

Auswirkungen von KI auf junge Menschen

Junge Menschen gehören oft zu den Ersten, die neue Technologien nutzen, um zu lernen, kreativ zu sein, zu kommunizieren und die Welt zu erkunden. Bei KI ist das nicht anders. Da diese Tools jedoch zunehmend Teil des Alltags junger Menschen werden, ist es entscheidend, dass wir eine belastbarere Evidenzgrundlage schaffen, um ihre Auswirkungen zu verstehen.

Familien, Schulen, politische Entscheidungsträger und gemeinnützige Organisationen setzen sich alle mit Fragen dazu auseinander, wie und wann junge Menschen mit KI in Kontakt kommen – einschließlich ihrer Auswirkungen auf zwischenmenschliche Beziehungen, Lernen und Entwicklung. Unser anfänglicher Fokus wird darauf liegen, unabhängige Forschung voranzutreiben, um diese Entscheidungen fundierter treffen zu können, um besser zu verstehen, wo KI Entwicklung unterstützen kann, welche Risiken sie mit sich bringen kann und welche Rahmenbedingungen diese Auswirkungen prägen.

Diese Erkenntnisse sollten umfassende Sicherheitsstandards und Gestaltungsprinzipien maßgeblich prägen, die bestimmen, wie jedes KI-Produkt entwickelt wird, wie Schulen sich für ihren Einsatz entscheiden und ob und wie Familien beschließen, diese Technologien in ihr Leben zu integrieren.

Die Arbeit, die vor uns liegt

Es gibt einen entscheidenden Unterschied zwischen KI und den Technologien, die ihr vorausgingen: Geschwindigkeit.

Die Entwicklung von Resilienz gegenüber Feuer dauerte Jahrtausende. Die Resilienz gegenüber Elektrizität dauerte Jahrzehnte. KI-Resilienz entwickelt sich innerhalb weniger Jahre weiter. Die Systeme, die dafür sorgen, dass sie sicher, zuverlässig und allgemein nützlich ist, müssen parallel dazu aufgebaut werden.

Wenn wir es richtig angehen, kann KI Teil der grundlegenden Infrastruktur des modernen Lebens werden – indem sie den Zugang zu Wissen erweitert, Entdeckungen beschleunigt und das Leben von Menschen weltweit verbessert.

Aber dieses Ergebnis ist nicht garantiert. Keine Querschnittstechnologie hat sich je von selbst sicher gemacht.

Resilienz ist eine dauerhafte Aufgabe, für die viele Menschen und Institutionen gemeinsam Aufbauarbeit leisten und investieren müssen. Das ist die Aufgabe, die vor uns liegt, und sie zählt zu den prägenden Herausforderungen unserer Zeit. Wir hoffen, dass du dabei bist.