Paul Christiano tritt dem Verwaltungsrat der OpenAI Foundation bei
Paul Christiano wird auch dem Safety and Security Committee der Stiftung beitreten.
Wir geben die Berufung von Paul Christiano in den Verwaltungsrat der OpenAI Foundation bekannt. Im Verwaltungsrat von OpenAI Group PBC wird er als Beobachter ohne Stimmrecht vertreten sein.
Paul wird auch dem Safety and Security Committee (SSC) des Verwaltungsrats der Stiftung beitreten und dort mit dessen Vorsitzendem Zico Kolter zusammenarbeiten. Das Safety and Security Committee beaufsichtigt die Sicherheits- und Schutzmaßnahmen in ganz OpenAI, einschließlich OpenAI Group PBC.
Paul bringt Erfahrung aus der Regierungsarbeit unter zwei US-Regierungen mit. Er arbeitet am Center for AI Standards and Innovation (CAISI) innerhalb des National Institute of Standards and Technology (NIST), einer Behörde des US-Handelsministeriums, wo er als Senior Tech Advisor tätig ist. Während seiner Zeit bei CAISI und dessen Vorgänger, dem U.S. AI Safety Institute, hat Paul an der Bewertung von Frontier-KI-Modellen gearbeitet, einschließlich ihrer Fähigkeiten mit Auswirkungen auf die nationale Sicherheit, sowie an Ansätzen zur Minderung der damit verbundenen Sicherheitsrisiken.
Paul ist außerdem Gründer des Alignment Research Center (ARC), einer gemeinnützigen Forschungsorganisation, die sich darauf konzentriert, fortschrittliche KI-Systeme an menschlichen Interessen auszurichten. Von 2017 bis 2021 leitete Paul die Alignment-Forschung bei OpenAI und leistete grundlegende Beiträge zu Reinforcement Learning from Human Feedback (RLHF). In dieser neuen Funktion bringt Paul eine eigenständige und technisch fundierte Perspektive in die Leitungs- und Aufsichtsentscheidungen ein, die für die Mission von OpenAI zentral sind.
Paul hat das Forschungsgebiet KI-Alignment mitgeprägt. Seine Arbeit ist wissenschaftlich fundiert und konzentriert sich auf die schwierigsten Fragen, die immer leistungsfähigere Systeme aufwerfen. Seine Erfahrung mit der Sicherheit und den Standards für Frontier-KI in der Regierungsarbeit wird zusammen mit seinem technischen Urteilsvermögen die Aufsicht des Verwaltungsrats und die Arbeit des Safety and Security Committee stärken, während OpenAI weiterhin Frontier-KI entwickelt und bereitstellt.
Die Fähigkeiten von KI haben sich im vergangenen Jahr sehr schnell weiterentwickelt, und Alignment bleibt ein schwieriges technisches Problem. Die Verantwortung des Safety and Security Committee ist damit wichtiger und anspruchsvoller denn je. Ich freue mich darauf, das Team zu unterstützen.
Die Fähigkeiten von KI erreichen eine neue Stufe. Damit wird es immer wichtiger, Fortschritte bei diesen Systemen durch wirksame Sicherheits- und Schutzmaßnahmen, Alignment sowie klare Leitungs- und Aufsichtsstrukturen zu begleiten. In seiner gesamten Laufbahn als Forscher im Bereich KI-Alignment hat Paul die Möglichkeit ernst genommen, dass fortschrittliche KI katastrophale Risiken bergen könnte und dass Unternehmen, die KI entwickeln, sich vorbereiten müssen, bevor Systeme gefährlichere Fähigkeiten erreichen. Bei der Frage, ob die Schutzmaßnahmen der Branche ausreichen, hat er sich als unabhängige Stimme eingebracht. Wir sind überzeugt, dass Menschen die Leitung und Aufsicht der Stiftung stärken, wenn sie bereit sind, vorherrschende Annahmen zu hinterfragen. Sie helfen dabei, die Entscheidungsgrundlagen, Schutzmaßnahmen und Rechenschaftspflichten zu verbessern, auf denen wichtige Entscheidungen beruhen.
Pauls Berufung baut auf der Leitungs- und Aufsichtsstruktur auf, die im Zuge der Rekapitalisierung von OpenAI im Oktober 2025 geschaffen wurde. Dazu gehören auch die Zusagen im Zusammenhang mit den Prüfungen, die über ein Jahr hinweg von California Attorney General und Delaware Attorney General durchgeführt wurden. Ihre Mitwirkung hat dazu beigetragen, den Rahmen für Leitung und Aufsicht zu stärken.
Über die OpenAI Foundation
Die OpenAI Foundation ist eine gemeinnützige Organisation, die sich dafür einsetzt, dass KI der gesamten Menschheit zugutekommt. Als eigenständige gemeinnützige Organisation führt die Stiftung eigene gemeinnützige Aktivitäten durch. Zugleich behält sie die Kontrolle über OpenAI Group PBC und hält eine erhebliche Kapitalbeteiligung an dem Unternehmen. Die Stiftung unterstützt Initiativen, die wissenschaftliche Entdeckungen voranbringen, die Zivilgesellschaft stärken und durch verantwortungsvolle KI die Widerstandsfähigkeit erhöhen. Durch Fördermittel, Partnerschaften und weitere philanthropische Initiativen hilft die Stiftung, Arbeiten zu beschleunigen, die dem Gemeinwohl dauerhaft dienen und mehr Menschen Zugang zum transformativen Potenzial von KI ermöglichen.
Die Stiftung kontrolliert OpenAI Group PBC. Das Safety and Security Committee ist ein Ausschuss des Verwaltungsrats der Stiftung. Mehr erfährst du auf www.openaifoundation.org.
*In seiner Funktion als Senior Technical Advisor wird Paul sich aus allen Angelegenheiten mit Bezug zu OpenAI sowie aus sämtlichen Modellbewertungen wegen Befangenheit zurückziehen.