Paul Christiano se alătură Consiliului de administrație al OpenAI Foundation
Paul Christiano se va alătura și Comitetului pentru siguranță și securitate al Fundației.
Anunțăm numirea lui Paul Christiano în Consiliul de administrație al OpenAI Foundation. El va fi observator fără drept de vot în Consiliul de administrație al OpenAI Group PBC.
Paul se va alătura și Comitetului pentru siguranță și securitate al Consiliului de administrație al Fundației, lucrând alături de președintele acestuia, Zico Kolter. Comitetul pentru siguranță și securitate asigură guvernanța practicilor de siguranță și securitate în întreaga organizație OpenAI, inclusiv în cadrul OpenAI Group PBC.
Paul aduce experiență guvernamentală acumulată pe parcursul a două administrații prin activitatea sa la Centrul pentru Standarde și Inovare în IA (CAISI) din cadrul Institutului Național de Standarde și Tehnologie (NIST), o agenție americană a Departamentului Comerțului, unde este consilier tehnic principal. În perioada petrecută la CAISI și la instituția care l-a precedat, Institutul American pentru Siguranța IA, Paul a lucrat la evaluarea modelelor de IA de vârf, inclusiv a capacităților cu implicații pentru securitatea națională, precum și la metode de reducere a riscurilor asociate de siguranță și securitate.
Paul este și fondatorul Centrului de Cercetare în Aliniere (ARC), o organizație de cercetare nonprofit axată pe alinierea sistemelor avansate de IA la interesele oamenilor. Din 2017 până în 2021, Paul a condus cercetările privind alinierea la OpenAI și a adus contribuții fundamentale în domeniul învățării prin consolidare cu feedback uman (RLHF). În acest nou rol, Paul aduce o perspectivă distinctă și bine fundamentată tehnic asupra deciziilor de guvernanță esențiale pentru misiunea OpenAI.
Paul a contribuit la definirea domeniului alinierii IA prin cercetări riguroase, axate pe cele mai dificile întrebări ridicate de sisteme tot mai capabile. Experiența sa în administrația publică în domeniul siguranței și standardelor pentru IA de vârf, alături de discernământul său tehnic, va consolida supravegherea exercitată de Consiliu și activitatea Comitetului pentru siguranță și securitate, pe măsură ce OpenAI continuă să dezvolte și să implementeze IA de vârf.
Capacitățile IA au avansat foarte rapid în ultimul an, iar alinierea rămâne o problemă tehnică dificilă. Astfel, responsabilitatea Comitetului pentru siguranță și securitate este mai importantă și mai dificilă ca oricând. Mă bucur să mă alătur echipei pentru a contribui la acest efort.
IA intră într-o nouă eră a capacităților sale, ceea ce face tot mai important ca progresele acestor sisteme să fie însoțite de măsuri solide de siguranță, securitate, aliniere și guvernanță. De-a lungul carierei sale de cercetare în domeniul alinierii IA, Paul a luat în serios posibilitatea ca IA avansată să prezinte riscuri catastrofale și necesitatea ca dezvoltatorii să se pregătească înainte ca sistemele să atingă niveluri de capacitate mai periculoase. El a fost o voce independentă în dezbaterea privind caracterul adecvat al măsurilor de protecție din industrie. Credem că guvernanța Fundației este mai solidă atunci când include oameni dispuși să pună sub semnul întrebării ipotezele dominante și să contribuie la consolidarea dovezilor, a măsurilor de protecție și a mecanismelor de răspundere pe care se bazează deciziile critice.
Numirea lui Paul consolidează structura de guvernanță instituită prin recapitalizarea OpenAI din octombrie 2025, inclusiv angajamentele asumate în legătură cu analizele efectuate pe parcursul unui an de procurorul general al Californiei și de procurorul general al statului Delaware. Implicarea lor a contribuit la consolidarea cadrului de guvernanță.
Despre OpenAI Foundation
OpenAI Foundation este o organizație caritabilă dedicată misiunii de a se asigura că IA aduce beneficii întregii umanități. Ca organizație nonprofit distinctă, Fundația își desfășoară propriile activități caritabile, păstrând totodată controlul asupra OpenAI Group PBC și deținând o participație semnificativă la capitalul acesteia. Fundația sprijină inițiative care promovează descoperirile științifice, consolidează societatea civilă și sporesc reziliența prin utilizarea responsabilă a IA. Prin granturi, parteneriate și alte inițiative filantropice, Fundația contribuie la accelerarea activităților care aduc beneficii durabile societății și extind accesul la potențialul transformator al IA.
Fundația deține controlul asupra OpenAI Group PBC, iar Comitetul pentru siguranță și securitate face parte din Consiliul de administrație al Fundației. Află mai multe la www.openaifoundation.org.
*În calitate de consilier tehnic principal, Paul se va abține de la participarea la orice chestiune legată de OpenAI, precum și la orice evaluare de modele.