Paul Christiano entra nel consiglio di amministrazione di OpenAI Foundation
Paul Christiano entrerà anche a far parte del Comitato per la sicurezza e la protezione della Fondazione.
Annunciamo la nomina di Paul Christiano al consiglio di amministrazione di OpenAI Foundation. Sarà osservatore senza diritto di voto nel consiglio di amministrazione di OpenAI Group PBC.
Paul entrerà anche a far parte del Comitato per la sicurezza e la protezione del consiglio di amministrazione della Fondazione, affiancandone il presidente, Zico Kolter. Il Comitato per la sicurezza e la protezione supervisiona le pratiche di sicurezza e protezione in tutta OpenAI, compresa OpenAI Group PBC.
Paul porta con sé un’esperienza governativa maturata sotto due amministrazioni grazie al suo lavoro presso il Center for AI Standards and Innovation (CAISI), all’interno del National Institute of Standards and Technology (NIST), un’agenzia del Dipartimento del Commercio degli Stati Uniti, dove ricopre il ruolo di consulente tecnico senior. Durante il suo incarico al CAISI e all’istituto che lo ha preceduto, lo U.S. AI Safety Institute, Paul si è occupato della valutazione dei modelli di IA di frontiera, comprese le capacità con implicazioni per la sicurezza nazionale, e degli approcci per mitigare i relativi rischi per la sicurezza e la protezione.
Paul è anche il fondatore dell’ Alignment Research Center (ARC), un’organizzazione di ricerca senza scopo di lucro dedicata all’allineamento dei sistemi avanzati di IA agli interessi umani. Dal 2017 al 2021, Paul ha guidato la ricerca sull’allineamento presso OpenAI e ha dato contributi fondamentali all’apprendimento per rinforzo da feedback umano (RLHF). In questo nuovo ruolo, Paul apporta una prospettiva originale e tecnicamente fondata alle decisioni di governance centrali per la missione di OpenAI.
Paul ha contribuito a definire il campo dell’allineamento dell’IA con un lavoro rigoroso, concentrato sulle questioni più complesse poste da sistemi sempre più capaci. La sua esperienza in ambito governativo sulla sicurezza e sugli standard dell’IA di frontiera, unita alla sua capacità di giudizio tecnico, rafforzerà la supervisione del consiglio di amministrazione e il lavoro del Comitato per la sicurezza e la protezione, mentre OpenAI continua a sviluppare e distribuire l’IA di frontiera.
Nell’ultimo anno le capacità dell’IA sono progredite molto rapidamente e l’allineamento resta un problema tecnico difficile. Questo rende la responsabilità del Comitato per la sicurezza e la protezione più importante e impegnativa che mai. Sono entusiasta di unirmi al team per dare il mio contributo.
L’IA sta entrando in una nuova era di capacità: è quindi sempre più importante che i progressi di questi sistemi siano accompagnati da solide misure di sicurezza, protezione, allineamento e governance. Nel corso della sua carriera nella ricerca sull’allineamento dell’IA, Paul ha sempre preso sul serio la possibilità che l’IA avanzata comporti rischi catastrofici e la necessità che gli sviluppatori si preparino prima che i sistemi raggiungano livelli di capacità più pericolosi. È stato una voce indipendente nel dibattito sull’adeguatezza delle misure di salvaguardia del settore. Crediamo che la governance della Fondazione sia più solida grazie a persone pronte a mettere in discussione le convinzioni prevalenti e a rafforzare le evidenze, le misure di salvaguardia e i meccanismi di responsabilità alla base delle decisioni cruciali.
La nomina di Paul si inserisce nella struttura di governance definita con la ricapitalizzazione di OpenAI nell’ottobre 2025, compresi gli impegni assunti in relazione alle verifiche condotte nell’arco di un anno dal procuratore generale della California e dalla procuratrice generale del Delaware. Il loro coinvolgimento ha contribuito a rafforzare il quadro di governance.
Informazioni su OpenAI Foundation
OpenAI Foundation è un’organizzazione filantropica impegnata a garantire che l’IA vada a beneficio di tutta l’umanità. In quanto organizzazione senza scopo di lucro distinta, la Fondazione svolge le proprie attività filantropiche mantenendo il controllo di OpenAI Group PBC e detenendone una partecipazione azionaria significativa. La Fondazione sostiene iniziative che promuovono le scoperte scientifiche, rafforzano la società civile e accrescono la resilienza attraverso un’IA responsabile. Attraverso sovvenzioni, collaborazioni e altre iniziative filantropiche, la Fondazione contribuisce ad accelerare attività che generano benefici duraturi per la collettività e ampliano l’accesso al potenziale trasformativo dell’IA.
La Fondazione controlla OpenAI Group PBC e il Comitato per la sicurezza e la protezione è un comitato del suo consiglio di amministrazione. Per saperne di più, visita www.openaifoundation.org.
*Nel suo ruolo di consulente tecnico senior, Paul si asterrà da tutte le questioni relative a OpenAI e da tutte le valutazioni dei modelli.