Resilienza nell’era dell’IA

La OpenAI Foundation esiste per garantire che l’intelligenza artificiale generale porti benefici a tutta l’umanità.

Lavoriamo senza sosta per tenere il passo con i rapidi progressi dell’IA stessa. Ad aprile, la fondazione ha annunciato⁠ i nostri primi 100 milioni di dollari in sovvenzioni per le scienze della vita e la cura delle malattie, con l’ambizione di contribuire a prevenire e curare malattie come l’Alzheimer utilizzando l’IA avanzata. La scorsa settimana abbiamo annunciato⁠ il nostro programma Jobs and Economic Futures, con l’obiettivo di comprendere e plasmare ciò che il lavoro e la prosperità economica significheranno per le generazioni future.

Oggi ampliamo la nostra visione per il prossimo grande programma: garantire che, mentre le capacità dell’IA crescono, cresca altrettanto rapidamente anche la capacità della società di utilizzarla. Chiamiamo questo lavoro resilienza dell'IA: l’approccio ecosistemico necessario per mitigare i rischi dell’IA, in modo che la società possa aumentarne al massimo i benefici.

Il nostro lavoro è già iniziato. Nei pochi mesi trascorsi dall’avvio dell'iniziativa, la fondazione ha già lavorato alla finalizzazione di oltre 130 milioni di dollari in sovvenzioni a organizzazioni attraverso il programma AI Resilience, che annunceremo presto pubblicamente, con ulteriori fondi in arrivo.^1⁠

Il modello delle tecnologie trasformative

L'importanza della resilienza dell'IA si comprende meglio alla luce delle tecnologie del passato che hanno plasmato in modo significativo la storia umana.

Di tanto in tanto, arriva una tecnologia che rimodella la società dalle fondamenta. Gli economisti le chiamano “tecnologie di uso generale”. Il fuoco. La stampa a caratteri mobili. L'elettricità. Internet. Ciascuno ha seguito una traiettoria simile: innovazione rapida, rischi concreti e istituzioni in corsa per mettersi al passo. Ciascun esempio mostra tuttavia anche cosa occorre per rendere sicura una tecnologia potente.

Il fuoco ha reso possibile la civiltà umana. Ci teneva al caldo, cuoceva il nostro cibo e ci proteggeva dai predatori. Ha anche ridotto in cenere le nostre città. Nel corso del tempo, le società hanno sviluppato la resilienza: materiali resistenti al fuoco, reti di idranti, vigili del fuoco professionisti e norme edilizie. Un ecosistema, livello dopo livello.

L’elettricità ha seguito lo stesso percorso. Dopo che la Pearl Street Station di Edison illuminò Manhattan nel 1882, l’elettricità portò incendi, folgorazioni e panico tra la popolazione. Senza misure di protezione come cavi isolati, interruttori automatici e normative, lavoratori e passanti rimanevano folgorati nelle città di tutto il paese. Le città discussero se l'esperimento dovesse essere abbandonato del tutto. Invece, con l’avanzare della tecnologia, abbiamo istituito organismi di collaudo indipendenti come gli Underwriters Laboratories, standard industriali come il National Electrical Code e investimenti pubblici che hanno portato l’energia alle comunità che il mercato aveva trascurato. Ogni livello ha reso l’elettricità più sicura e più accessibile; oggi è così sicura che un bambino può premere un interruttore e la luce si accende.

Ecco come si manifesta la resilienza quando è ben realizzata.

L'IA richiede un ecosistema di resilienza

L'IA sta seguendo la stessa traiettoria delle tecnologie che l'anno preceduta, ma si sta muovendo a una velocità senza precedenti.

Siamo ancora agli inizi, ma i benefici sono già evidenti: l’IA sta riducendo le barriere per avviare un’impresa, ampliando l’accesso all’istruzione, accelerando la scoperta scientifica e trasformando la medicina.

Allo stesso tempo, i rischi stanno emergendo con la stessa rapidità, e in modo speculare rispetto ai benefici dell’IA. La stessa crescita che crea nuovi settori può stravolgere quelli esistenti e destabilizzare le carriere. Gli stessi sistemi che possono aiutare i giovani a imparare e creare potrebbero anche portare a comportamenti dannosi. Gli strumenti che accelerano la ricerca biologica potrebbero abbassare la barriera alla creazione di agenti patogeni dannosi. La capacità dell’IA di scrivere codice, nelle mani sbagliate, potrebbe minacciare le infrastrutture critiche.

Il primo team di OpenAI riteneva che garantire che l’IA fosse un beneficio per la società dipendesse principalmente dalla risoluzione del problema tecnico dell’allineamento. Questo rimane fondamentale (ed è centrale nel nostro lavoro), ma oggi crediamo che sia solo una parte del puzzle. Man mano che l’IA si diffonde in settori e paesi diversi, la società necessiterà anche di ricerche indipendenti, infrastrutture pubbliche, coordinamento industriale e ambiti di competenza completamente nuovi. In altre parole, necessiterà della resilienza dell’IA.

Abbiamo scelto di concentrare il nostro lavoro iniziale in quattro aree^2⁠ che si collocano all’intersezione tra grandi rischi a breve termine e impatto immediato:

1. Bio-resilienza per contribuire a prevenire future pandemie ingegnerizzate;

2. Cyber-resilienza per contribuire a garantire la sicurezza dei sistemi critici del nostro mondo;

3. Sicurezza dei modelli di IA per consolidare il controllo dell’umanità sui modelli che creiamo;

4. Impatto dell’IA sui giovani per contribuire a rendere la tecnologia una forza positiva per le generazioni future.

Il nostro lavoro è solo all'inizio. Abbiamo in programma di condividere maggiori dettagli sulle nostre strategie e sulle sovvenzioni iniziali in ciascun ambito, così come di estendere le nostre attività ad altri ambiti nel tempo.

Bio-resilienza

L’IA consentirà alla ricerca biologica di procedere a una velocità senza precedenti, contribuendo allo sviluppo di nuove cure e miglioramenti della salute pubblica che permetteranno a tutti di vivere in modo più sano e più a lungo. Tuttavia, queste stesse capacità potrebbero anche essere utilizzate in modo improprio dai criminali, abbassando la barriera per progettare agenti patogeni dannosi.

L’era dell’IA richiede una rinnovata attenzione alla biosicurezza. Poiché sistemi di IA avanzati potrebbero essere usati in modo improprio da criminali per creare un’ampia gamma di minacce biologiche, daremo priorità a soluzioni di biosicurezza indipendenti dal tipo specifico di patogeno. Questo richiederà investimenti a livello di prevenzione, rilevamento e difesa. Dobbiamo rendere più difficile per i criminali accedere alle competenze, alle attrezzature e ai materiali necessari per creare minacce biologiche, migliorare la nostra capacità di identificare e tracciare precocemente nuovi focolai e rafforzare le tecnologie (come dispositivi di protezione, sistemi di purificazione dell’aria negli ambienti interni e contromisure mediche) necessarie per rispondere in modo rapido ed efficace.

Cyber-resilienza

L’IA ha iniziato a trasformare rapidamente il panorama della cybersecurity. Il lavoro che un tempo richiedeva team specializzati può ora essere supportato o automatizzato da modelli efficaci. Allo stesso tempo, le capacità di IA in rapido miglioramento possono essere utilizzate anche per potenziare gli addetti alla sicurezza informatica, tra le altre cose identificando e correggendo le vulnerabilità e accelerando gli interventi.

Molte grandi aziende e soggetti privati possono investire ingenti risorse nella sicurezza informatica per proteggere i propri sistemi, anche grazie ai nuovi progressi dell’IA. Prevediamo di concentrare risorse significative sulla protezione di altri importanti soggetti della società che dispongono di minori risorse e avranno molte più difficoltà a implementare difese informatiche pronte per l’IA con la rapidità necessaria. Parallelamente, ci stiamo anche concentrando sulla preparazione alle nuove sfide in materia di sicurezza che l’intelligenza artificiale generale inevitabilmente introdurrà.

Sicurezza del modello di IA

La sicurezza dei modelli di IA si concentra sul comportamento dei sistemi stessi, ovvero se siano veritieri, affidabili e allineati all’intento umano. In un mondo in cui le cose vanno male, i modelli possono sfuggire al controllo e comportarsi in modi imprevedibili, ingannandoci o perseguendo obiettivi diversi da quelli per cui sono stati progettati. Riuscire a farlo correttamente diventa sempre più importante, via via che i sistemi di IA diventano più autonomi e si avvicinano, per poi superare, l’intelligenza a livello umano.

Le aziende di IA stanno investendo ingenti risorse nella sicurezza dei modelli. Tuttavia, l’importanza di questa sfida richiede un ecosistema più ampio e più solido: istituzioni indipendenti per valutare la sicurezza dei modelli, infrastrutture pubbliche per verificare l’implementazione sicura dei modelli nella pratica e progressi continui nella scienza dell’allineamento che facciano avanzare il campo nel suo complesso.

L’impatto dell’IA sui giovani

I giovani sono spesso tra i primi ad adottare le nuove tecnologie, usandole per apprendere, creare, comunicare ed esplorare il mondo. L'IA non fa eccezione. Tuttavia, man mano che questi strumenti diventano una presenza sempre più importante nella vita quotidiana dei giovani, è fondamentale sviluppare una base di evidenze più solida per comprenderne gli impatti.

Famiglie, scuole, decisori politici e organizzazioni comunitarie sono tutti alle prese con domande su come e quando i giovani interagiscono con l’IA, incluso l'impatto sulle relazioni umane, sull’apprendimento e sullo sviluppo. La nostra attenzione iniziale si concentrerà sulla promozione della ricerca indipendente per contribuire a orientare tali decisioni, per comprendere meglio in quali ambiti l’IA può favorire lo sviluppo, i rischi che potrebbe comportare e i contesti che modellano tali effetti.

Queste indicazioni dovrebbero guidare l’adozione di standard di sicurezza ampi e principi di progettazione che indirizzino lo sviluppo di qualsiasi prodotto di IA, la scelta delle scuole su come utilizzarli e le decisioni delle famiglie in merito all’uso e alle modalità di integrazione di queste tecnologie nelle loro vite.

Il lavoro da svolgere

C’è una differenza fondamentale tra l’IA e le tecnologie che l’hanno preceduta: la velocità.

La resilienza al fuoco ha richiesto millenni. La resilienza della rete elettrica ha richiesto decenni. La resilienza dell'IA si sta evolvendo nel giro di pochi anni. I sistemi che la rendono sicura, affidabile e ampiamente vantaggiosa devono essere costruiti insieme ad essa.

Se sapremo farlo nel modo giusto, l’IA potrà diventare parte dell’infrastruttura fondamentale della vita moderna, ampliando l’accesso alle conoscenze, accelerando le scoperte e migliorando la vita delle persone su scala globale.

Ma questo risultato non è garantito. Nessuna tecnologia di uso generale si è mai resa sicura da sola.

La resilienza è una disciplina permanente che richiede a molte persone e istituzioni di creare, investire e collaborare. Questo è il lavoro che ci attende ed è una delle sfide decisive del nostro tempo. Speriamo che vorrai unirti a noi.