Reziliența în era inteligenței artificiale

OpenAI Foundation există pentru a se asigura că inteligența generală artificială aduce beneficii întregii omeniri.

Am lucrat fără încetare pentru a ține pasul cu progresele rapide ale inteligenței artificiale însăși. În aprilie, OpenAI Foundation a anunțat⁠ primele noastre granturi în valoare de 100 de milioane de dolari în domeniul științelor vieții și al tratării bolilor, cu ambiția de a contribui la prevenirea și tratarea unor boli precum boala Alzheimer, valorificând inteligența artificială avansată. Săptămâna trecută, am anunțat⁠ programul nostru Locuri de muncă și viitor economic, cu speranța de a înțelege și de a modela ce înseamnă munca și prosperitatea economică pentru generațiile viitoare.

Astăzi, ne extindem viziunea pentru următorul program major, asigurându-ne că, pe măsură ce capacitățile inteligenței artificiale cresc, capacitatea societății de a le valorifica va crește la fel de rapid. Numim această activitate Reziliența la inteligență artificială: abordarea ecosistemică necesară pentru a atenua riscurile asociate inteligenței artificiale, astfel încât societatea să le poată maximiza beneficiile.

Munca noastră a început deja. În doar câteva luni de la demararea activității noastre, OpenAI Foundation lucrează la finalizarea unor granturi în valoare de peste 130 de milioane de dolari acordate organizațiilor prin programul nostru Reziliența la inteligență artificială; acestea vor fi anunțate public în curând, iar altele vor urma.^1⁠

Tiparul tehnologiilor transformaționale

Importanța rezilienței la inteligență artificială este cel mai bine înțeleasă prin prisma tehnologiilor din trecut care au modelat semnificativ istoria omenirii.

Din când în când, apare o tehnologie care remodelează societatea din temelii. Economiștii le numesc „tehnologii de uz general”. Foc. Presa tipografică. Electricitate. Internetul. Fiecare a urmat o traiectorie similară: inovație rapidă, riscuri reale și instituții care se grăbesc să țină pasul. Dar fiecare exemplu arată și ce este necesar pentru a face sigură o tehnologie puternică.

Focul a făcut posibilă civilizația umană. Ne-a ținut de cald, ne-a gătit mâncarea și ne-a protejat de prădători. De asemenea, a ars orașele noastre din temelii. De-a lungul timpului, societățile și-au consolidat reziliența: materiale rezistente la foc, rețele de hidranți, servicii profesioniste de pompieri și norme de construcție. Un ecosistem, strat cu strat.

Electricitatea a urmat același drum. După ce Centrala Pearl Street a lui Edison a luminat Manhattanul în 1882, electricitatea a adus incendii, electrocutări și panică în rândul publicului. În lipsa unor măsuri de protecție precum cablurile izolate, siguranțele automate și normele de siguranță, muncitorii și persoanele aflate în apropiere au fost electrocutați în orașe din întreaga țară. Orașele au dezbătut dacă experimentul ar trebui abandonat în totalitate. În schimb, pe măsură ce tehnologia a avansat, am înființat organisme independente de testare, precum Underwriters Laboratories, standarde industriale precum National Electrical Code și investiții publice care au adus electricitatea în comunități pe care piața le lăsase în urmă. Fiecare strat a făcut electricitatea mai sigură și mai accesibilă; astăzi, este atât de sigură încât un copil poate apăsa pe un întrerupător și se aprinde lumina.

Așa arată reziliența atunci când este făcută bine.

Inteligența artificială necesită un ecosistem de reziliență

Inteligența artificială urmează aceeași traiectorie ca tehnologiile anterioare, dar avansează cu o viteză fără precedent.

Ne aflăm încă la începuturile sale, dar beneficiile sunt deja clare: inteligența artificială reduce barierele în calea lansării unei afaceri, extinde accesul la educație, accelerează descoperirile științifice și transformă medicina.

În același timp, riscurile se conturează la fel de repede, dar și ca o imagine în oglindă a beneficiilor inteligenței artificiale. Aceeași creștere care creează noi industrii le poate bulversa pe cele existente și poate perturba carierele. Aceleași sisteme care îi pot ajuta pe tineri să învețe și să creeze ar putea, de asemenea, să conducă la comportamente dăunătoare. Instrumentele care accelerează cercetarea biologică ar putea reduce bariera în calea creării unor agenți patogeni dăunători. Iar capacitatea inteligenței artificiale de a programa, în mâini nepotrivite, ar putea amenința infrastructura critică.

Echipa inițială a OpenAI considera că asigurarea faptului că inteligența artificială aduce beneficii societății depindea în primul rând de rezolvarea problemei alinierii tehnice. Acest lucru rămâne esențial, precum și central pentru activitatea noastră, dar acum considerăm că reprezintă doar o piesă din puzzle. Pe măsură ce inteligența artificială se răspândește în diverse sectoare și țări, societatea va avea nevoie, de asemenea, de cercetare independentă, infrastructură publică, coordonare la nivelul industriei și domenii de expertiză cu totul noi. Pe scurt, va necesita reziliența la inteligență artificială.

Am ales să ne concentrăm activitatea inițială pe patru domenii^2⁠ aflate la intersecția dintre riscuri majore, pe termen scurt, și impact imediat:

1. Bioreziliență pentru a contribui la prevenirea viitoarelor pandemii create prin inginerie;

2. Reziliența cibernetică pentru a contribui la asigurarea securității sistemelor critice ale lumii noastre;

3. Siguranța modelelor IA pentru a consolida controlul umanității asupra modelelor pe care le creăm; și

4. Impactul inteligenței artificiale asupra tinerilor pentru a contribui la transformarea tehnologiei într-o forță pozitivă pentru generațiile viitoare.

Demersul nostru este doar la început. Plănuim să oferim mai multe informații despre strategiile noastre și despre finanțările inițiale din fiecare domeniu, precum și să ne extindem treptat în alte domenii.

Bio-resilience

AI will enable biological research to move at unprecedented speed, helping develop new cures and public health improvements that enable us to all live healthier and longer. However, these same capabilities could also be misused by malicious actors, lowering the barrier to designing harmful pathogens.

The age of AI requires a renewed focus on biosecurity. Because advanced AI systems could be misused by bad actors to help create a wide range of biological threats, we will prioritize pathogen-agnostic biosecurity solutions. This will require investments across prevention, detection, and defense. We need to make it harder for malicious actors to access the expertise, equipment, and materials to create biological threats, improve our ability to identify and track novel outbreaks early, and strengthen the technologies—such as protective equipment, indoor air cleaning systems, and medical countermeasures—needed to respond quickly and effectively.

Cyber-resilience

AI has begun to rapidly reshape the cybersecurity landscape. The work that once required specialized teams can now be assisted or automated by capable models. At the same time, rapidly-improving AI capabilities can also be used to accelerate cyberdefenders, including by identifying and patching vulnerabilities and accelerating response.

Many large companies and private actors can spend heavily on cyber to secure their own systems, including with new advances in AI. We anticipate focusing significant resources on securing other important societal actors that are less resourced and will have a much harder time deploying AI-ready cyberdefenses as quickly as needed. In parallel, we are also focused on preparing for novel security challenges that artificial general intelligence will ultimately bring.

AI model safety

AI model safety focuses on the behavior of the systems themselves—whether they are truthful, reliable, and aligned with human intent. In a world where this goes awry, models can break out and behave in unpredictable ways, deceiving us or pursuing goals beyond their design. Getting this right becomes increasingly important as AI systems grow more autonomous and approach—and eventually surpass—human-level intelligence.

AI companies are investing substantial resources in model safety. However, the importance of this challenge calls for a broader, more robust ecosystem: independent institutions to evaluate model safety, public infrastructure to verify models’ safe deployment in practice, and continued advances in alignment science that advance the field broadly.

AI’s impact on young people

Young people are often the earliest adopters of new technologies, using them to learn, create, communicate, and explore the world. AI is no exception. But as these tools become an increasing part of young people’s daily lives, it is critical that we develop a stronger evidence base to understand its impacts.

Families, schools, policymakers, and community organizations are all grappling with questions about how and when young people engage with AI—including its impact on human connection, learning, and development. Our initial focus will be on advancing independent research to help guide those decisions—to better understand where AI can support development, the risks it may introduce, and the contexts that shape those effects.

These insights should drive broad safety standards and design principles that guide how any AI product is developed, how schools choose to deploy them, and if and how families decide to incorporate these technologies into their lives.

The work ahead

There is one critical difference between AI and the technologies that came before it: speed.

Fire resilience took millennia. Electricity resilience took decades. AI resilience is evolving in a matter of years. The systems that make it safe, reliable, and broadly beneficial must be built alongside it.

If we get it right, AI can become part of the foundational infrastructure of modern life—expanding access to knowledge, accelerating discovery, and improving lives at a global scale.

But that outcome isn’t guaranteed. No general purpose technology ever made itself safe.

Resilience is a permanent discipline that requires many people and institutions to build, invest, and collaborate. That is the work ahead, and it is one of the defining challenges of our time. We hope you’ll join us.