Résilience à l’ère de l’IA

La Fondation OpenAI a pour mission de veiller à ce que l’intelligence artificielle générale profite à l’ensemble de l’humanité.

Nous avons travaillé sans relâche pour suivre le rythme des progrès fulgurants de l’IA elle-même. En avril, la Fondation a annoncé⁠ l’octroi de ses premières subventions, d’un montant de 100 millions de dollars, dans les domaines des sciences de la vie et de la lutte contre les maladies, avec pour ambition de contribuer à la prévention et au traitement de maladies telles que la maladie d’Alzheimer en tirant parti des avancées de l’IA. La semaine dernière, nous avons annoncé⁠ notre programme « Emplois et avenir économique », dans l’espoir de comprendre et de façonner ce que le travail et la prospérité économique signifieront pour les générations futures.

Aujourd’hui, nous développons notre vision pour notre prochain grand programme : veiller à ce que, à mesure que les capacités de l’IA se développent, la capacité de la société à en tirer parti évolue tout aussi rapidement. Nous appelons cela la résilience de l’IA : l’approche écosystémique nécessaire pour atténuer les risques liés à l’IA, afin que la société puisse en tirer le meilleur parti.

Notre travail a déjà commencé. Depuis le lancement de notre initiative, il y a quelques mois à peine, la Fondation s’emploie à finaliser l’octroi de subventions d’un montant total de plus de 130 millions de dollars à diverses organisations dans le cadre de notre programme sur la résilience de l’IA ; ces informations seront bientôt rendues publiques, et d’autres suivront.^1⁠

Le modèle des technologies transformatrices

C’est en se penchant sur les technologies du passé qui ont profondément marqué l’histoire de l’humanité que l’on comprend le mieux l’importance de la résilience de l’IA.

De temps à autre, une technologie fait son apparition et transforme radicalement la société. Les économistes appellent cela des « technologies à usage général ». Le feu. L’imprimerie. L’électricité. Internet. Chacune a suivi un parcours similaire : innovation rapide, risques réels et institutions s’efforçant de rattraper leur retard. Mais chaque exemple illustre également ce qu’il faut pour rendre une technologie puissante sûre.

Le feu a rendu la civilisation humaine possible. Il nous a réchauffés, nous a permis de cuire notre nourriture et nous a protégés des prédateurs. Mais il a aussi réduit nos villes en cendres. Au fil du temps, les sociétés ont développé leur résilience : matériaux ignifuges, réseaux de bornes-fontaines, services d’incendie professionnels et codes de construction. Un écosystème, couche par couche.

L’électricité a suivi le même chemin. Après que la centrale d’Edison de Pearl Street eut illuminé Manhattan en 1882, l’électricité a entraîné des incendies, des électrocutions et semé la panique parmi la population. En l’absence de protections telles que du câblage isolé, des disjoncteurs et des normes, des travailleurs et des passants ont été électrocutés dans des villes à travers tout le pays. Les villes se sont demandé s’il fallait abandonner complètement cette expérience. Au lieu de cela, à mesure que la technologie progressait, nous avons mis en place des organismes de contrôle indépendants comme Underwriters Laboratories, des normes industrielles telles que le National Electrical Code, ainsi que des investissements publics qui ont permis d’alimenter les communautés laissées pour compte par le marché. Chaque étape a rendu l’électricité plus sûre et plus accessible ; aujourd’hui, elle est si sûre qu’un enfant peut actionner un interrupteur et la lumière s’allume.

Voilà à quoi ressemble la résilience lorsqu’elle est bien mise en œuvre.

L’IA nécessite un écosystème de résilience

L’IA suit la même trajectoire que les technologies précédentes, mais à une vitesse sans précédent.

Nous n’en sommes encore qu’aux prémices, mais les avantages sont déjà évidents : l’IA facilite la création d’entreprise, élargit l’accès à l’éducation, accélère les découvertes scientifiques et révolutionne la médecine.

Dans le même temps, les risques apparaissent tout aussi rapidement, parallèlement aux avantages de l’IA. Cette même croissance qui donne naissance à de nouveaux secteurs peut bouleverser ceux qui existent déjà et perturber les parcours professionnels. Les mêmes systèmes qui peuvent aider les jeunes à apprendre et à créer pourraient également conduire à des comportements néfastes. Les outils qui accélèrent la recherche biologique pourraient faciliter la création d’agents pathogènes dangereux. Et la capacité de l’IA à écrire du code, entre de mauvaises mains, pourrait menacer les infrastructures essentielles.

L’équipe initiale d’OpenAI estimait que pour garantir que l’IA profite à la société, il fallait avant tout résoudre le problème du recoupement technique. Cela reste essentiel et central dans notre travail, mais nous pensons désormais que ce n’est qu’une pièce du puzzle. À mesure que l’IA se généralise dans tous les secteurs et tous les pays, la société aura également besoin de recherche indépendante, d’infrastructures publiques, d’une coordination entre les acteurs du secteur et de domaines d’expertise entièrement nouveaux. En bref, elle aura besoin d’une IA résiliente.

Nous avons choisi de concentrer nos premiers efforts sur quatre domaines^2⁠ qui se situent à la croisée des risques majeurs à court terme et des répercussions immédiates :

1. La biorésilience pour contribuer à prévenir les pandémies d’origine humaine de demain ;

2. La cybersécurité pour œuvrer à garantir la sécurité des systèmes essentiels de notre monde ;

3. La sécurité des modèles d’IA afin de renforcer le contrôle de l’humanité sur les modèles que nous créons ; et

4. L’impact de l’IA sur les jeunes pour contribuer à faire de la technologie une force positive pour les générations futures.

Notre travail ne fait que commencer. Nous avons l’intention de vous en dire davantage sur nos stratégies et nos premières subventions dans chaque domaine, et d’étendre nos activités à d’autres domaines au fil du temps.

La résilience biologique

L’IA permettra à la recherche biologique d’avancer à un rythme sans précédent, contribuant ainsi à la mise au point de nouveaux traitements et à l’amélioration de la santé publique, ce qui nous permettra à tous de vivre plus longtemps et en meilleure santé. Cependant, ces mêmes capacités pourraient également être détournées par des acteurs malveillants, facilitant ainsi la conception d’agents pathogènes dangereux.

À l’ère de l’IA, il est nécessaire de redoubler d’attention en matière de biosécurité. Étant donné que des systèmes d’IA avancés pourraient être détournés par des acteurs malveillants pour contribuer à la création d’un large éventail de menaces biologiques, nous donnerons la priorité à des solutions de biosécurité indépendantes de l’agent pathogène. Cela nécessitera des investissements dans les domaines de la prévention, de la détection et de la défense. Nous devons rendre plus difficile l’accès des acteurs malveillants à l’expertise, aux équipements et aux matériaux nécessaires à la création de menaces biologiques, améliorer notre capacité à identifier et à suivre précocement les nouvelles épidémies, et renforcer les technologies, telles que les équipements de protection, les systèmes de purification de l’air intérieur et les contre-mesures médicales, nécessaires pour réagir rapidement et efficacement.

La cybersécurité

L’IA a commencé à transformer rapidement le paysage de la cybersécurité. Les tâches qui nécessitaient autrefois des équipes spécialisées peuvent désormais être prises en charge ou automatisées par des modèles performants. Parallèlement, les capacités de l’IA, qui progressent à grands pas, peuvent également servir à renforcer l’efficacité des cyberdéfenseurs, notamment en identifiant et en corrigeant les vulnérabilités, ainsi qu’en accélérant les interventions.

De nombreuses grandes entreprises et acteurs privés sont en mesure d’investir massivement dans la cybersécurité pour protéger leurs propres systèmes, notamment grâce aux dernières avancées en matière d’IA. Nous prévoyons de consacrer des ressources importantes à la protection d’autres acteurs sociaux clés qui disposent de moins de moyens et qui auront beaucoup plus de mal à mettre en place des cyberdéfenses adaptées à l’IA aussi rapidement que nécessaire. Parallèlement, nous nous attachons également à nous préparer aux nouveaux défis en matière de sécurité que l’IA générale finira par poser.

La sécurité des modèles d’IA

La sécurité des modèles d’IA porte sur le comportement des systèmes eux-mêmes : s’ils sont fiables, dignes de confiance et conformes à l’intention humaine. Dans un monde où cela tournerait mal, les modèles pourraient échapper à tout contrôle et adopter des comportements imprévisibles, nous induisant en erreur ou poursuivant des objectifs qui vont au-delà de ce pour quoi ils ont été conçus. Il devient de plus en plus crucial de garantir cette sécurité à mesure que les systèmes d’IA gagnent en autonomie et se rapprochent de l’intelligence humaine, pour finir par la dépasser.

Les entreprises spécialisées dans l’IA consacrent des ressources considérables à la sécurité des modèles. Toutefois, l’importance de ce défi nécessite la mise en place d’un écosystème plus vaste et plus solide : des organismes indépendants chargés d’évaluer la sécurité des modèles, des infrastructures publiques permettant de vérifier la sécurité de leur déploiement dans la pratique, ainsi que des progrès continus dans le domaine de la science de la mise en conformité, qui contribuent à développer ce secteur dans son ensemble.

L’impact de l’IA sur les jeunes

Les jeunes sont souvent les premiers à adopter les nouvelles technologies, qu’ils utilisent pour apprendre, créer, communiquer et découvrir le monde. L’IA ne fait pas exception. Mais à mesure que ces outils s’intègrent de plus en plus dans le quotidien des jeunes, il est essentiel de disposer d’une base factuelle plus solide pour en comprendre les répercussions.

Les familles, les établissements scolaires, les responsables politiques et les organisations communautaires sont tous confrontés à des questions concernant la manière dont les jeunes interagissent avec l’IA et à quel moment ils le font, notamment en ce qui concerne son impact sur les relations humaines, l’apprentissage et le développement. Dans un premier temps, nous nous attacherons à promouvoir la recherche indépendante afin d’éclairer ces décisions, dans le but de mieux comprendre dans quels domaines l’IA peut favoriser le développement, les risques qu’elle peut entraîner et les contextes en façonnent ces effets.

Ces informations devraient servir de base à l’élaboration de normes de sécurité et de principes de conception généraux qui orienteront la manière dont tout produit d’IA est développé, la façon dont les établissements scolaires choisissent de les mettre en œuvre, ainsi que la décision des familles d’intégrer ou non ces technologies dans leur vie quotidienne et, le cas échéant, de quelle manière.

Le travail qui nous attend

Il existe une différence fondamentale entre l’IA et les technologies qui l’ont précédée : la vitesse.

La résilience au feu a pris des millénaires. Il a fallu des décennies pour assurer la résilience du réseau électrique. La résilience de l’IA évolue en l’espace de quelques années. Les systèmes qui garantissent sa sûreté, sa fiabilité et son caractère bénéfique pour le plus grand nombre doivent être développés en parallèle.

Si nous parvenons à la mettre en œuvre correctement, l’IA peut s’inscrire au cœur des infrastructures fondamentales de la vie moderne, en élargissant l’accès au savoir, en accélérant les découvertes et en améliorant les conditions de vie à l’échelle mondiale.

Mais ce résultat n’est pas garanti. Aucune technologie à usage général n’a jamais été intrinsèquement sûre.

La résilience est le fruit d’un travail de longue haleine qui nécessite l’engagement de nombreuses personnes et institutions pour la mettre en place, y investir et collaborer. C’est l’un des défis majeurs à relever aujourd’hui. Nous espérons que vous vous joindrez à nous.