Résilience à l’ère de l’IA

La Fondation OpenAI existe pour faire en sorte que l’intelligence artificielle générale profite à toute l’humanité.

Nous travaillons sans relâche pour suivre le rythme des avancées rapides de l’IA elle-même. En avril, la Fondation a annoncé⁠ ses premiers 100 000 000 $ en subventions dans les domaines des sciences de la vie et de la lutte contre les maladies, avec l’ambition d’aider à prévenir et à traiter des maladies comme la maladie d’Alzheimer grâce à l’IA de pointe. La semaine dernière, nous avons annoncé⁠ notre programme emplois et impact économique, dans l’espoir de comprendre et de façonner ce que le travail et la prospérité économique signifient pour les générations futures.

Aujourd’hui, nous développons notre vision du prochain grand programme — veiller à ce qu’à mesure que les capacités de l’IA progressent, la capacité de la société à en tirer parti progresse tout aussi rapidement. Nous appelons ce travail la résilience de l’IA : l’approche écosystémique nécessaire pour atténuer les risques liés à l’IA, afin que la société puisse en maximiser les avantages.

Notre travail a déjà commencé. En seulement quelques mois depuis le début de nos travaux, la Fondation s’emploie à finaliser l’octroi de plus de 130 000 000 $ en subventions à des organisations dans le cadre de notre programme de résilience en IA, qui seront annoncées publiquement prochainement, et d’autres suivront.^1⁠

Le modèle des technologies transformatrices

L’importance de la résilience de l’IA se comprend le mieux à la lumière des technologies du passé qui ont profondément façonné l’histoire de l’humanité.

De temps à autre, une technologie fait son apparition et transforme la société en profondeur. Les économistes les appellent des « technologies à usage général ». Feu. La presse à imprimer. Électricité. Internet. Chacun a suivi une trajectoire similaire : innovation rapide, risques bien réels et institutions s’efforçant de rattraper leur retard à toute vitesse. Mais chaque exemple montre aussi ce qu’il faut pour rendre une technologie puissante sûre.

Le feu a rendu la civilisation humaine possible. Il nous tenait au chaud, faisait cuire notre nourriture et nous protégeait des prédateurs. Cela a aussi réduit nos villes en cendres. Au fil du temps, les sociétés ont renforcé leur résilience : matériaux résistants au feu, réseaux de bornes d’incendie, services d’incendie professionnels et codes du bâtiment. Un écosystème, couche par couche.

L’électricité a suivi le même chemin. Après que la centrale Pearl Street d’Edison a éclairé Manhattan en 1882, l’électricité a entraîné des incendies, des électrocutions et une panique collective. En l’absence de mesures de protection comme des fils isolés, des disjoncteurs et des codes de l’électricité, des travailleurs et des passants ont été électrocutés dans des villes partout au pays. Les villes ont débattu de la question de savoir si l’expérience devait être abandonnée complètement. Au contraire, à mesure que la technologie progressait, nous avons mis sur pied des organismes d’essais indépendants comme Underwriters Laboratories, établi des normes industrielles comme le National Electrical Code, et réalisé des investissements publics qui ont permis d’amener l’électricité dans des collectivités que le marché avait laissées pour compte. Chaque couche a rendu l’électricité plus sûre et plus accessible; aujourd’hui, elle est si sûre qu’un enfant peut actionner un interrupteur et la lumière apparaît.

Voilà à quoi ressemble la résilience quand elle est bien mise en œuvre.

L’IA nécessite un écosystème de résilience

L’IA suit la même trajectoire que les technologies précédentes, mais elle évolue à une vitesse sans précédent.

L’IA n’en est encore qu’à ses débuts, mais ses avantages sont déjà évidents : elle réduit les obstacles à la création d’une entreprise, élargit l’accès à l’éducation, accélère les découvertes scientifiques et transforme la médecine.

Parallèlement, les risques émergent tout aussi rapidement — et comme le reflet inversé des avantages de l’IA. La même croissance qui crée de nouveaux secteurs d’activité peut bouleverser ceux qui existent déjà et perturber des carrières. Les mêmes systèmes qui peuvent aider les jeunes à apprendre et à créer pourraient aussi entraîner des comportements préjudiciables. Les outils qui accélèrent la recherche biologique pourraient réduire les obstacles à la création d’agents pathogènes dangereux. Et la capacité de l’IA à écrire du code, entre de mauvaises mains, pourrait menacer les infrastructures essentielles.

La première équipe d’OpenAI croyait que veiller à ce que l’IA profite à la société dépendait principalement de la résolution du problème technique de l’alignement. Cela demeure essentiel — et au cœur de notre travail — mais nous croyons maintenant que ce n’est qu’une pièce du casse-tête. À mesure que l’IA se diffuse dans les secteurs et les pays, la société aura également besoin de recherche indépendante, d’infrastructures publiques, d’une coordination de l’industrie et de tous nouveaux domaines d’expertise. Bref, cela nécessitera une résilience face à l’IA.

Nous avons choisi de concentrer nos premiers travaux sur quatre domaines^2⁠ qui se situent à l’intersection de risques importants à court terme et d’un impact immédiat :

1. La biorésilience pour aider à prévenir les pandémies artificiellement conçues de demain;

2. La cyberrésilience pour contribuer à assurer la sécurité des systèmes critiques de notre monde;

3. Sécurité des modèles d’IA afin de renforcer le contrôle de l’humanité sur les modèles que nous créons; et

4. L’impact de l’IA sur les jeunes pour contribuer à faire de la technologie une force positive pour les générations futures.

Notre travail ne fait que commencer. Nous prévoyons communiquer davantage d’information au sujet de nos stratégies et de nos premières subventions dans chaque domaine, et étendre nos activités à d’autres domaines au fil du temps.

Biorésilience

L’IA permettra à la recherche biologique de progresser à une vitesse sans précédent, en aidant à mettre au point de nouveaux traitements et des améliorations en matière de santé publique qui nous permettront à tous de vivre plus longtemps et en meilleure santé. Cependant, ces mêmes capacités pourraient également être utilisées à mauvais escient par des acteurs malveillants, réduisant les obstacles à la conception d’agents pathogènes dangereux.

L’ère de l’IA exige que l’on porte une attention renouvelée à la biosécurité. Comme les systèmes d’IA avancés pourraient être détournés par des acteurs malveillants pour contribuer à créer un large éventail de menaces biologiques, nous accorderons la priorité aux solutions de biosécurité indépendantes des agents pathogènes. Cela nécessitera des investissements dans les domaines de la prévention, de la détection et de la défense. Nous devons faire en sorte qu’il soit plus difficile pour les acteurs malveillants d’accéder à l’expertise, à l’équipement et aux matériaux nécessaires pour créer des menaces biologiques, améliorer notre capacité à identifier et à suivre les nouvelles éclosions à un stade précoce, et renforcer les technologies — comme l’équipement de protection, les systèmes de purification de l’air intérieur et les contre-mesures médicales — nécessaires pour intervenir rapidement et efficacement.

Cyberrésilience

L’IA a commencé à transformer rapidement le paysage de la cybersécurité. Les tâches qui nécessitaient autrefois des équipes spécialisées peuvent désormais être prises en charge ou automatisées par des modèles performants. Parallèlement, les capacités d’IA qui s’améliorent rapidement peuvent aussi être utilisées pour accélérer le travail des équipes de cyberdéfense, notamment en repérant et en corrigeant les vulnérabilités, ainsi qu’en accélérant les interventions.

De nombreuses grandes entreprises et des acteurs privés peuvent investir massivement dans la cybersécurité pour protéger leurs propres systèmes, notamment en tirant parti des nouvelles avancées en IA. Nous prévoyons de consacrer d’importantes ressources à la protection d’autres acteurs sociétaux importants qui disposent de moins de ressources et auront beaucoup plus de difficulté à déployer des cyberdéfenses adaptées à l’IA aussi rapidement que nécessaire. En parallèle, nous nous concentrons également sur la préparation aux défis inédits en matière de sécurité que l’intelligence artificielle générale finira par entraîner.

Sécurité des modèles d’IA

La sûreté des modèles d’IA porte sur le comportement des systèmes eux-mêmes — à savoir s’ils sont véridiques, fiables et alignés sur l’intention humaine. Dans un monde où les choses dérapent, les modèles peuvent sortir du cadre prévu et se comporter de manière imprévisible, nous tromper ou poursuivre des objectifs qui dépassent leur conception. Il devient de plus en plus important de bien maîtriser cet aspect à mesure que les systèmes d’IA gagnent en autonomie et s’approchent — puis finissent par dépasser — l’intelligence humaine.

Les entreprises d’IA investissent des ressources considérables dans la sécurité des modèles. Cependant, l’importance de ce défi exige un écosystème plus vaste et plus robuste : des institutions indépendantes pour évaluer la sécurité des modèles, une infrastructure publique pour vérifier le déploiement sécuritaire des modèles en pratique, et des avancées continues en science de l’alignement afin de faire progresser l’ensemble du domaine.

L’impact de l’IA sur les jeunes

Les jeunes sont souvent parmi les premiers à adopter les nouvelles technologies, qu’ils utilisent pour apprendre, créer, communiquer et explorer le monde. L’IA ne fait pas exception. Mais comme ces outils occupent une place croissante dans la vie quotidienne des jeunes, il est essentiel que nous développions une base probante plus solide pour en comprendre les répercussions.

Les familles, les écoles, les responsables des politiques et les organismes communautaires se penchent tous sur des questions concernant la façon dont les jeunes interagissent avec l’IA et le moment où ils le font, notamment son incidence sur les liens humains, l’apprentissage et le développement. Notre priorité initiale sera de faire progresser la recherche indépendante afin d’éclairer ces décisions — pour mieux comprendre où l’IA peut soutenir le développement, les risques qu’elle peut introduire et les contextes qui façonnent ces effets.

Ces constats devraient orienter l’établissement de normes générales de sécurité et de principes de conception qui guident la façon dont tout produit d’IA est développé, la manière dont les écoles choisissent de les déployer, ainsi que si et comment les familles décident d’intégrer ces technologies dans leur vie.

Le travail à venir

Il existe une différence cruciale entre l’IA et les technologies qui l’ont précédée : la vitesse.

La résilience au feu a pris des millénaires. La résilience du réseau électrique a pris des décennies. La résilience de l’IA évolue en l’espace de quelques années. Les systèmes qui permettent d’en assurer la sûreté, la fiabilité et le caractère bénéfique pour le plus grand nombre doivent être développés en parallèle.

Si nous nous y prenons bien, l’IA peut devenir partie intégrante des infrastructures fondamentales de la vie moderne — en élargissant l’accès au savoir, en accélérant les découvertes et en améliorant la vie des gens à l’échelle mondiale.

Mais ce résultat n’est pas garanti. Aucune technologie à usage général ne s’est jamais rendue sûre d’elle-même.

La résilience est une discipline permanente qui nécessite la participation de nombreuses personnes et institutions pour la bâtir, y investir et collaborer. Voilà le travail qui nous attend, et c’est l’un des défis déterminants de notre époque. Nous espérons que vous vous joindrez à nous.