Mise à jour sur la Fondation OpenAI

L’automne dernier, OpenAI a annoncé sa recapitalisation⁠, ouvrant ainsi la voie à la Foundation OpenAi pour qu’elle puisse bénéficier de ressources importantes. Aujourd’hui, nous expliquons comment la Fondation commence à mobiliser ce soutien.

Notre mission

Notre mission : veiller à ce que l’intelligence artificielle générale profite à l’ensemble de l’humanité. Il s’agit d’une démarche à multiples facettes.

L’IA transforme déjà la manière dont les personnes travaillent, apprennent et accèdent aux soins. Son potentiel est extraordinaire : des avancées médicales plus rapides, une accélération des découvertes scientifiques, des services plus personnalisés en santé et en éducation, de nouveaux outils pour la créativité et l’invention, une productivité accrue et une croissance économique renforcée, des services publics améliorés comme les systèmes de transport, et bien plus encore. Notre conviction en ce potentiel guide OpenAI depuis sa création.

Mais développer des systèmes puissants au service de l’humanité ne constitue qu’une partie de notre mission. Les modèles d’IA avancés poseront également de nouveaux défis, déjà en train d’émerger, et nous devons être prêts à les identifier et à développer des solutions pour y répondre.

Voilà les deux axes autour desquels s'articule la mission de la Fondation, que nous sommes en train de mettre en place. Notre objectif est de permettre l’utilisation de l’IA pour trouver des solutions aux problèmes les plus complexes de l’humanité, de repousser les limites des capacités humaines et d’apporter de réels avantages dans la vie des gens, tout en collaborant étroitement avec nos partenaires afin d’anticiper les nouveaux défis et de renforcer la résilience de la société à mesure que l’IA progresse.

Ce travail ne fait que commencer. Au cours de l’année à venir, alors que nous allons rapidement intensifier nos activités, la Fondation prévoit d’investir au moins 1 milliard de dollars dans les sciences de la vie et la lutte contre les maladies, l’emploi et l’impact économique, la résilience face à l’IA, ainsi que dans des programmes communautaires. Cela comprend les premiers investissements dans le cadre de notre engagement de 25 milliards de dollars, annoncé précédemment, en faveur de la lutte contre les maladies et de la résilience face à l’IA.

Dans les mois à venir, nous partagerons des avancées dans chacun de ces domaines alors que nous construisons, apprenons et affinons notre approche, et que nous faisons progresser notre mission grâce à de nouvelles subventions et de nouveaux programmes.

Sciences de la vie et lutte contre les maladies^1⁠

Nous commençons par les sciences de la vie et la lutte contre les maladies, domaines dans lesquels nous pensons que l’IA a un potentiel considérable pour accélérer les progrès scientifiques et médicaux afin de sauver et d’améliorer des vies. Nous constatons déjà des signes précurseurs des capacités de l’IA dans ces domaines. Les chercheurs utilisent l’IA pour mieux comprendre les maladies, explorer de nouvelles façons de les prévenir et de les traiter, et accélérer le passage des idées du laboratoire aux patients.

Au sein de la Fondation, nous avons identifié trois domaines prioritaires dans lesquels nous pensons que ce travail peut faire une réelle différence :

IA pour la maladie d’Alzheimer : la maladie d’Alzheimer est l’une des maladies les plus difficiles et les plus éprouvantes auxquelles les familles sont confrontées, et l’un des défis les plus complexes en médecine. La capacité de l’IA à raisonner sur des données complexes pourrait aider les chercheurs à découvrir de nouvelles pistes. Nous collaborerons avec des institutions de recherche de premier plan, en mettant d’abord l’accent sur la cartographie des mécanismes pathologiques, la détection de biomarqueurs pour les soins cliniques et les essais cliniques, et l’accélération de la personnalisation des traitements, y compris, lorsque cela est possible, la réutilisation de molécules déjà approuvées par la FDA, l’autorité sanitaire américaine.
Des données ouvertes pour la santé : bon nombre des plus grandes avancées en médecine ont été rendues possibles grâce au partage de données scientifiques, et l’accès public aux données est essentiel pour concrétiser le potentiel de l’IA au service des découvertes scientifiques. Nous aiderons nos partenaires à développer et enrichir des jeux de données ouverts et de haute qualité, ainsi qu’à ouvrir de façon responsable, lorsque cela est pertinent, des jeux de données auparavant fermés, afin que les chercheurs du monde entier puissent exploiter l’IA et faire progresser la recherche sur les maladies.
Accélérer les progrès sur les maladies à forte mortalité et à forte charge : Nous pensons que l’IA peut contribuer à des avancées scientifiques majeures et réduire le coût ainsi que les risques liés au développement ou à la réutilisation de traitements, en particulier dans des domaines de maladies à forte mortalité et à forte charge encore sous-financés. Nous réunirons des chercheurs en IA et des experts des maladies, en commençant par un atelier ciblé pour identifier comment mieux outiller les scientifiques avec l’IA et faire émerger des opportunités prometteuses.

Jacob Trefethen dirigera ces travaux en tant que responsable des sciences de la vie et de la lutte contre les maladies. Il nous rejoint depuis Coefficient Giving, où il a supervisé plus de 500 millions de dollars de subventions dédiées à la science et à la santé.

Emplois et impact économique

L’intelligence artificielle va transformer la nature du travail et de l’économie, ce qui s’accompagnera à la fois de défis et d’occasions. Nous en reconnaissons l’importance capitale. La Fondation a entamé un dialogue avec des experts et divers acteurs de la société civile, comme des représentants de la société civile, des propriétaires de petites entreprises, des syndicats, des économistes de renom, des décideurs politiques et autres, afin d’élaborer et de financer des solutions concrètes dans ce domaine. Nous prévoyons de mobiliser des ressources importantes pour soutenir les approches les plus prometteuses, et nous vous en dirons plus dans les semaines à venir.

Résilience face à l’IA

Comme annoncé précédemment, la résilience face à l’IA sera également l’un de nos programmes principaux. Ce travail se concentre sur les nouveaux défis qui émergent inévitablement avec des IA plus puissantes, afin que chacun puisse pleinement bénéficier de l’IA d’une manière qui soutient et renforce l’autonomie, la créativité et les opportunités humaines.

Nous nous concentrerons dans un premier temps sur quelques domaines où les préoccupations liées à l’impact sont déjà évidentes et où nous pensons que des actions précoces peuvent faire une réelle différence :

Impact de l’IA sur les enfants et les jeunes : Nous voulons contribuer à garantir que les outils d’IA soient sûrs pour les jeunes et favorisent un développement sain. Cela inclut des investissements dans la recherche et l’évaluation fondées sur les données, ainsi qu’un travail transversal entre disciplines pour identifier les garde-fous appropriés afin de garantir des interactions sûres et bénéfiques entre l’IA, les enfants et les jeunes.
Biosécurité : nous voulons renforcer la préparation de la société face aux menaces biologiques potentielles, qu’il s’agisse d’épidémies naturelles ou facilitées par l’IA. Cela inclut l’amélioration de la détection, de la prévention et de l’atténuation.
Sécurité des modèles d’IA : Nous voulons que les systèmes d’IA soient plus sûrs par défaut. Cela signifie mener des tests et des évaluations indépendants, élaborer de nouvelles normes industrielles plus robustes, et financer des recherches fondamentales qui permettent d’éviter les problèmes de sécurité ou de les détecter et de les résoudre à un stade précoce.

Wojciech Zaremba, cofondateur d’OpenAI, rejoint la Fondation en tant que responsable de la résilience de l’IA pour diriger ces travaux.

Soutenir les communautés

Nous annoncerons bientôt la dernière vague de subventions du fonds initial People-First AI Fund, ainsi que davantage de détails sur la suite.

Grâce à ce projet, lancé sur recommandation de notre Commission à but non lucratif⁠, nous avons constaté que les acteurs de terrain sont particulièrement bien placées pour aider les personnes à s’adapter aux changements pilotés par l’IA. Ces groupes, qui jouissent d’une grande confiance, sont les plus proches des communautés qu’ils servent et mènent un travail essentiel sur le terrain.

Nous continuerons d’investir dans des initiatives qui soutiennent les communautés, en mettant l’accent sur l’aide apportée aux individus pour comprendre l’IA, tirer parti de ses capacités et s’adapter aux changements qu’elle entraîne.

Constitution de notre équipe

En plus de Wojciech et Jacob, nous constituons une équipe pour faire progresser nos travaux à grande échelle.

À la mi-avril, Anna Makanju prendra ses fonctions de responsable de l’IA pour la société civile et la philanthropie afin de diriger les travaux de la Fondation visant à tirer parti de l’IA pour aider les organisations à but non lucratif, les ONG, les institutions philanthropiques et l’ensemble de l’écosystème de la société civile à accélérer et à accroître leur impact. Anna occupait auparavant le poste de vice-présidente de l’impact mondial chez OpenAI. Nous avons hâte de vous en dire plus sur ce projet dans les semaines à venir.

Robert Kaiden se joint à l’entreprise en tant que directeur financier. Robert a précédemment occupé des postes de haute direction chez Deloitte, Twitter et Inspirato. Il contribuera à garantir que la Fondation fasse preuve d’une grande rigueur financière à mesure que nous nous développons.

Jeff Arnold nous rejoint au poste de directeur des opérations. Jeff a été l’un des premiers membres d’OpenAI. Il a consacré sa carrière à la création et au développement d’entreprises, notamment à des postes de direction chez Oracle et Dropbox. Il contribuera à la mise en place des systèmes opérationnels nécessaires à la réalisation des objectifs de la Fondation.

Le conseil d’administration de la Fondation est également à la recherche d’un directeur général. Nous continuerons à agrandir notre équipe au cours des prochains mois.

Qu’est-ce qui vient ensuite?

Nous n’en sommes encore qu’au début de ce que l’IA peut rendre possible.

L’enjeu – et la responsabilité – est de faire en sorte que ces technologies apportent des progrès concrets pour les individus. Nous apprendrons rapidement, travaillerons en étroite collaboration avec nos partenaires et investirons dans des solutions capables de se déployer à grande échelle et de transformer sur la durée.

Notre objectif est d’aider davantage de personnes à résoudre les problèmes les plus difficiles, à mieux prendre soin de leurs proches et à construire des vies épanouissantes qui étaient auparavant hors de portée.

Nous nous réjouissons du travail à venir et nous partagerons davantage d’informations dans les mois à venir.