Mise à jour sur la fondation OpenAI

L’automne dernier, OpenAI a annoncé sa recapitalisation⁠, ouvrant ainsi la voie à l’accès de l’OpenAI Foundation à des ressources importantes. Aujourd’hui, nous expliquons comment l’OpenAI Foundation commence à mobiliser ce soutien. 

Notre mission

Notre mission : veiller à ce que l’intelligence artificielle générale profite à l’ensemble de l’humanité. Il s’agit d’une démarche à multiples facettes. 

L’IA transforme déjà la manière dont les personnes travaillent, apprennent et accèdent aux soins. Son potentiel est extraordinaire : des avancées médicales plus rapides, une accélération des découvertes scientifiques, des services plus personnalisés en santé et en éducation, de nouveaux outils pour la créativité et l’invention, une productivité accrue et une croissance économique renforcée, des services publics améliorés comme les systèmes de transport, et bien plus encore. Notre conviction en ce potentiel guide OpenAI depuis sa création.

Mais développer des systèmes puissants au service de l’humanité ne constitue qu’une partie de notre mission. Les modèles d’IA avancés poseront également de nouveaux défis, déjà en train d’émerger, et nous devons être prêts à les identifier et à développer des solutions pour y répondre. 

Ce sont les deux dimensions que nous donnons à l’OpenAI Foundation. Nous visons à permettre l’utilisation de l’IA pour trouver des solutions aux problèmes les plus complexes de l’humanité, transformer ce dont les individus sont capables et apporter des bénéfices concrets dans leur vie – tout en travaillant étroitement avec des partenaires pour anticiper les nouveaux défis et renforcer la résilience de la société alors que l’IA progresse.    

Ce travail ne fait que commencer. Au cours de l’année à venir, alors que nous accélérons rapidement, l’OpenAI Foundation prévoit d’investir au moins 1 milliard de dollars dans les sciences de la vie et la lutte contre les maladies, l’emploi et l’impact économique, la résilience de l’IA et les programmes menés auprès des populations. Cela comprend des investissements initiaux dans le cadre de notre engagement précédemment annoncé de 25 milliards de dollars pour lutter contre les maladies et pour la résilience de l’IA.

Dans les mois à venir, nous partagerons des avancées dans chacun de ces domaines alors que nous construisons, apprenons et affinons notre approche, et que nous faisons progresser notre mission grâce à de nouvelles subventions et de nouveaux programmes.

Sciences de la vie et lutte contre les maladies^1⁠

Nous commençons par les sciences de la vie et la lutte contre les maladies, domaines dans lesquels nous pensons que l’IA a un potentiel considérable pour accélérer les progrès scientifiques et médicaux afin de sauver et d’améliorer des vies. Nous constatons déjà des signes précurseurs des capacités de l’IA dans ces domaines. Les chercheurs utilisent l’IA pour mieux comprendre les maladies, explorer de nouvelles façons de les prévenir et de les traiter, et accélérer le passage des idées du laboratoire aux patients.

Au sein de la Fondation, nous avons identifié trois premiers axes prioritaires pour lesquels nous pensons que ce travail peut faire une réelle différence :

• IA pour la maladie d’Alzheimer : la maladie d’Alzheimer est l’une des maladies les plus difficiles et les plus éprouvantes auxquelles les familles sont confrontées, et l’un des défis les plus complexes en médecine. La capacité de l’IA à raisonner sur des données complexes pourrait aider les chercheurs à découvrir de nouvelles pistes. Nous collaborerons avec des institutions de recherche de premier plan, en mettant d’abord l’accent sur la cartographie des mécanismes pathologiques, la détection de biomarqueurs pour les soins cliniques et les essais cliniques, et l’accélération de la personnalisation des traitements, y compris, lorsque cela est possible, la réutilisation de molécules déjà approuvées par la FDA, l’autorité sanitaire américaine.

• Des données ouvertes pour la santé : bon nombre des plus grandes avancées en médecine ont été rendues possibles grâce au partage de données scientifiques, et l’accès public aux données est essentiel pour concrétiser le potentiel de l’IA au service des découvertes scientifiques. Nous aiderons nos partenaires à développer et enrichir des jeux de données ouverts et de haute qualité, ainsi qu’à ouvrir de façon responsable, lorsque cela est pertinent, des jeux de données auparavant fermés, afin que les chercheurs du monde entier puissent exploiter l’IA et faire progresser la recherche sur les maladies.

• Accélérer les progrès sur les maladies à forte mortalité et à forte charge : Nous pensons que l’IA peut contribuer à des avancées scientifiques majeures et réduire le coût ainsi que les risques liés au développement ou à la réutilisation de traitements, en particulier dans des domaines de maladies à forte mortalité et à forte charge encore sous-financés. Nous réunirons des chercheurs en IA et des experts des maladies, en commençant par un atelier ciblé pour identifier comment mieux outiller les scientifiques avec l’IA et faire émerger des opportunités prometteuses.

Jacob Trefethen dirigera ces travaux en tant que responsable des sciences de la vie et de la lutte contre les maladies. Il nous rejoint depuis Coefficient Giving, où il a supervisé plus de 500 millions de dollars de subventions dédiées à la science et à la santé.

Emplois et impact économique 

L’IA transformera la nature du travail et de l’économie – en apportant à la fois des défis et des opportunités. Nous reconnaissons que cela est d’une importance capitale. La Fondation a commencé à collaborer avec des experts et des communautés – organisations de la société civile, petites entreprises, syndicats, économistes de premier plan, décideurs publics et autres – afin de développer et financer des solutions concrètes dans ce domaine. Nous prévoyons de mobiliser des ressources importantes pour soutenir les approches les plus prometteuses et partagerons davantage d’informations dans les semaines à venir.

Résilience face à l’IA

Comme annoncé précédemment, la résilience face à l’IA sera également l’un de nos programmes principaux. Ce travail se concentre sur les nouveaux défis qui émergent inévitablement avec des IA plus puissantes, afin que chacun puisse pleinement bénéficier de l’IA d’une manière qui soutient et renforce l’autonomie, la créativité et les opportunités humaines.

Nous nous concentrerons dans un premier temps sur quelques domaines où les préoccupations liées à l’impact sont déjà évidentes et où nous pensons que des actions précoces peuvent faire une réelle différence :

• Impact de l’IA sur les enfants et les jeunes : Nous voulons contribuer à garantir que les outils d’IA soient sûrs pour les jeunes et favorisent un développement sain. Cela inclut des investissements dans la recherche et l’évaluation fondées sur les données, ainsi qu’un travail transversal entre disciplines pour identifier les garde-fous appropriés afin de garantir des interactions sûres et bénéfiques entre l’IA, les enfants et les jeunes.

• Biosécurité : nous voulons renforcer la préparation de la société face aux menaces biologiques potentielles, qu’il s’agisse d’épidémies naturelles ou facilitées par l’IA. Cela inclut l’amélioration de la détection, de la prévention et de l’atténuation. 

• Sécurité des modèles d’IA : Nous voulons que les systèmes d’IA soient plus sûrs par défaut. Cela signifie mener des tests et des évaluations indépendants, développer de nouvelles normes industrielles plus robustes, et financer des recherches fondamentales qui permettent d’éviter les problèmes de sécurité ou de les détecter et de les traiter en amont.

Wojciech Zaremba, cofondateur d’OpenAI, rejoint la Fondation en tant que responsable de la résilience de l’IA pour diriger ces travaux.

Soutenir les communautés

Nous annoncerons bientôt la dernière vague de subventions du fonds initial People-First AI Fund, ainsi que davantage de détails sur la suite.

Grâce à ce travail, lancé sur recommandation de notre Commission des organisations à but non lucratif⁠, nous avons constaté que les organisations de terrain sont particulièrement bien placées pour aider les individus à s’adapter aux transformations dues à l’IA. Ces organisations de confiance sont au plus près des communautés qu’elles accompagnent et mènent des actions essentielles sur le terrain.

Nous continuerons d’investir dans des initiatives qui soutiennent les communautés, en mettant l’accent sur l’aide apportée aux individus pour comprendre l’IA, tirer parti de ses capacités et s’adapter aux changements qu’elle entraîne.

Constitution de notre équipe

En plus de Wojciech et Jacob, nous constituons une équipe pour faire progresser nos travaux à grande échelle.

À la mi-avril, Anna Makanju rejoint l’OpenAI Foundation en tant que responsable de l’IA pour la société civile et la philanthropie afin de piloter les initiatives de l’OpenAI Foundation pour exploiter l’IA pour aider les organisations à but non lucratif, les ONG, les institutions philanthropiques et l’ensemble de l’écosystème de la société civile à accélérer et à accroître leur impact. Anna était auparavant vice-présidente de l’impact mondial chez OpenAI. Nous avons hâte de partager davantage sur ce travail dans les semaines à venir.

Robert Kaiden rejoint l’entreprise en tant que directeur financier. Robert a précédemment occupé des postes de direction de haut niveau chez Deloitte, Twitter et Inspirato. Il contribuera à garantir que la Fondation fonctionne avec une discipline financière rigoureuse alors que nous nous développons.

Jeff Arnold rejoint l’OpenAI Foundation en tant que directeur des opérations. Jeff a été l’un des premiers membres d’OpenAI. Il a consacré sa carrière à créer et à développer des entreprises, notamment à des postes de direction chez Oracle et Dropbox. Il contribuera à mettre en place les systèmes opérationnels nécessaires pour soutenir les objectifs de l’OpenAI Foundation. 

Le Conseil de la fondation recherche également un directeur général. Nous continuerons de recruter dans les mois à venir.

Qu’est-ce qui vient ensuite?

Nous n’en sommes encore qu’au début de ce que l’IA peut rendre possible.

L’enjeu – et la responsabilité – est de faire en sorte que ces technologies apportent des progrès concrets pour les individus. Nous apprendrons rapidement, travaillerons en étroite collaboration avec nos partenaires et investirons dans des solutions capables de se déployer à grande échelle et de transformer sur la durée.

Notre objectif est d’aider davantage de personnes à résoudre les problèmes les plus difficiles, à mieux prendre soin de leurs proches et à construire des vies épanouissantes qui étaient auparavant hors de portée.

Nous nous réjouissons du travail à venir et nous partagerons davantage d’informations dans les mois à venir.