OpenAI tente de résoudre un problème qui ne peut pas être traité par une simple équation.
OpenAI a annoncé le 15 octobre qu’elle contribuerait à hauteur de 5 millions de dollars US à une initiative de la Simons Foundation, dotée au total de 15 millions de dollars US de financements et de ressources combinés provenant de la fondation, d’Anthropic et d’OpenAI. Cette annonce fait suite aux critiques suscitées par la publication par OpenAI de centaines de manuscrits mathématiques générés par l’IA.
Le programme financera des chercheurs qui évaluent des travaux générés par l’IA, se forment à de nouveaux outils et élaborent des normes communes pour l’utilisation de l’IA en mathématiques. Il fournit à la communauté mathématique davantage de ressources pour faire face à cette technologie, mais les questions liées à l’attribution, à la vérification et au volume considérable de recherches générées par l’IA restent entières.
La communauté mathématique s’oppose au déploiement des recherches d’OpenAI
Le différend s’est intensifié après qu’OpenAI a annoncé en septembre qu’un modèle non publié avait produit une solution proposée faisant intervenir les équations de Navier–Stokes. Selon Euronews, deux mathématiciens qui travaillaient à un résultat similaire se sont demandé si les travaux d’OpenAI s’appuyaient sur les leurs. OpenAI a nié avoir vu leurs travaux inédits.
Le 6 octobre, OpenAI a publié un recueil de manuscrits mathématiques produits par un modèle d’IA interne. L’Association for Human Mathematics a répondu que les mathématiciens « n’avaient pas demandé que ce travail soit réalisé » et a accusé l’entreprise de faire fi des normes de recherche établies.
Cette publication crée également une importante tâche d’examen : les mathématiciens doivent évaluer l’exactitude, la nouveauté et les liens avec les recherches existantes. Le dépôt d’OpenAI précise que les résultats se trouvent à différents stades de vérification et que certains, dépourvus de preuves formalisées, pourraient comporter des problèmes.
OpenAI affirme avoir consulté un groupe consultatif indépendant spécialisé en mathématiques et en IA, établi des protocoles pour les révisions et les citations, et publié des versions vérifiables par ordinateur de nombreuses preuves à l’aide de l’assistant de preuve Lean. Ces mesures permettent d’examiner les travaux, mais ne démontrent pas que chaque résultat est correct et ne règlent pas le différend sur l’attribution.
Les 5 millions de dollars US d’OpenAI serviront à l’examen et à l’élaboration de normes
La contribution d’OpenAI s’inscrit dans les 15 millions de dollars US de financements et de ressources combinés provenant de la Simons Foundation, d’Anthropic et d’OpenAI.
La Simons Foundation gérera et attribuera les financements par l’intermédiaire d’initiatives pouvant inclure des ateliers et un appel à projets ouvert. L’objectif est d’aider les mathématiciens à évaluer les résultats assistés par l’IA, à se former à de nouveaux outils, à confronter leurs points de vue et à élaborer des normes collectives pour l’utilisation de l’IA.
OpenAI et Anthropic fourniront également des outils d’IA et des ressources informatiques aux chercheurs soutenus par la fondation. Ces ressources pourront dépasser le cadre des mathématiques et s’étendre aux sciences fondamentales.
La Simons Foundation administrera les financements
La structure du programme confie à la Simons Foundation la gestion des financements, plutôt que de laisser ce processus aux entreprises d’IA qui les financent.
Selon la Simons Foundation, son président David Spergel estime que la communauté mathématique devrait diriger les discussions sur la manière dont les outils d’IA sont « évalués, adoptés et utilisés », plutôt que de laisser ces décisions à une seule entreprise ou institution.
Cet accord répond directement à une partie des critiques concernant l’identité de ceux qui peuvent fixer les règles de la recherche assistée par l’IA. Il ne règle toutefois pas les questions relatives à la rapidité avec laquelle les travaux générés par l’IA devraient être publiés, ni à la manière dont l’attribution devrait fonctionner lorsque les modèles produisent des résultats proches de travaux humains inédits.
Ce qu’eWeek a constaté : le financement répond à la question de l’examen, mais pas à toutes les critiques
À la lecture des annonces, cette initiative soutient l’évaluation, l’accès aux outils d’IA et l’élaboration de normes par la communauté. Elle n’annonce ni le règlement du différend sur l’attribution, ni la mise en place d’un cadre complet pour la publication et la vérification des mathématiques générées par l’IA.
Les préoccupations des mathématiciens | Comment le nouveau programme y répond |
|---|---|
| Un volume de travaux générés par l’IA trop important pour être examiné | Les financements peuvent soutenir des ateliers et d’autres programmes dans le cadre desquels les chercheurs examinent les résultats récents assistés par l’IA. |
| Les chercheurs doivent avoir accès à la technologie | OpenAI et Anthropic fourniront des outils d’IA et des ressources informatiques aux chercheurs soutenus par la Simons Foundation. |
| Les entreprises d’IA pourraient fixer elles-mêmes les règles | La Simons Foundation gérera les financements, tandis que les chercheurs contribueront à l’élaboration de normes collectives sur l’évaluation, l’adoption et l’utilisation de l’IA. |
| Les questions liées à l’attribution et aux travaux inédits | Le programme annoncé n’établit pas de nouvelles règles d’attribution et ne règle pas le différend entourant les travaux mathématiques antérieurs d’OpenAI. |
Le dépôt d’OpenAI répertorie actuellement 719 manuscrits organisés en 372 « familles ». Chaque famille regroupe des articles liés, qui peuvent comprendre un résultat principal, des arguments à l’appui, des conséquences ou des preuves alternatives. Ces chiffres décrivent l’organisation de la collection, et non des séries distinctes de découvertes.
Pour les entreprises, cela signifie que la capacité d’examen doit être intégrée au coût d’adoption des outils d’IA pour la recherche. Produire davantage de résultats potentiels peut accroître le travail nécessaire à leur vérification, même lorsque la génération initiale est rapide.
Pour les entreprises qui utilisent l’IA dans la recherche, l’ingénierie ou d’autres domaines techniques, une approche pratique consiste à consigner les sources, les hypothèses et la version du modèle à l’origine de chaque résultat. Les équipes devraient également désigner un évaluateur qualifié et définir les éléments de preuve requis avant qu’un résultat n’influence une conception, un investissement ou une affirmation publiée.
La vérification et l’attribution nécessitent des contrôles distincts. Un résultat peut résister à un examen technique tout en soulevant des questions sur l’attribution appropriée des travaux antérieurs. Les organisations ont besoin d’un processus pour ces deux aspects.
L’initiative de la Simons Foundation pourrait aider la communauté mathématique à élaborer des normes communes. Pour les entreprises qui adoptent des outils similaires, la question immédiate est de savoir si leur capacité à évaluer les résultats générés par l’IA peut suivre le rythme de leur capacité à les produire.
Vous voulez découvrir davantage d’astuces, de conseils et de techniques de rédaction de prompts pour l’IA ? Les lecteurs d’eWeek bénéficient de 7 jours d’accès gratuit à The Neuron Academy, notre plateforme d’apprentissage pratique conçue pour aider les professionnels à utiliser l’IA avec davantage d’assurance au travail. Parcourez toutes les leçons →
Laissez-nous vous apprendre à parler à l’IA gratuitement ! Suivez notre cours de six minutes sur The Neuron Academy et découvrez quelques méthodes simples pour rédiger de meilleurs prompts et obtenir des résultats plus utiles avec l’IA, ou parcourez gratuitement notre autre cours d’IA pendant 7 jours. Découvrez toutes les leçons ici →