OpenAI autorise des groupes externes à auditer ses modèles d’IA

OpenAI a annoncé mardi qu'il autoriserait des organisations externes à effectuer des évaluations techniques de sécurité de ses modèles d'IA lors des phases précoces d'entraînement, d'évaluation et de déploiement, une initiative visant à répondre aux préoccupations croissantes concernant les risques potentiels des systèmes d'IA de pointe.

Le créateur de ChatGPT a souligné les priorités pour que ces examens soient efficaces, notamment "des mécanismes d'indépendance solides, une rigueur scientifique, des pratiques de sécurité robustes et des responsabilités claires", selon Bloomberg. Cette annonce, faite via un article de blog de l'entreprise, intervient dans une période de surveillance intense des pratiques de sécurité du secteur de l'IA.bloomberg

Une vague de propositions de sécurité

Cette décision fait suite à une série rapide d'annonces liées à la sécurité de la part des principaux laboratoires d'IA. Lundi, OpenAI a publié une série distincte de propositions axées sur la recherche en alignement et une technique informatique connue sous le nom d'auto-amélioration récursive, ou RSI, appelant à une coopération internationale pour développer des normes de pointe. "L'auto-amélioration récursive totalement autonome n'existe pas aujourd'hui, et nous ne devrions pas la poursuivre tant qu'elle ne pourra pas être réalisée en toute sécurité", a écrit l'entreprise.cnbc

La semaine dernière, son concurrent Anthropic a publié ses propres propositions pour un développement plus sûr des modèles de pointe, après que le chercheur Jacob Coxon a déclenché un débat mondial en démissionnant de l'entreprise et en avertissant que les laboratoires d'IA "jouaient avec nos vies". Le PDG d'Anthropic, Dario Amodei, a par la suite appelé les entreprises d'IA à ralentir leur rythme de développement et a proposé d'intégrer des évaluateurs tiers au sein de leurs organisations.explainx+1

Un fossé de confiance subsiste

Malgré la multiplication des promesses, les sceptiques doutent qu'une surveillance significative soit possible au vu du rythme effréné de l'industrie. Plus de 7 000 milliards de dollars devraient être consacrés au développement de l'IA au cours des cinq prochaines années, selon les estimations de Goldman Sachs ↘ 1.38% citées par Axios. OpenAI et Anthropic subissent tous deux la pression de devoir fournir des modèles de plus en plus performants alors qu'ils se préparent à des introductions en bourse avec des valorisations se chiffrant en milliers de milliards de dollars.axios

Une coalition de plus de 100 évaluateurs d'IA a récemment exhorté les fabricants de modèles de pointe à adopter des "conditions minimales" pour des audits indépendants, incluant un accès plus approfondi et des protections contre les représailles en cas de publication de résultats défavorables. Daniel Kokotajlo, ancien chercheur chez OpenAI et directeur exécutif de l'AI Futures Project, a déclaré à Axios qu'il ne pensait pas que l'IA puisse être développée en toute sécurité, arguant que les grandes entreprises devraient éviter de diriger leurs vastes ressources informatiques vers l'amélioration des modèles.cnbc+2

"Les entreprises sont simplement dans ce processus continu de sentiments contradictoires et de discussions internes sur, eh bien, que faisons-nous ?", a déclaré Kokotajlo. "Devrions-nous arrêter ? Sommes-nous les gentils ?"axios