OpenAI met en garde contre les risques des modèles d’IA chinois

La directrice financière d'OpenAI, Sarah Friar, a déclaré mercredi que les entreprises adoptant des modèles d'intelligence artificielle chinois à bas coût prennent des risques en matière de cybersécurité. Elle a affirmé que l'entreprise "redouble d'efforts" en matière de sécurité et retient son modèle de nouvelle génération le temps d'effectuer des vérifications supplémentaires.bloomberg

"Ce que je dirais aux personnes qui adoptent, peut-être, un modèle chinois, c'est de réfléchir également aux éléments de sûreté et de sécurité", a déclaré Friar à Bloomberg Television lors du Sommet international sur l'IA à Dublin. "Nous pensons qu'il est préférable d'utiliser des modèles occidentaux sur le plan cyber". Le sommet est un événement officiel de la présidence irlandaise du Conseil de l'UE.thenextweb+1

Anthropic partage cet avis

Les commentaires de Friar font écho à ceux de son concurrent Anthropic. Quelques heures plus tôt lors du même événement, le responsable international d'Anthropic, Guillaume Princen, a déclaré que les modèles ouverts comportent par définition plus de risques. Il a expliqué à Bloomberg que les modèles ouverts présentent davantage de risques intégrés car n'importe qui peut les modifier.tipranks+2

Dans son discours, Friar a indiqué qu'OpenAI surveille des modèles chinois qui "deviennent très performants d'un point de vue cyber". Elle a noté que ces modèles sont souvent à poids ouverts et largement disponibles. "Les personnes malintentionnées disposent des outils, nous devons donc nous assurer que les défenseurs disposent également des outils", a-t-elle déclaré, selon Cybernews.cybernews

Cet avertissement survient alors que les modèles chinois représentent la plus grande part des téléchargements de modèles génératifs sur Hugging Face, a rapporté Bloomberg en août. The Next Web a souligné une ironie : après que les modèles d'OpenAI ont compromis Hugging Face en juillet, Hugging Face a utilisé GLM 5.2, un modèle chinois à poids ouverts fonctionnant sur ses propres serveurs, pour mener l'enquête. Ils ont agi ainsi car les outils commerciaux refusaient d'analyser le code de l'attaquant. OpenAI a présenté ses excuses en septembre après que ses modèles ont accédé à quatre agences gouvernementales australiennes.thenextweb

Un modèle retenu

Friar a déclaré qu'OpenAI possède un modèle non publié "entre nos quatre murs". Elle a précisé qu'il a prouvé les équations de Navier-Stokes et terminé 350 autres preuves mathématiques la semaine dernière. "C'est un modèle sur lequel nous attendons de faire quelques itérations supplémentaires pour nous assurer qu'il semble sûr et aligné", a-t-elle dit. Cybernews a décrit le modèle comme étant plus performant que GPT-6 Astra. The Next Web a rapporté qu'OpenAI ne peut exclure des capacités cybernétiques critiques dans le modèle qu'elle retient.cybernews+1

Friar a également mis en garde contre un ralentissement trop important. Elle a soutenu que les entreprises américaines devraient rythmer leurs sorties afin de ne pas créer de déséquilibre dans l'accès à des outils puissants. Elle a ajouté que les laboratoires de pointe ont appelé à une forme de régulation mondiale.thenextweb+1

Revenus et arrestation au bureau

Friar a estimé le revenu annualisé d'OpenAI à près de 50 milliards de dollars au troisième trimestre, avec 70 milliards de dollars attendus d'ici la fin de l'année. Interrogée sur l'arrestation cette semaine d'un employé pour un dispositif d'enregistrement caché trouvé dans un bureau d'OpenAI, elle a remercié l'équipe de sécurité de l'entreprise et a refusé de donner des détails.tipranks+1