La startup de Murati lance un modèle d’IA à poids ouverts face aux craintes concernant les données d’entreprise

Le PDG de Microsoft ↗ 0.52%, Satya Nadella, a introduit ce qu'il appelle le "Paradoxe de l'information inverse", arguant que les entreprises adoptant l'IA d'entreprise cèdent sans le savoir leur atout le plus précieux — leurs connaissances propriétaires — à chaque fois qu'elles interagissent avec un modèle.

Dans une publication sur X le lundi 13 juillet, Nadella a écrit que les organisations "paient essentiellement pour l'intelligence deux fois, une fois avec de l'argent, et une autre fois avec quelque chose d'encore plus précieux : les connaissances propriétaires que vous devez révéler pour rendre cette intelligence utile". Plus une entreprise souhaite que son IA soit performante, a-t-il soutenu, plus elle doit exposer son expertise interne, ses flux de travail et ses processus décisionnels aux fournisseurs de modèles.firstpost+2

Le problème de l'« échappement d'intelligence »

Nadella a averti que les systèmes d'IA capturent ce qu'il appelle l'"échappement d'intelligence" — les corrections, les évaluations et les données d'utilisation générées chaque fois que les employés interagissent avec des outils d'IA. Ces données révèlent des connaissances internes de l'entreprise que les fournisseurs peuvent utiliser pour créer des produits concurrents ou concentrer la valeur économique entre les opérateurs d'infrastructure plutôt que chez les entreprises générant ces connaissances.the-decoder+1

Sa solution proposée est une "limite de confiance" stricte au sein de chaque entreprise, construite sur cinq piliers qu'il appelle les Cinq C : Contrôle, Capacité, Choix, Coût et Composé. Le cadre exhorte les entreprises à posséder leurs évaluations et leurs boucles de rétroaction, à construire des environnements d'apprentissage privés, à maintenir les couches d'orchestration indépendantes de tout fournisseur de modèle unique, à optimiser les coûts et à créer des systèmes d'apprentissage continu qui génèrent de la valeur en interne.aiweekly+3

Le double standard de la distillation

Nadella a également visé les laboratoires d'IA, dont OpenAI et Anthropic, pour avoir interdit la distillation de modèles — la pratique consistant à entraîner des modèles plus petits en utilisant les sorties de modèles plus grands — dans leurs conditions d'utilisation. Il a fait valoir que cette position est hypocrite étant donné que ces mêmes laboratoires ont librement extrait des données de l'internet ouvert pour entraîner leurs propres systèmes. Si les laboratoires peuvent apprendre à partir de données publiques, a soutenu Nadella, les entreprises devraient être libres d'étudier et d'améliorer les résultats pour lesquels elles paient.techcrunch+2

Le modèle Inkling de Murati entre dans la danse

Les préoccupations soulevées par Nadella ont trouvé une réponse pratique mercredi lorsque Thinking Machines Lab, la startup fondée par l'ancienne directrice technique d'OpenAI, Mira Murati, a publié son premier modèle appelé Inkling. Le modèle à poids ouverts de 975 milliards de paramètres permet aux entreprises de le télécharger et de le personnaliser avec leurs propres données — un contraste direct avec les modèles fermés critiqués par Nadella. Le PDG de Palantir ↗ 3.68%, Alex Karp, avait exprimé des avertissements similaires quelques semaines plus tôt, déclarant aux dirigeants d'entreprise que "quelque chose a complètement mal tourné" dans la manière dont les laboratoires d'IA traitent les données des clients.wsj+5

"Le vendeur en apprend de plus en plus sur vous à mesure que vous utilisez ce que vous avez acheté", a écrit Nadella, "alors que vous apprenez très peu sur ce que le vendeur apprend en retour".thenextweb