Z.AI rend ZCode open-source après le transfert secret de fichiers de développeurs

Z.AI, l'entreprise chinoise d'intelligence artificielle à l'origine de la famille de modèles GLM, a rendu open-source son assistant de codage ZCode lundi, après que l'outil a été surpris en train de compresser et de téléverser silencieusement des données locales des espaces de travail des développeurs vers des serveurs cloud sans leur consentement.

Cette décision fait suite aux résultats d'audits de sécurité tiers menés par l'Académie chinoise des technologies de l'information et de la communication (CAICT) et NSFOCUS, qui ont confirmé que le bucket de stockage Alibaba Cloud utilisé pour les transferts ne contient plus aucune donnée et que tous les objets concernés ont été définitivement supprimés.kucoin+1

Comment la faille a été découverte

La controverse a éclaté le 18 septembre, lorsqu'un chercheur indépendant publiant sous le pseudonyme "ferstar" a découvert que ZCode avait compressé 42 411 fichiers d'un espace de travail local dans une archive chiffrée de 313 Mo et effectué 564 tentatives de téléversement infructueuses vers Alibaba Cloud. Le répertoire .git représentait 86,6 % de la charge utile, les caches Git LFS totalisant à eux seuls 196,1 Mo.aiweekly+1

Les fichiers étaient chiffrés à l'aide d'une clé publique RSA fournie par le serveur et du protocole AES-256-CTR, ce qui signifie que ni l'utilisateur ni le client ZCode ne pouvaient les déchiffrer; seul le backend de Z.AI détenait la clé privée. Z.AI a attribué le problème à une fonctionnalité d'indexation de base de code activée par défaut après le lancement, capable de déclencher des téléversements complets de dépôts lors de la génération d'une page "Repo Wiki" dans le cloud.the420+2

Réponse par l'open source et l'audit

Z.AI a présenté ses excuses et a publié le code source de ZCode sous licence Apache 2.0 lundi, selon Reuters. L'entreprise a déclaré que la version 3.14.0 de ZCode a finalisé ses correctifs de sécurité, supprimant entièrement la fonctionnalité Repo Wiki et coupant les chemins de génération et de téléversement des instantanés de dépôts locaux.reuters+2

Z.AI a également annoncé son intention de mettre en place un processus continu de signalement et de réponse aux vulnérabilités, avec des récompenses basées sur la gravité, et a invité les développeurs à examiner le code source publié. Sa plateforme MaaS introduira bientôt une option "sans conservation de données" pour les appels de modèles standards, selon TechNode.thestandard+1

Questions en suspens

Malgré ces mesures, des parties externes ne peuvent toujours pas vérifier indépendamment si les données téléversées n'ont jamais été utilisées pour l'entraînement des modèles, Z.AI ayant conservé le contrôle exclusif des clés de déchiffrement. Une entreprise chinoise, Chengming Technology, a émis une mise en demeure exigeant que Z.AI réponde par écrit avant le 10 octobre avec un inventaire complet du traitement des données et une preuve de suppression.finance.biggo+2

Les actions de Z.AI à la Bourse de Hong Kong ont chuté jusqu'à 6 % lundi avant de se reprendre pour clôturer en hausse de 1,8 %.thestandard