Z.AI macht ZCode nach heimlichem Upload von Entwicklerdateien Open Source

Z.AI, das chinesische Unternehmen hinter der GLM-Modellfamilie, hat seinen Coding-Assistenten ZCode am Montag als Open Source veröffentlicht, nachdem das Tool dabei ertappt wurde, wie es im Hintergrund lokale Arbeitsdateien von Entwicklern ohne deren Zustimmung verpackte und auf Cloud-Server hochlud.

Dieser Schritt erfolgte zeitgleich mit den Ergebnissen externer Sicherheitsaudits durch die China Academy of Information and Communications Technology (CAICT) und NSFOCUS. Diese bestätigten, dass der für die Uploads genutzte Alibaba Cloud-Speicher nun keine Daten mehr enthält und alle relevanten Datenobjekte dauerhaft gelöscht wurden.kucoin+1

Wie die Sicherheitslücke entdeckt wurde

Die Kontroverse begann am 18. September, als ein unabhängiger chinesischer Technologieforscher, der unter dem Namen "ferstar" publiziert, entdeckte, dass ZCode 42.411 Dateien aus einem lokalen Arbeitsbereich in ein 313 MB großes verschlüsseltes Archiv gepackt und 564 fehlgeschlagene Upload-Versuche an Alibaba Cloud unternommen hatte. Das .git-Verzeichnis machte 86,6 % der Datenmenge aus, wobei allein die Git LFS-Caches 196,1 MB umfassten.aiweekly+1

Die Dateien wurden mit einem vom Server bereitgestellten RSA-Public-Key und AES-256-CTR verschlüsselt. Das bedeutet, dass weder der Nutzer noch der ZCode-Client sie entschlüsseln konnten; nur das Backend von Z.AI besaß den privaten Schlüssel. Z.AI führte das Problem auf eine "Codebase Indexing"-Funktion zurück, die nach der Einführung standardmäßig aktiviert war und bei der Erstellung einer cloudbasierten "Repo Wiki"-Seite vollständige Repository-Uploads auslösen konnte.the420+2

Open Source und Audit-Reaktion

Z.AI entschuldigte sich und veröffentlichte den Quellcode von ZCode am Montag unter einer Apache 2.0-Lizenz, wie Reuters berichtete. Das Unternehmen erklärte, dass ZCode in der Version 3.14.0 Sicherheitskorrekturen erhalten habe, bei denen die Repo Wiki-Funktion vollständig entfernt und die Pfade für die Generierung und den Upload lokaler Repository-Snapshots gekappt wurden.reuters+2

Z.AI kündigte zudem an, einen fortlaufenden Prozess zur Meldung und Reaktion auf Schwachstellen einzurichten, mit Belohnungen basierend auf dem Schweregrad, und lud Entwickler dazu ein, den Open-Source-Code zu überprüfen. Laut TechNode wird die MaaS-Plattform in Kürze eine Option zur "Nicht-Datenspeicherung" für Standard-Modellaufrufe einführen.thestandard+1

Offene Fragen

Trotz dieser Maßnahmen können externe Parteien weiterhin nicht unabhängig verifizieren, dass die hochgeladenen Daten niemals für das Modelltraining verwendet wurden, da Z.AI die exklusive Kontrolle über die Entschlüsselungsschlüssel behielt. Das chinesische Unternehmen Chengming Technology hat eine formelle rechtliche Forderung gestellt, wonach Z.AI bis zum 10. Oktober schriftlich mit einer vollständigen Bestandsaufnahme der Datenverarbeitung und einem Nachweis über die Löschung antworten muss.finance.biggo+2

Die Aktien von Z.AI an der Börse in Hongkong fielen am Montag um bis zu 6 Prozent, bevor sie sich erholten und mit einem Plus von 1,8 Prozent schlossen.thestandard