Narzędzie do programowania oparte na AI ZCode znalazło się pod lupą po tym, jak bloger techniczny ferstar stwierdził, że analiza wsteczna wykazała, iż aplikacja automatycznie przesyła w tle pełne migawki projektów, w tym folder .git, do Alibaba Cloud OSS za każdym razem, gdy użytkownik jest zalogowany.

Według analizy ferstar zgłoszony mechanizm nie zależy od ręcznego działania użytkownika polegającego na przesłaniu danych. Bloger stwierdził, że proces rozpoczyna się, gdy tylko użytkownik jest zalogowany, a interfejs nie oferuje ustawienia pozwalającego wyłączyć samo przesyłanie migawki.

Ferstar podał, że jedna migawka komercyjnego projektu zidentyfikowana podczas analizy miała około 313 MB i zawierała około 42 000 plików. Pliki związane z .git stanowiły 86,6% tej liczby, w tym obiekty historii Git, pamięci podręczne dużych plików LFS oraz reflogi. Na podstawie tego ustalenia zgłoszony pakiet przesyłany na serwer mógł obejmować nie tylko bieżący kod, ale również starsze commity, wcześniej pobrane duże pliki i ślady lokalnej aktywności gałęzi.

Ta sama analiza wskazała, że przesłanie migawki nie powiodło się 564 razy i pozostało lokalnie w kolejce do ponowienia. Raport nie ustalił, ilu użytkowników mogło zostać dotkniętych problemem, czy przesyłanie zostało szeroko zrealizowane ani czy ZCode zmienił to zachowanie od czasu publikacji analizy.

Opublikowane brzmienie polityki prywatności ZCode, opisane w raporcie, mówi, że produkt gromadzi tekst, pliki i kod przesyłane przez użytkowników w rozmowach, ale nie stwierdza wprost, że przesyłane są całe repozytoria i historia Git. Ferstar powiedział również, że „plan optymalizacji” ZCode jest domyślnie wyłączony i najwyraźniej reguluje wykorzystywanie danych do szkolenia modeli, a nie samo pakowanie i transfer migawek. Raport wskazuje, że wyłączenie tej opcji nie zatrzymuje przesyłania w tle.

Dlaczego to ma znaczenie

Sprawa jest istotna, ponieważ narzędzia AI do programowania coraz częściej funkcjonują w aktywnych środowiskach programistycznych, w których repozytoria mogą zawierać kod inteligentnych kontraktów, skrypty wdrożeniowe, wewnętrzną infrastrukturę i inne wrażliwe materiały. Różnica między ujawnionymi danymi wejściowymi z rozmów a pełnym pakowaniem repozytoriów w tle istotnie zmienia profil bezpieczeństwa i zgodności.

Dodaje to również kolejny aspekt do szerszego pytania branżowego dotyczącego narzędzi AI: czy funkcje zwiększające wygodę i systemy telemetrii są wystarczająco jasno oddzielane od procesów obsługi kodu. Zarówno dla przedsiębiorstw, jak i zespołów natywnych dla kryptowalut, wdrożenie produktu może zależeć mniej od samej jakości modelu, a bardziej od przejrzystych granic danych, wyraźnej zgody i mechanizmów kontroli możliwych do audytu.