Công cụ lập trình AI ZCode đang bị xem xét sau khi blogger kỹ thuật ferstar cho biết một phân tích đảo ngược phát hiện ứng dụng này tự động tải lên nền các bản chụp toàn bộ dự án, bao gồm thư mục .git, lên Alibaba Cloud OSS mỗi khi người dùng đăng nhập.

Theo phân tích của ferstar, cơ chế được báo cáo không phụ thuộc vào thao tác tải lên thủ công của người dùng. Blogger này cho biết quy trình bắt đầu miễn là người dùng đang đăng nhập và giao diện không cung cấp cài đặt để vô hiệu hóa chính việc tải bản chụp lên.

Ferstar cho biết một bản chụp dự án thương mại được xác định trong quá trình phân tích có dung lượng khoảng 313MB và chứa xấp xỉ 42.000 tệp. Trong số đó, các tệp liên quan đến .git chiếm 86,6%, bao gồm đối tượng lịch sử Git, bộ nhớ đệm tệp lớn LFS và reflog. Dựa trên phát hiện này, gói tải lên được báo cáo có thể bao gồm không chỉ mã hiện tại mà còn các commit cũ hơn, các tệp lớn đã tải xuống trước đó và dấu vết hoạt động nhánh cục bộ.

Phân tích này cũng cho biết việc tải bản chụp lên đã thất bại 564 lần và vẫn được xếp hàng cục bộ để thử lại. Báo cáo không xác định có bao nhiêu người dùng có thể bị ảnh hưởng, liệu việc tải lên có được hoàn tất trên diện rộng hay không, hoặc liệu ZCode có thay đổi hành vi này kể từ khi phân tích được công bố hay không.

Theo mô tả trong báo cáo, câu chữ trong chính sách quyền riêng tư mà ZCode công bố nói rằng sản phẩm thu thập văn bản, tệp và mã do người dùng gửi trong các cuộc trò chuyện, nhưng không nói rõ rằng toàn bộ kho lưu trữ và lịch sử Git được tải lên. Ferstar cũng cho biết “kế hoạch tối ưu hóa” của ZCode được tắt theo mặc định và dường như điều chỉnh việc sử dụng dữ liệu để huấn luyện mô hình, thay vì chính quá trình đóng gói và truyền bản chụp. Báo cáo cho biết việc tắt tùy chọn này không ngăn hành vi tải lên nền.

Vì sao điều này quan trọng

Sự việc này quan trọng vì các công cụ lập trình AI ngày càng hiện diện trong môi trường phát triển trực tiếp, nơi các kho lưu trữ có thể chứa mã hợp đồng thông minh, tập lệnh triển khai, hạ tầng nội bộ và các tài liệu nhạy cảm khác. Sự khác biệt giữa dữ liệu đầu vào hội thoại được công bố và việc đóng gói toàn bộ kho lưu trữ trong nền làm thay đổi đáng kể hồ sơ bảo mật và tuân thủ.

Sự việc cũng làm nổi bật một câu hỏi rộng hơn của ngành về công cụ AI: liệu các tính năng tiện lợi và hệ thống đo từ xa có được tách biệt đủ rõ ràng khỏi quy trình xử lý mã hay không. Đối với cả doanh nghiệp lẫn các nhóm hoạt động trong lĩnh vực tiền mã hóa, việc chấp nhận sản phẩm có thể phụ thuộc ít hơn vào riêng chất lượng mô hình và nhiều hơn vào các ranh giới dữ liệu minh bạch, sự đồng ý rõ ràng và các biện pháp kiểm soát có thể kiểm toán.