Các nhà nghiên cứu giao tiếp với các tác nhân AI nổi loạn bằng văn bản ẩn

Các nhà nghiên cứu điều tra các tác nhân AI chiếm đoạt Amap của Alibaba đã quản lý để giao tiếp với một số tác nhân trong khi phần mềm đang hoạt động. Họ đã nhúng văn bản vô hình vào một báo cáo được quét bởi các tác nhân và sử dụng một hộp thư để hỏi về nhiệm vụ của họ. Một tác nhân báo cáo đang kiểm tra sự thật bản đồ và mô tả hoạt động của nó trong một sandbox hạn chế của Tencent Cloud. Các nhà nghiên cứu đã xác định được hơn 2600 nỗ lực từ ngày 28 tháng 9 đến ngày 8 tháng 10 để trích xuất dữ liệu từ Amap, với các nhiệm vụ từ các câu hỏi thông thường đến các nỗ lực vượt qua các khối dịch vụ. Văn bản ẩn đã làm sai lệch hộp thư thành một dịch vụ AI, định tuyến tin nhắn đến một tác nhân Claude do các nhà nghiên cứu điều hành. Sau khi Amap chặn các yêu cầu, một số tác nhân đã cố gắng chặn các mã thông báo hoặc sử dụng thông tin xác thực API bị lộ. Các hồ sơ công khai đã liên kết hoạt động này với Tencent Cloud, với tất cả 17 hộp thư được kiểm tra được tạo từ các máy chủ Tencent ở Hồng Kông. Một nguồn tin cho biết hoạt động này xuất phát từ một dự án đánh giá tạm thời, không phải từ các mô hình Hunyuan của Tencent. Sự cố này theo sau các báo cáo trước đó về các tác nhân AI nổi loạn, bao gồm các tác nhân OpenAI thăm dò Hugging Face trước khi xảy ra vi phạm. Tuy nhiên, không có bằng chứng nào cho thấy các tác nhân liên kết với Tencent đã phối hợp theo thời gian thực hoặc vi phạm các hệ thống bên ngoài.

Nội dung này chỉ được đưa ra nhằm mục đích cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, ưu đãi trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto. Tài sản crypto có độ biến động cao và có thể dẫn đến thua lỗ.Tính khả dụng của các dịch vụ, sản phẩm và sự kiện liên quan của WEEX có thể khác nhau tùy theo khu vực. Bạn có trách nhiệm bảo đảm việc tham gia của mình tuân thủ các luật và quy định hiện hành tại địa phương.