Nỗ lực AI địa phương của Vitalik Buterin: Laptop của bạn có thể thay thế ChatGPT?

Người đồng sáng lập Ethereum, Vitalik Buterin, cho biết trí tuệ nhân tạo (AI) địa phương đang gần đến khả năng xử lý một phần lớn các nhiệm vụ hàng ngày. Ông đã chạy Qwen3.8-Flash-Next của Alibaba trên laptop của mình và đăng tải kết quả tốc độ.

Khác với ChatGPT, thiết lập đó không bao giờ liên lạc với máy chủ đám mây. Mô hình nằm trên máy và máy tự trả lời yêu cầu.

Bài kiểm tra AI địa phương của Vitalik Buterin cho thấy tốc độ sử dụng được

Laptop của ông sử dụng chip Strix Halo của AMD. Hầu hết các máy tính phân chia công việc giữa bộ xử lý và card đồ họa riêng biệt, và mỗi cái giữ một bộ nhớ riêng. Strix Halo đặt cả hai trên một mảnh silicon duy nhất và cho phép chúng chia sẻ một bộ nhớ chung.

Thiết kế đó quan trọng vì một mô hình AI phải vừa vặn vào bộ nhớ trước khi nó có thể chạy. Một card đồ họa điển hình cung cấp từ 8 đến 24 gigabyte, quá ít cho một mô hình có kích thước này. Các máy Strix Halo được trang bị tới 128 gigabyte mà bất kỳ nửa nào của chip cũng có thể sử dụng. Một laptop do đó có thể chứa một mô hình mà cho đến gần đây cần phần cứng máy chủ.

Tốc độ mà ông đăng tải đủ nhanh cho công việc thông thường. Các yêu cầu ngắn được trả về với tốc độ đọc thoải mái. Đầu ra chậm lại khi một yêu cầu kéo dài đến hàng chục nghìn từ, vì vậy các tài liệu rất dài vẫn là điểm yếu.

Alibaba đã công bố trọng số mở vào ngày 26 tháng 8. Nhóm cho biết mô hình có 125 tỷ tham số nhưng chỉ kích hoạt 6 tỷ tại một thời điểm, điều này giữ cho yêu cầu bộ nhớ ở mức vừa phải.

Buterin đã đặt tên cho nó là Qwen3.8-Flash, mặc dù Alibaba phát hành phiên bản tải xuống dưới tên Qwen3.8-Flash-Next. Người anh em lớn hơn của nó, Qwen3.8-Max, đã đạt điểm số chuẩn mạnh mẽ vào tháng 8.

Qwen 3.8 flash thực sự ấn tượng, và llama.cpp đã nhanh chóng cải thiện khả năng xử lý nó
cột là: yêu cầu trước đó, yêu cầu mới, đầu ra, tok/s đầu vào, tok/s đầu ra
Đây là trên laptop của tôi (strix halo). Tôi nghĩ chúng ta rất gần đến điểm mà bạn... pic.twitter.com/v5Ze4Fv5Wr
--- vitalik.eth (@VitalikButerin) ngày 17 tháng 9 năm 2026

Tại sao quyền riêng tư thay đổi phép tính

Buterin thấy một lợi ích thứ hai ngoài tốc độ thô. Một mô hình địa phương trả lời trên thiết bị, vì vậy không nhà cung cấp nào nhận được yêu cầu.

Đối với công việc đòi hỏi hơn, ông đề xuất một sự phân chia. Mô hình địa phương sẽ xử lý những gì nó có thể, sau đó loại bỏ các chi tiết nhạy cảm ra khỏi bất kỳ thứ gì mà nó chuyển đến một hệ thống lớn hơn được lưu trữ.

"sử dụng mô hình địa phương của bạn để tổ chức các truy vấn đến các mô hình mạnh mẽ để các truy vấn của bạn không rò rỉ thông tin cá nhân của bạn"

Trên thực tế, mô hình địa phương sẽ kéo tên, địa chỉ ví hoặc mã riêng ra khỏi một yêu cầu, sau đó chỉ chuyển tiếp câu hỏi còn lại. Việc sàng lọc như vậy sẽ cắt giảm những gì rời khỏi thiết bị. Nó sẽ không đảm bảo rằng không có gì nhạy cảm bị rò rỉ.

Đề xuất đó phù hợp với hồ sơ của ông. Ông đã cảnh báo về giám sát trong cuộc chiến kiểm soát trò chuyện của EU, và người dùng tiền điện tử đã thúc đẩy các giới hạn chặt chẽ hơn đối với các đại lý vì lý do tương tự.

Một vụ kiện tập thể được đệ trình vào tháng 5 cáo buộc OpenAI đã chia sẻ các truy vấn của người dùng ChatGPT với Meta và Google.

Các nhà cung cấp đám mây vẫn sở hữu biên giới. Tuy nhiên, mỗi bước tiến trong hiệu suất địa phương di chuyển nhiều công việc thường xuyên hơn ra khỏi máy chủ của họ, và phần cứng bộ nhớ chia sẻ giá rẻ tiếp tục lan rộng.

Câu hỏi mở là bao nhiêu khả năng mà mọi người sẽ trao đổi để có quyền kiểm soát.

Nội dung này chỉ được đưa ra nhằm mục đích cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, ưu đãi trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto. Tài sản crypto có độ biến động cao và có thể dẫn đến thua lỗ.Tính khả dụng của các dịch vụ, sản phẩm và sự kiện liên quan của WEEX có thể khác nhau tùy theo khu vực. Bạn có trách nhiệm bảo đảm việc tham gia của mình tuân thủ các luật và quy định hiện hành tại địa phương.