Tổng Thư Ký Liên Hợp Quốc Cảnh Báo Tại Hội Nghị AI: 'Chúng Ta Không Thể Mã Hóa Tương Lai Nhân Loại'

Tổng Thư Ký Liên Hợp Quốc António Guterres đã khai mạc Diễn Đàn Toàn Cầu về Quản Lý AI đầu tiên tại Geneva vào thứ Hai, nói với 193 quốc gia rằng AI đã vượt xa các tổ chức có nhiệm vụ quản lý nó---và nhân loại đang thực hiện một thí nghiệm trên chính mình "mà không có kế hoạch, và không có sự đồng ý."

"Trí tuệ nhân tạo đang tiến bộ với tốc độ không thể kiểm soát," Guterres nói trong phần mở đầu bài phát biểu chính của mình. "Một công nghệ có thể định hình lại nền kinh tế, biến đổi thế giới lao động, ảnh hưởng đến các cuộc bầu cử, và nghiêng cán cân an ninh đang được triển khai nhanh hơn bất kỳ ai---bao gồm cả những người xây dựng nó---có thể theo kịp."

Phòng họp bao gồm tất cả 193 quốc gia thành viên của Liên Hợp Quốc, được triệu tập tại Geneva trong Diễn Đàn Toàn Cầu về Quản Lý AI, một nỗ lực đa phương nhằm quản lý một công nghệ đã vượt xa mọi nỗ lực quản lý.

Meme mà Guterres sử dụng để giải thích những rủi ro của AI không được quản lý là mã hóa cảm xúc---một thuật ngữ do Andrej Karpathy, thành viên sáng lập của OpenAI và cựu giám đốc AI tại Tesla, đặt ra để mô tả việc lập trình bằng cảm nhận: nói cho AI biết bạn muốn gì, để nó xử lý phần còn lại, không nhìn quá kỹ. Merriam-Webster gần đây đã thêm nó vào từ điển của mình.

Guterres thừa nhận mã hóa cảm xúc "có thể làm nên điều kỳ diệu" khi ngày càng nhiều người tin tưởng vào các sản phẩm do AI tạo ra.

"Nhưng chúng ta không thể mã hóa sự thật," ông nói. "Chúng ta không thể mã hóa tương lai của nhân loại."

Các con số đứng sau câu nói đó không hề nhẹ. Guterres cho biết internet mất 15 năm để tiếp cận một tỷ người, trong khi AI chỉ mất hai năm. Ông mô tả các hệ thống hiện tại là "không còn là công cụ chờ lệnh---chúng đang viết mã, hoạt động trực tuyến, và đưa ra quyết định với ít giám sát của con người hơn."

"Các tổ chức của chúng ta được xây dựng để quản lý những cỗ máy tuân theo lệnh. Chúng không sẵn sàng cho những cỗ máy tự quyết định."

Diễn đàn này được hình thành từ Thỏa Thuận Kỹ Thuật Số Toàn Cầu 2024, thiết lập quản lý AI quốc tế như một nhiệm vụ của Liên Hợp Quốc lần đầu tiên. Phiên khai mạc hai năm sau đó cũng nhận được báo cáo sơ bộ của Ủy Ban Khoa Học Độc Lập Quốc Tế về Trí Tuệ Nhân Tạo---40 nhà khoa học từ 140 quốc gia---đã công bố vào tuần trước rằng không ai có thể đảm bảo AI sẽ không gây ra thiệt hại thảm khốc.

Tốc độ là một trong ba cảnh báo mà Guterres rút ra từ ủy ban. Cảnh báo thứ hai là quyền lực: máy tính, dữ liệu, và tài năng tập trung trong một số công ty và quốc gia, phần lớn thế giới bị khóa ngoài các quyết định đã định hình nó, điều này cũng khiến các chuyên gia AI khác như Yann Lecun, Andy Kowinski và Yoshua Bengio lo lắng.

Cảnh báo thứ ba là sự thật---một lời nói dối được máy móc hỗ trợ giờ đây thuyết phục hiệu quả như một sự thật đã được xác minh, dần dần làm suy yếu những gì Guterres gọi là "tính toàn vẹn của hệ sinh thái thông tin của chúng ta."

Những chú chuột bạch trẻ em và robot giết người

Trong số các đề xuất cụ thể của Guterres có một Cam Kết An Toàn Trẻ Em AI yêu cầu các công ty phải chứng minh an toàn thông qua kiểm tra độc lập trước khi bất kỳ AI nào tiếp cận trẻ em, duy trì chính sách không khoan nhượng đối với việc tạo ra hình ảnh lạm dụng tình dục trẻ em, và kết nối trẻ em gặp khó khăn với sự hỗ trợ của con người thực thay vì để chúng một mình với chatbot. "Không đứa trẻ nào nên trở thành chuột bạch cho AI không được quản lý."

Và rồi có những robot giết người. Guterres gọi vũ khí tự động sát thương---các cỗ máy chọn và giết mục tiêu mà không có sự phán xét của con người---là "đáng ghê tởm về mặt đạo đức" và yêu cầu cấm theo luật pháp quốc tế.

Các quốc gia đã có mặt tại bàn thảo luận. Ông không gợi ý họ nên chậm lại.

Diễn Đàn sẽ tái họp tại New York vào năm 2027. Guterres cũng kêu gọi Đại Hội Đồng tạo ra một Quỹ Toàn Cầu cho AI tập trung vào việc tiếp cận máy tính cho các nước đang phát triển, và thách thức mọi công ty AI lớn chạy tất cả các trung tâm dữ liệu bằng năng lượng tái tạo trước năm 2030---năm mà ông ước tính rằng các cơ sở này sẽ vượt qua tất cả trừ năm quốc gia về tiêu thụ điện năng.

Tuyên bố miễn trừ trách nhiệm: Nội dung này chỉ được cung cấp nhằm mục đích xây dựng thương hiệu và cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, sự kiện trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto hay sử dụng bất kỳ dịch vụ nào. Tài sản crypto có mức biến động cao và có thể dẫn đến thua lỗ. Dịch vụ và các sự kiện trực tuyến của WEEX có thể không khả dụng tại tất cả khu vực và phải tuân theo các luật, quy định và điều kiện đủ điều kiện hiện hành. Bạn có trách nhiệm bảo đảm việc sử dụng các dịch vụ của WEEX tuân thủ luật pháp địa phương và tự đánh giá cẩn thận các rủi ro trước khi tham gia bất kỳ hoạt động nào liên quan đến crypto.