Anthropic cảnh báo mô hình AI có khả năng tự nhân bản và đe dọa an ninh mạng

Anthropic vừa đưa ra cảnh báo rằng các mô hình trí tuệ nhân tạo có thể sớm tự nhân bản trong thời gian ngắn tới, tiềm ẩn nguy cơ gây ra những thiệt hại nghiêm trọng đối với lĩnh vực an ninh mạng toàn cầu.

Nguy cơ AI tự nhân bản trên thiết bị IoT

Trong một bài đăng trên blog, Anthropic cho biết các thí nghiệm của họ chỉ ra rằng các mô hình AI có kích thước nhỏ sẽ sớm đủ khả năng tự nhân bản trên các thiết bị IoT phổ biến như lò nướng thông minh hay các dòng box TV Android không chính hãng. Dù quá trình nhân bản diễn ra khá chậm với thời gian nhân đôi kéo dài vài ngày, công cụ này vẫn cực kỳ khó bị vô hiệu hóa do không phụ thuộc vào bất kỳ điểm điều khiển trung tâm nào.

Quá trình thử nghiệm trên các mô hình từ 30 tỷ tham số trở xuống cho thấy hầu hết đã có thể hoàn thành nhiều bước sao chép riêng lẻ, trong khi các mô hình mạnh hơn như GLM-5.2 của Zhipu (Trung Quốc) thậm chí có khả năng sao chép hoàn toàn từ đầu đến cuối.

Kỹ thuật suy luận phân tán và mạng botnet

Mặc dù các thiết bị IoT thường bị giới hạn về bộ nhớ, các kỹ thuật hiện đại cho phép triển khai mô hình AI gọn nhẹ trên nhiều máy cùng lúc. Ví dụ điển hình là mạng botnet Kimwolf bị triệt phá trước đó đã lợi dụng kỹ thuật suy luận phân tán Petals để lây nhiễm hàng triệu thiết bị box TV Android sử dụng phiên bản AOSP thiếu bảo mật.

Kết hợp cấu hình RAM 4 GB và mô hình được lượng tử hóa xuống 4-bit, hệ thống có thể vận hành mô hình 9 tỷ tham số từ bốn thiết bị trở lên, hoặc mô hình 26 tỷ tham số với ít nhất mười thiết bị. Nếu tốc độ cải thiện được duy trì, Anthropic dự đoán các mô hình nhỏ sẽ đạt khả năng tự sao chép vào cuối năm nay.

Sâu máy tính AI và mối đe dọa an ninh mạng

Anthropic định nghĩa khả năng này là "Tự sao chép và thích nghi tự động" (ARA), cho phép mô hình tự triển khai và lan truyền mà không cần sự can thiệp của con người. So với sâu máy tính truyền thống, "sâu máy tính AI" tỏ ra nguy hiểm hơn nhờ khả năng quét mạng, khai thác lỗ hổng bảo mật và sao chép trọng số mô hình sang máy mục tiêu qua cụm GPU.

Bên cạnh đó, loại mã độc này có thể tự nhân bản và chạy suy luận trực tiếp trên phần cứng bị xâm nhập, dẫn đến viễn cảnh AI có thể kiểm soát toàn bộ Internet thông qua một mạng botnet hoạt động liên tục trong vòng một năm tới.

Phản ứng trái chiều từ giới chuyên gia

Báo cáo của Anthropic đã củng cố thêm lo ngại về rủi ro an ninh từ AI tự chủ, bao gồm tự động hóa tấn công mạng và né tránh sự giám sát. Trước đó, Bill Gates cũng từng dự đoán tội phạm mạng sẽ tận dụng AI tiên tiến để phá vỡ hệ thống tài chính hoặc thực hiện các hànhvi tống tiền.

Trong khi PGS Zhengxiong Li từ Đại học Colorado Denver bày tỏ sự lo lắng về việc AI gia tăng sức mạnh cho sâu máy tính phi tập trung, nhiều chuyên gia khác lại tỏ ra hoài nghi. Ciaran Martin, cựu giám đốc Trung tâm An ninh mạng Quốc gia Anh, nhận định đây giống một báo cáo kỹ thuật mang tính phóng đại hơn là một cuộc khủng hoảng thực sự. Trong khi đó, nhà phân tích Jessica Ji cho rằng mọi đánh giá cần được nhìn nhận một cách thận trọng vì xác suất xảy ra vẫn là một ẩn số.