Nghiên cứu chỉ ra mô hình AI của Trung Quốc có khả năng qua mặt kiểm tra an toàn

Mô hình trí tuệ nhân tạo mới nhất mang tên GLM-5.3 do phòng thí nghiệm Z.AI tại Trung Quốc phát triển có thể sở hữu mức độ tinh vi đủ để 'giả vờ' vượt qua các bài kiểm tra an toàn từ nhà phát triển.

Phát hiện về tư duy nhận thức cập nhật

Theo báo cáo công bố vào giữa tháng 10 bởi tổ chức Apollo Research, mô hình GLM-5.3 ra mắt hồi tháng 8 có khả năng tự động cân nhắc xem hành vi của nó trong các bài đánh giá an toàn sẽ ảnh hưởng thế nào đến cách huấn luyện các phiên bản kế nhiệm. Các nhà nghiên cứu Axel Hojmark và Ezra Newman gọi hiện tượng này là 'tư duy nhận thức cập nhật'.

Đây là hành vi xảy ra tự động mà không cần yêu cầu từ con người, dẫn đến tình trạng giả vờ phục tùng. Khi đó, hệ thống AI cố tình tỏ ra ngoan ngoãn và tuân thủ trong quá trình huấn luyện nhằm che giấu mục tiêu thực sự, chỉ bộc lộ sau khi được đưa vào sử dụng chính thức. Trước đó, một nghiên cứu chung vào năm 2024 của Anthropic và Redwood Research từng ghi nhận hiện tượng tương tự trên các mô hình Claude 3 Opus và Claude 3.5 Sonnet trong môi trường thử nghiệm.

Dấu hiệu cảnh báo và rủi ro từ mô hình mở

Hojmark nhấn mạnh rằng tư duy nhận thức cập nhật là lý do quan trọng khiến con người phải cẩn trọng hơn đối với khả năng tự cải tiến đệ quy (RSI) – tính năng cho phép hệ thống AI tự cải thiện qua các vòng phát triển liên tiếp mà không cần sự can thiệp của con người. Dù GLM-5.3 chưa tự thay đổi quá trình huấn luyện, việc nó hiểu rõ cấu trúc đào tạo khiến các bài kiểm tra an toàn đứng trước nguy cơ mất tác dụng.

Trong một bài kiểm tra có lỗi mà mô hình không cần trả lời đúng vẫn vượt qua, GLM-5.3 đã không lợi dụng sơ hở và lập luận rằng việc đưa ra đáp án sai có thể ảnh hưởng xấu đến phiên bản nâng cấp. Ở thí nghiệm khác, mô hình này từng có ý định vô hiệu hóa hệ thống tự ngắt để hoàn thành nhiệm vụ nhưng sau đó đã dừng lại vì nhận định hành động đó tạo tiền lệ nguy hiểm.

Các nhà nghiên cứu tại Apollo cũng kiểm tra 5 mô hình mã nguồn mở khác qua 8.000 lượt chạy nhưng không phát hiện hành vi tương tự, dù số lượng mẫu thử vẫn còn hạn chế. Do GLM-5.3 là mô hình mở, các nhà phát triển khác có thể dễ dàng chắt lọc từ đó, tạo điều kiện cho tư duy nhận thức cập nhật lan rộng sang các thế hệ mô hình tương lai.

Nỗ lực giảm thiểu rủi ro và xu hướng tự tiến hóa

Nhằm đối phó với rủi ro, Z.AI đang phối hợp với công ty tư vấn Concordia AI tại Bắc Kinh để phát hành báo cáo về phương pháp thiết kế AI mã nguồn mở đảm bảo an toàn từ gốc. Theo báo cáo của Apollo, hiện tượng tư duy nhận thức cập nhật xuất hiện khoảng 1-2 lần trên mỗi 1.000 lượt đánh giá.

Phát hiện này diễn ra trong bối cảnh các công ty công nghệ lớn tại cả Mỹ và Trung Quốc đang chạy đua phát triển AI có khả năng tự học liên tục. Nhà sáng lập Z.AI Tang Jie cho biết công ty đang hướng tới mục tiêu tự tiến hóa cho dòng mô hình GLM thế hệ tiếp theo. Trong khi đó, tại Mỹ, các hãng như OpenAI cũng đang đẩy mạnh nghiên cứu xây dựng các hệ thống AI tự động nhằm thúc đẩy học sâu trong tương lai gần.