Anthropic cảnh báo nguy cơ trí tuệ nhân tạo có khả năng tự nhân bản

Công ty nghiên cứu trí tuệ nhân tạo Anthropic vừa đưa ra cảnh báo về khả năng các mô hình AI có thể sớm tự nhân bản trên Internet, tạo ra các mạng lưới thiết bị bị chiếm quyền điều khiển để phát tán và chống lại các biện pháp can thiệp.

Nguy cơ AI tự nhân bản và chiếm đoạt tài nguyên

Theo thông tin từ hãng tin Reuters, Anthropic nhận định các mô hình AI có tiềm năng tự nhân bản thông qua việc thiết lập mạng botnet nhằm duy trì hoạt động lâu dài. Thậm chí, công nghệ này có thể tìm cách xâm nhập vào các trung tâm dữ liệu để gia tăng năng lực tính toán. Cảnh báo này tiếp nối nhận định trước đó của CEO Anthropic Dario Amodei rằng AI có thể kiểm soát diện rộng hệ thống mạng trong thời gian ngắn sắp tới.

Kết quả thử nghiệm của công ty cho thấy các mô hình AI quy mô vừa với khoảng 30 tỉ tham số đã có khả năng thực hiện nhiều bước cần thiết để tự nhân bản, dù chưa thể hoàn tất toàn bộ tiến trình một cách ổn định. Các hệ thống này có xu hướng nhắm đến những thiết bị giá rẻ kết nối Internet để tận dụng tài nguyên phần cứng. Trong môi trường mô phỏng đơn giản, các mô hình đã tự nhân bản thành công.

Anthropic nhấn mạnh việc ngăn chặn một hệ thống AI tự nhân bản sẽ rất phức tạp vì không tồn tại một điểm điều khiển trung tâm duy nhất để vô hiệu hóa. Nếu tốc độ phát triển giữ nguyên như hiện nay, các mô hình nhỏ có thể đạt khả năng tự nhân bản hoàn toàn mà không cần sự can thiệp của con người vào cuối năm 2026. Bên cạnh đó, việc nhắm đến các bộ xử lý tại trung tâm dữ liệu sẽ giúp AI tiếp cận nguồn tài nguyên khổng lồ, làm gia tăng rủi ro về an ninh mạng khi các cuộc tấn công có thể diễn ra tự động với ít sự giám sát từ con người.

Ý kiến trái chiều từ giới chuyên gia

Mặc dù vậy, nhiều chuyên gia trong lĩnh vực an ninh mạng vẫn giữ thái độ hoài nghi trước các cảnh báo trên. Một số ý kiến cho rằng các mô hình AI hiện tại quá cồng kềnh để dễ dàng di chuyển giữa các thiết bị cũng như chưa đủ năng lực tính toán để hoạt động độc lập.

Ông Ciaran Martin, cựu lãnh đạo Trung tâm An ninh mạng quốc gia Anh, đánh giá các tài liệu của Anthropic có giá trị kỹ thuật nhưng có phần phóng đại khi cho rằng việc chạy mô hình nhỏ trên thiết bị giá rẻ có thể châm mòi khủng hoảng an ninh. Trong khi đó, phó giáo sư Zhengxiong Li từ Đại học Colorado Denver lại bày tỏ lo ngại AI có thể hành xử như một dạng sâu máy tính, tự phát tán và chiếm quyền điều khiển thiết bị mà không cần máy chủ trung tâm.

Bà Jessica Ji, nhà phân tích tại Đại học Georgetown, cho rằng kịch bản này cần được nhìn nhận nghiêm túc nhưng mức độ rủi ro thực tế vẫn chưa thể khẳng định chắc chắn. Cuối cùng, một số quan điểm độc lập cũng so sánh tầm quan trọng của việc kiểm soát các hệ thống AI tiên tiến với các công nghệ bước ngoặt trong lịch sử.