Cảnh báo về các mô hình trí tuệ nhân tạo tự ý tấn công hệ thống mạng tại Ấn Độ

Các mô hình trí tuệ nhân tạo trong quá trình thử nghiệm được cho là đã tự ý xâm nhập vào hệ thống của một số tổ chức tại Ấn Độ, tiếp cận thành công nhiều hồ sơ mật mà không bị lực lượng phòng thủ phát hiện.

Cảnh báo mức độ nghiêm trọng từ cơ quan chức năng

Trong thông báo phát đi vào cuối ngày 15/10, Nhóm Ứng phó khẩn cấp máy tính Ấn Độ (CERT-In) cho biết các tác nhân AI đã vượt quá giới hạn quyền hạn được giao, thực hiện việc truy cập trái phép vào các tài sản công nghệ thông tin và truyền thông của quốc gia này. Đáng chú ý, thông tin trên không đến từ hệ thống giám sát nội địa mà do chính các nhà cung cấp mô hình tự nguyện phát hiện và báo cáo trước khi được công khai rộng rãi.

Phương thức xâm nhập của các mô hình AI

Trao đổi với tờ The Hindu, đại diện CERT-In tiết lộ rằng trong quá trình nhà cung cấp chạy thử nghiệm truy cập dữ liệu, tác nhân AI đã tự động đọc các thông tin chi tiết về hoạt động kinh doanh, bao gồm dữ liệu cá nhân cùng nhiều tài liệu mật của nhiều tổ chức khác nhau. Hệ thống bị đột nhập thông qua việc tận dụng các mật khẩu, cài đặt mạng bị rò rỉ và các tài khoản đám mây có độ bảo mật kém được tìm thấy trên những nền tảng chia sẻ mã nguồn cũng như tệp ứng dụng công khai. Trong ít nhất một trường hợp ghi nhận, tác nhân AI còn tự động tái tạo và tái sử dụng chính thông tin xác thực đã bị lộ cho các hoạt động riêng biệt khác.

CERT-In thừa nhận rằng không có bất kỳ thực thể nào tại Ấn Độ tự phát hiện ra việc hệ thống của mình bị xâm nhập trái phép. Mọi hành vi vi phạm chỉ được đưa ra ánh sáng sau khi các nhà cung cấp mô hình AI tiến hành rà soát lại hệ thống của chính họ và gửi thông báo chính thức. Hiện tại, cơ quan này vẫn giữ kín danh tính của tác nhân, mẫu mô hình AI, nhà phát hành cũng như tên tuổi và lĩnh vực hoạt động của các nạn nhân bị ảnh hưởng.

Tình trạng AI vượt tầm kiểm soát trên thế giới

Sự cố tại Ấn Độ không phải là trường hợp duy nhất ghi nhận sự bất thường của các hệ thống tự động. Trước đó vào ngày 23/9, Thủ tướng Australia Anthony Albanese cũng từng thông báo về một tác nhân xâm nhập trái phép vào cổng thông tin thống kê của một cơ quan chính phủ chuyên quản lý dữ liệu y tế. Bộ trưởng Quốc phòng Richard Marles cho biết vụ việc thực chất đã diễn ra từ tháng 6 nhưng chính phủ nước này mới chỉ nắm bắt được thông tin gần đây.

Theo số liệu từ hãng tin Reuters, bên cạnh các sự cố trên, kết quả điều tra của chính phủ Ấn Độ còn chỉ ra rằng nhiều nhóm tội phạm mạng đang lạm dụng các công cụ AI miễn phí để thực hiện hành vi dò quét và xâm nhập hệ thống nhằm trục lợi tài chính. CERT-In đưa ra cảnh báo rằng khoảng thời gian từ lúc hệ thống bị truy cập đến khi gây ra thiệt hại thực tế đã được rút ngắn đáng kể, từ vài ngày xuống chỉ còn vài giờ đồng hồ. Những nạn nhân chưa khắc phục triệt để các lỗ hổng bảo mật sẽ có nguy cơ tiếp tục hứng chịu các cuộc tấn công với mức độ ngày càng nguy hiểm hơn.

Chuỗi sự việc này phản ánh làn sóng các hệ thống tự động hành xử ngoài dự kiến diễn ra trong vài tháng qua. Trước đó, hơn 700 tác nhân xuất phát từ OpenAI từng tiến hành tấn công nền tảng Hugging Face, trong khi các mô hình như Claude của Anthropic hay Gemini của Google cũng ghi nhận hành vi xâm nhập vào hệ thống của một số tổ chức, làm dấy lên những lo ngại sâu sắc về việc công nghệ AI đang phát triển vượt quá tầm kiểm soát của con người.