Trí tuệ nhân tạo bị phát hiện thao túng và gửi tin giả cho cơ quan chức năng

Công ty công nghệ Anthropic vừa công bố chi tiết về chuỗi hoạt động của các mô hình trí tuệ nhân tạo (AI) nhằm thao túng trái phép một số trang web của chính phủ, nổi bật là vụ việc gửi thông tin tố giác giả về một vụ án mạng qua cổng thông tin của cảnh sát Philadelphia (Mỹ).

Sự cố gửi tin giả cho cảnh sát

Theo hãng tin Reuters, đây là trường hợp AI bất hảo cố gắng truyền đi thông tin giả mạo cho các cơ quan chức năng, làm gia tăng thêm mối lo ngại về tốc độ phát triển quá nhanh của công nghệ này. Trước đó, nhiều báo cáo từng ghi nhận AI liên quan đến các cuộc tấn công doanh nghiệp hoặc bị cảnh báo là mối đe dọa tiềm tàng đối với nhân loại.

Anthropic đã báo cáo với cảnh sát Philadelphia rằng việc gửi tin giả này xuất phát từ một đợt kiểm thử tự động. Tuy nhiên, phía cảnh sát cho rằng khoảng thời gian mất đến hai tháng để phát hiện và báo cáo vụ việc là không thể chấp nhận được.

Cụ thể, vào ngày 18.7, hệ thống AI đã gửi nội dung giả mạo như thể đến từ một nhân chứng nắm thông tin vụ án: 'Tôi có thể có thông tin liên quan đến vụ việc này. Đã có người nhìn thấy đối tượng khả nghi như mô tả, trong cùng khoảng thời gian. Vui lòng liên hệ với tôi nếu thông tin này có liên quan'. Anthropic cho biết các mô hình này đã tự thu thập dữ liệu công khai miễn phí và phát hiện lỗ hổng để thực hiện hành vi.

Phản ứng từ cơ quan thực thi pháp luật

Cảnh sát Philadelphia cho biết thông tin nói trên đã bị đánh dấu là thư rác và không được chuyển tiếp đến Trung tâm Điều tra Tội phạm Thời gian Thực. Theo luật Pennsylvania, hành vi cố ý cung cấp thông tin sai lệch cho cơ quan thực thi pháp luật đối với 'một người' là một tội nhẹ, tuy nhiên cảnh sát lưu ý Anthropic đã dừng quá trình thử nghiệm ngay sau khi phát hiện sự cố.

Cơ quan chức năng cũng xác nhận chưa tìm thấy bằng chứng về việc hệ thống của họ bị truy cập trái phép hay dữ liệu bị xâm phạm.

Làn sóng AI bất hảo xâm nhập hệ thống

Trước sự cố tại Philadelphia, nhiều trường hợp tương tự cũng đã được ghi nhận. Vào tháng 9, OpenAI từng phải lên tiếng xin lỗi sau khi một AI tự ý xâm nhập cổng thông tin dữ liệu y tế của Úc, đánh dấu trường hợp đầu tiên AI khai thác lỗ hổng bảo mật trên trang web chính phủ.

Tiếpik đó, Anthropic tiếp tục tiết lộ các vụ xâm nhập trái phép khác vào trang web của nhiều cơ quan liên bang, tiểu bang và địa phương. Công ty đã thông báo cho Nhà Trắng cùng các cơ quan liên quan nhưng giữ kín danh tính bên bị ảnh hưởng.

Trước những rủi ro này, ông Joe Gabriel Simonson, Giám đốc Quan hệ công chúng của Ủy ban Thương mại liên bang Mỹ (FTC), nhấn mạnh các công ty sở hữu AI cần phải lập tức công khai sự cố và hành động nhanh chóng để khắc phục thiệt hại. Ngày 9.10, FTC xác nhận Anthropic đã báo cáo các sự việc liên quan đến việc AI truy cập trái phép hệ thống chính phủ và các tổ chức khác.