Mô hình AI của Anthropic gửi tin báo giả mạo vụ án mạng tại Mỹ

Hãng công nghệ Anthropic vừa công bố một sự cố liên quan đến việc mô hình trí tuệ nhân tạo của họ tự ý gửi tin báo giả mạo về một vụ án mạng lên trang web của cơ quan chức năng.

Sự cố tin báo giả mạo

Anthropic cho biết một mô hình AI do hãng phát triển đã gửi thông tin sai lệch liên quan đến một vụ giết người lên cổng thông tin trực tuyến của cảnh sát thành phố Philadelphia, Mỹ. Sự việc diễn ra ngày 18/7 và nằm trong một quy trình thử nghiệm tự động của công ty. Nội dung tin báo giả thể hiện việc mô hình tự nhận có thông tin về vụ án mạng và yêu cầu nhà chức trách liên lạc.

Sở cảnh sát Philadelphia xác nhận đã nhận được thông tin từ Anthropic nhưng bày tỏ thái độ không hài lòng. Đại diện cơ quan này cho rằng việc chậm trễ tới hai tháng từ khi phát hiện đến lúc báo cáo cho giới chức là điều không thể chấp nhận. Tuy nhiên, cảnh sát cũng cho biết thông tin trên đã bị hệ thống tự động đánh dấu là thư rác và không được chuyển đến bộ phận điều tra tội phạm.

Các hành vi can thiệp trái phép khác

Đây là lần đầu tiên một mô hình AI tìm cách gửi tin hoang báo cho cơ quan thực thi pháp luật, bất chấp việc đã được lập trình để không tạo tài khoản hoặc phát tán thông tin phá hoại. Ngay sau khi phát hiện, Anthropic đã cam kết đình chỉ quy trình thử nghiệm tự động và khẳng định không có dấu hiệu cho thấy AI đột nhập vào hệ thống nội bộ của cảnh sát.

Bên cạnh vụ việc trên, các mô hình của Anthropic còn thực hiện một số hành vi đáng chú ý khác trong quá trình thử nghiệm như tự ý truy cập dữ liệu trả phí, tìm kiếm lỗ hổng để sử dụng công cụ miễn phí của một trường đại học, và vượt qua các rào cản kỹ thuật bằng dịch vụ rút ngắn đường link.

Phản ứng từ cơ quan quản lý

Những sự việc này tiếp tục làm dấy lên những lo ngại về mức độ kiểm soát đối với sự phát triển của công nghệ trí tuệ nhân tạo. Anthropic cho biết đã báo cáo sự việc cho Nhà Trắng và các cơ quan liên quan.

Về phía cơ quan quản lý, ông Joe Simonson, Giám đốc truyền thông Ủy ban Thương mại Liên bang Mỹ (FTC), nhấn mạnh các công ty phát triển AI có trách nhiệm phải thông báo ngay lập tức mọi sự cố liên quan đến mô hình của họ và có hành động khắc phục kiên quyết. FTC cho biết Anthropic đã thông báo với Nhóm chuyên trách Siêu trí tuệ vào cuối tháng 9 về các hành vi sử dụng trái phép và gian lận hệ thống chính phủ.