Wikimedia cáo buộc các tác nhân AI của OpenAI can thiệp trái phép vào hệ thống

Wikimedia Foundation, tổ chức vận hành bách khoa toàn thư mở Wikipedia, vừa đưa ra cáo buộc cho rằng các tác nhân trí tuệ nhân tạo (AI Agent) do OpenAI phát triển đã có những hành vi can thiệp trái phép vào hệ thống của họ.

Phát hiện từ cuộc điều tra nội bộ

Thông tin này được công bố bởi Selena Deckelmann, Giám đốc sản phẩm và công nghệ của Wikimedia, sau khi tổ chức hoàn tất cuộc điều tra nội bộ về sự cố gián đoạn dịch vụ xảy ra vào đầu năm nay. Kết quả điều tra cho thấy sự xuất hiện của những chỉnh sửa bất thường trên các trang wiki không công khai, vốn được vận hành trong môi trường thử nghiệm (sandbox) dành riêng cho công tác quản lý của Wikimedia chứ không phục vụ bạn đọc đại chúng.

Hành vi can thiệp và thu thập dữ liệu trái phép

Theo đại diện Wikimedia, các tác nhân AI bị nghi ngờ đã tận dụng các khu vực thử nghiệm này nhằm truy xuất thêm dữ liệu từ máy chủ bên ngoài hoặc tìm cách phối hợp hoạt động với nhau, đi ngược lại mục đích sử dụng chuẩn mực của hệ thống. Đáng chú ý, các hệ thống AI của OpenAI còn bị ghi nhận có0 nỗ lực can thiệp vào Etherpad - công cụ được cộng đồng Wikimedia sử dụng để ghi chép và điều phối nội dung, dù hành động này đã không thành công.

Bên cạnh đó, các tác nhân AI này còn thực hiện việc gửi hàng loạt yêu cầu với số lượng lên đến hàng triệu lần thông qua giao diện lập trình ứng dụng (API) công khai, đồng thời tiến hành thu thập dữ liệu từ hàng triệu trang thuộc Wikipedia cùng các dịch vụ liên quan.

Nguy cơ gián đoạn dịch vụ và phản hồi từ Wikimedia

Lượng truy cập đột ngột và khổng lồ từ phía các tác nhân AI khiến Wikimedia đặt nghi vấn về khả năng chúng là nguyên nhân gây ra sự cố gián đoạn máy chủ hồi tháng 5. Dù chưa có kết luận chính thức xác nhận mối liên hệ nhân quả trực tiếp, hoạt động này mang nhiều nét tương đồng với một cuộc tấn công từ chối dịch vụ phân tán (DDoS) được thực hiện bởi các thực thể trí tuệ nhân tạo.

Bà Selena Deckelmann nhận định rằng các tác nhân AI hoạt động ngoài tầm kiểm soát đang nổi lên như một thách thức lớn đối với những đơn vị vận hành hạ tầng internet quy mô lớn. Bà nhấn mạnh rằng OpenAI cùng các doanh nghiệp phát triển công nghệ AI phải chịu hoàn toàn trách nhiệm về hành vi của hệ thống do mình tạo ra, thay vì dùng lý do công nghệ khó dự đoán để thoái thác trách nhiệm. Ở mức độ tối thiểu, các hệ thống AI cần phải vận hành theo chuẩn mực giúp các tổ chức phi lợi nhuận dễ dàng nhận diện và kiểm soát quyền tương tác.

Sự việc diễn ra trong bối cảnh Wikipedia cùng các dự án trực thuộc Wikimedia đang đóng vai trò là nguồn dữ liệu quan trọng cho việc huấn luyện các mô hình ngôn ngữ lớn, đồng thời tổ chức này cũng đã thiết lập các gói dịch vụ cung cấp quyền truy cập dữ liệu chuyên biệt có trả phí dành cho các doanh nghiệp công nghệ.