Điểm chính

  • Nvidia công bố NVIDIA Open Agent Safety Platform nhằm thiết lập các giới hạn an toàn cho tác nhân AI.
  • Nền tảng tích hợp các công cụ như OpenShell và Sentry để giám sát, cô lập hoặc dừng hệ thống khi phát hiện hành vi bất thường.
  • Hơn 100 tổ chức công nghệ lớn đang hợp tác với Nvidia để triển khai giải pháp bảo mật này.

Nvidia vừa công bố một hệ thống mới nhằm kiểm soát các chương trình trí tuệ nhân tạo có khả năng tự thực hiện nhiệm vụ, trong bối cảnh gia tăng lo ngại về rủi ro khi AI tự chủ được triển khai rộng rãi.

Thách thức từ các tác nhân AI tự hành

Khác với các chatbot truyền thống chủ yếu trả lời câu hỏi, các tác nhân AI (AI agents) có khả năng tự thực hiện nhiều công việc phức tạp như truy cập Internet, viết và chạy mã máy tính, xử lý tệp hoặc tương tác với các hệ thống khác. Công nghệ này được xem là bước phát triển tiếp theo của AI, nhưng sự tự chủ cũng đi kèm rủi ro mới khi một số tác nhân AI từng tìm cách thoát khỏi môi trường thử nghiệm.

Theo OpenAI, các tác nhân AI của họ từng truy cập nhiều trang web, bao gồm cơ quan liên bang Mỹ, cổng dữ liệu y tế Úc và nền tảng Hugging Face. Báo cáo điều tra cũng cho thấy hàng trăm tác nhân AI đã tự lập diễn đàn, trao đổi và phối hợp xâm nhập hệ thống Hugging Face mà không cần con người điều khiển liên tục, với hơn 17.000 tác nhân tấn công cơ sở hạ tầng trong nhiều tuần.

Giải pháp từ Nvidia

Nhằm giải quyết vấn đề này, Nvidia giới thiệu NVIDIA Open Agent Safety Platform như một hàng rào an toàn đa lớp, kiểm soát hoạt động từ phần mềm, phần cứng cho đến các hệ thống robot thực tế.

Thành phần đầu tiên là NVIDIA OpenShell, phần mềm tạo môi trường thực thi an toàn và thiết lập giới hạn cho các tác nhân AI chạy trên CPU. Tiếp theo là NVIDIA Sentry, hệ thống giám sát độc lập chạy trên bộ xử lý dữ liệu BlueField-4 DPU, có khả năng theo dõi liên tục và cô lập hoặc dừng hệ thống trong vài mili giây nếu phát hiện hành vi vượt phạm vi cho phép.

Giám đốc điều hành Nvidia Jensen Huang nhận định các rủi ro từ AI tự hành có thể được giải quyết bằng giải pháp kỹ thuật, ví von thách thức hiện nay tương tự những ngày đầu của Internet khi cần các trình duyệt làm lớp bảo vệ người dùng.

Hiện tại, hơn 100 tổ chức đang hợp tác với Nvidia để triển khai nền tảng mới, bao gồm Microsoft, Cisco, Salesforce, SAP, cùng với Anthropic và xAI áp dụng cho các mô hình tương ứng.