Ra mắt bộ kiểm thử bảo mật Agentic AI với 222 kịch bản tấn công chuyên sâu

Trong bối cảnh các hệ thống AI tự hành ngày càng được ứng dụng rộng rãi, việc chỉ tập trung phòng chống các kỹ thuật tấn công prompt injection là chưa đủ để bảo vệ toàn diện hệ sinh thái công nghệ. Nhằm khắc phục hạn chế này, nhà nghiên cứu bảo mật Ravi Rajput vừa công bố một bộ checklist mới bao gồm 222 bài kiểm thử chi tiết, hỗ trợ các đội ngũ Red Team đánh giá toàn diện khả năng chống chịu của hệ thống AI trước những mối đe dọa phức tạp.

Lấp đầy khoảng trống bảo mật hạ tầng AI

Bộ checklist mới được xây dựng nhằm giải quyết những thiếu sót trong quy trình kiểm thử truyền thống, nơi các kỹ thuật viên thường bỏ quên các lỗ hổng tầng hạ tầng quan trọng. Những điểm yếu tiềm ẩn này bao gồm máy chủ MLflow bị lộ thông tin, endpoint metadata trên đám mây có thể truy cập trái phép, hoặc việc thiếu vắng các bộ lọc phân tách khách hàng. Những thiếu sót kể trên có nguy cơ dẫn đến tình trạng rò rỉ dữ liệu nhạy cảm và thông tin xác thực mà không cần phải thực hiện các hình thức tấn công trực tiếp vào mô hình AI.

Quy trình đánh giá và phân loại mức độ nghiêm trọng

Toàn bộ quy trình kiểm thử được cấu trúc thành bốn giai đoạn chiến lược, giúp người thực hiện nắm bắt chính xác khả năng tiếp cận của agent trước khi tiến hành đo lường tác động từ các chỉ dẫn độc hại. Điểm nổi bật của bộ tài liệu nằm ở phương pháp phân loại rủi ro dựa trên các kịch bản thực tế. Trong tổng số 222 bài kiểm thử, có 75 mục đạt mức nghiêm trọng (Critical), 108 mục mức cao (High), 30 mục mức trung bình (Medium) và 9 mục mức thấp (Low). Những đánh giá này phản ánh tiềm năng khai thác dựa trên thực tế chứ không đại diện cho lỗ hổng cố định của bất kỳ sản phẩm thương mại cụ thể nào.

Kiểm tra chuyên sâu hệ thống bộ nhớ và RAG

Đặc biệt đối với các hệ thống truy xuất và bộ nhớ tăng cường (RAG), bộ công cụ đặt trọng tâm vào việc kiểm định ranh giới bảo mật giữa các khách hàng khác nhau. Thay vì chỉ đơn thuần kiểm tra xem mô hình có phản hồi nội dung không an toàn hay không, các bài kiểm thử tập trung xác định xem việc vô hiệu hóa bộ lọc định danh có làm lộ tài liệu thuộc về bên thứ ba hay không.

Khuyến nghị triển khai và chuẩn hóa quy trình

Để quá trình áp dụng đạt hiệu quả cao, các chuyên gia khuyến nghị đội ngũ thực thi cần xác định rõ phạm vi bằng văn bản trước khi bắt đầu, ghi chú cụ thể các mục bị loại trừ, đồng thời lưu giữ nhật ký hoặc hình ảnh làm minh chứng cho từng kết quả. Đối với các bài kiểm thử mang tính chất phá hoại, kỹ thuật viên chỉ được phép tiến hành trong môi trường thử nghiệm (staging) khi có sự đồng ý tường minh. Việc tích hợp khung tham chiếu từ OWASP và MITRE ATLAS giúp bộ công cụ này trở thành giải pháp đắc lực cho các chuyên gia an ninh mạng trong việc thiết lập quy trình kiểm định AI tự hành minh bạch và có hệ thống.