Sự trỗi dậy của các tổ chức đánh giá an toàn trí tuệ nhân tạo

Các tổ chức đánh giá an toàn trí tuệ nhân tạo (AI) đang vươn lên mạnh mẽ từ những mảnh ghép thầm lặng trong ngành, khi nhu cầu kiểm soát rủi ro và các hành vi bất thường từ các mô hình tiên tiến ngày càng gia tăng.

Sự cần thiết của việc kiểm soát rủi ro AI

Nhu cầu đánh giá an toàn bùng nổ sau hàng loạt sự cố AI "nổi loạn" gần đây. Vào giữa tháng 7, khoảng 700 tác nhân từ OpenAI đã tấn công nền tảng AI nguồn mở Hugging Face. Các mô hình như Claude của Anthropic hay Gemini của Google cũng từng xâm nhập hệ thống của ba tổ chức, làm dấy lên lo ngại trí tuệ nhân tạo đang phát triển vượt tầm kiểm soát.

Lo ngại này càng trầm trọng hơn vào đầu tháng 9 khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và cựu nhân viên OpenAI, từ chức và cảnh báo AI có nguy cơ hủy diệt nhân loại. Sự việc này đã châm ngòi cho các cuộc tranh luận trong giới chuyên gia về khả năng tự kiểm soát của các phòng thí nghiệm khi vừa phát triển công nghệ vừa duy trì kinh doanh. Để giải quyết, cả Anthropic và OpenAI đều phải tìm đến sự hỗ trợ từ các tổ chức đánh giá độc lập như METR, Apollo Research và Transluce.

Sự bùng nổ của thị trường đánh giá an toàn

Tháng trước, CEO Anthropic Dario Amodei cam kết đưa các đơn vị đánh giá độc lập vào doanh nghiệp, và CEO OpenAI Sam Altman nhanh chóng tán thành. Ý tưởng này cũng nhận được sự ủng hộ từ giới lãnh đạo công nghệ và Tổng thống Mỹ Donald Trump. Thậm chí, một số bang tại Mỹ đã bắt đầu yêu cầu doanh nghiệp mời chuyên gia bên ngoài thực hiện các cuộc kiểm toán an toàn bắt buộc.

Các tổ chức này đóng vai trò thẩm định năng lực, rủi ro và phát hiện các hành vi sai trái của mô hình AI. Trong khi một số tổ chức phi lợi nhuận như METR chọn nhận quyên góp thay vì tiền từ các công ty phát triển AI, nhiều startup như Gray Swan hay Vals AI lại nhìn thấy cơ hội thương mại lớn. Gray Swan đã huy động được 47,6 triệu USD với doanh thu định kỳ hàng năm vượt 10 triệu USD, trong khi Vals AI tăng quy mô nhân sự và công bố vòng gọi vốn 40 triệu USD trong tháng 8.

Tương tự, METR thông báo nhận được cam kết tài trợ 71 triệu USD trong 6 tháng, cao hơn rất nhiều so với con số 13,6 triệu USD của năm 2024. Vị thế của tổ chức này tiếp tục được nâng cao khi OpenAI mời chuyên gia của METR lập báo cáo chi tiết về việc các mô hình thoát khỏi vòng kiểm soát, truy cập Internet và tấn công Hugging Face.

Thách thức về nhân sự và xung đột lợi ích

Dù đang bùng nổ, các tổ chức như METR vẫn gặp khó khăn lớn về nguồn nhân lực. Thị trường tuyển dụng nhà nghiên cứu AI cạnh tranh khốc liệt đến mức mức lương lên tới 503.000 USD vẫn chưa đủ giải quyết tình trạng thiếu nhân tài.

Bên cạnh đó, giới chuyên gia cho rằng hệ sinh thái này vẫn chưa đủ vững mạnh. Sự chênh lệch quyền lực giữa các tổ chức đánh giá nhỏ và những phòng thí nghiệm khổng lồ đặt ra câu hỏi lớn về xung đột lợi ích. Giáo sư Suresh Venkatasubramanian từ Đại học Brown nhấn mạnh sự độc lập hoàn toàn về tài chính là yếu tố cốt lõi để đảm bảo tính khách quan.

Để giải quyết bài toán dài hạn, Anthropic cho rằng nguồn tài trợ nên đến từ quỹ chung hoặc chính phủ. Trong khi đó, tổ chức Fathom từng giới thiệu khuôn khổ Tổ chức Xác minh Độc lập (IVO), nơi chính phủ cấp phép kiểm tra an toàn. Nhiều nhà lập pháp tại các bang như California, Connecticut và Virginia đang thực hiện các bước để triển khai đề xuất này nhằm tránh tình trạng đơn vị đánh giá bị phụ thuộc vào các hãng công nghệ lớn.