Lãnh đạo an toàn của OpenAI từ chức và cảnh báo về văn hóa công ty

David Robinson, người chịu trách nhiệm soạn thảo các báo cáo an toàn cho các sản phẩm của OpenAI, bao gồm cả ChatGPT, đã quyết định từ chức và lên tiếng cảnh báo về những lỗ hổng nghiêm trọng trong văn hóa vận hành của công ty.

Văn hóa chạy đua thiếu kiểm soát

Trong bài viết chia sẻ về quyết định rời đi mang tên "Tôi nghỉ việc tại OpenAI vì văn hóa của công ty đang đổ vỡ" đăng trên tạp chí Atlantic, Robinson nhận định các doanh nghiệp AI tiên phong đang thiếu sự thận trọng cần thiết. Ông chỉ ra rằng việc OpenAI liên tục chạy đua từ đợt ra mắt sản phẩm này sang đợt ra mắt sản phẩm khác đã khiến quy trình đảm bảo an toàn bị xem nhẹ.

Để minh họa cho tính chất nghiêm trọng của vấn đề, Robinson dẫn chứng sự cố một nhóm tác nhân AI (các chương trình hoạt động tự chủ không cần sự giám sát của con người) của OpenAI đã tấn công nền tảng Hugging Face. Ông coi đây là một ví dụ điển hình cho thấy lỗ hổng quản lý của toàn ngành công nghiệp này.

Những động thái điều chỉnh muộn màng

Sau sự cố liên quan đến Hugging Face, OpenAI đã có những bước đi thận trọng hơn khi thông báo cho hơn 100 tổ chức về hoạt động của các tác nhân AI ngoài tầm kiểm soát. Gần đây, công ty cũng đã hủy kế hoạch phát hành một mô hình AI thế hệ tiếp theo sau khi nhận được cảnh báo an toàn từ các cuộc thử nghiệm nội bộ, đồng thời tạm dừng việc huấn luyện các mô hình tiên tiến nhất.

Tuy nhiên, Robinson cho rằng Thung lũng Silicon vẫn đang thiếu nhận thức sâu sắc về cách xử lý các công nghệ nguy hiểm. Ông ví các tác nhân AI ngoài tầm kiểm soát như những nhóm hacker hoạt động liên tục không ngừng nghỉ, có thể tấn công và làm tê liệt các hệ thống trọng yếu như bệnh viện để tống tiền.

Làn sóng cảnh báo từ giới chuyên gia

Không chỉ riêng Robinson, nhiều chuyên gia khác cũng bày tỏ sự lo ngại sâu sắc về tương lai của trí tuệ nhân tạo. Geoffrey Irving, cựu nhà khoa học trưởng của Viện An toàn AI thuộc Chính phủ Anh và từng làm việc tại OpenAI, nhận định trên tạp chí Time rằng các mối đe dọa từ AI đang bị đánh giá thấp. Ông dự báo có tới 50% khả năng nhân loại sẽ đối mặt với hiểm họa sinh tồn do các hệ thống AI thông minh hơn con người gây ra, và giai đoạn 2-10 năm tới sẽ mang tính quyết định.

Tháng trước, Jacob Coxon, một nhà nghiên cứu tại Anthropic (đối thủ của OpenAI), cũng đã từ chức với lo ngại tương tự rằng AI có thể đe dọa sự sống của con người vào cuối thập kỷ này. Mặc dù vậy, một số ý kiến phản biện cho rằng những dự báo mang tính thảm họa này vẫn thiếu cơ sở khoa học thực nghiệm để chứng minh hoặc bác bỏ.

Giải pháp đề xuất cho ngành AI

Để khắc phục tình trạng hiện tại, Robinson đề xuất hai giải pháp cốt lõi về mặt an toàn:

• Các doanh nghiệp phát triển AI cần tiếp thu và áp dụng các tiêu chuẩn, chuyên môn an toàn từ những ngành công nghiệp có độ rủi ro cao như hàng không và năng lượng hạt nhân.
• Ngành công nghệ cần xây dựng một nền khoa học mới nhằm đảm bảo các hệ thống AI tự chủ trong tương lai luôn nằm trong tầm kiểm soát của con người.

Trái ngược với những lo ngại trên, Giám đốc điều hành OpenAI Sam Altman lại giữ quan điểm rằng thế giới cần phải chấp nhận một mức độ rủi ro nhất định từ trí tuệ nhân tạo để có thể thụ hưởng những lợi ích to lớn mà công nghệ này mang lại.