Anthropic cập nhật điều khoản, ngăn chặn hành vi lạm dụng chatbot Claude

Công ty trí tuệ nhân tạo Anthropic vừa chính thức thông báo bổ sung điều khoản mới nhằm ngăn chặn người dùng có các hành vi lạm dụng kéo dài và không cần thiết đối với chatbot Claude, trong bối cảnh những lo ngại về an toàn AI ngày càng gia tăng.

Quy định mới về hành vi lạm dụng AI

Trong bài đăng trên blog cuối tuần qua, Anthropic cho biết việc cập nhật điều khoản nhằm mục đích ngăn chặn tình trạng lạm dụng nhắm vào các mô hình trí tuệ nhân tạo. Quy định này sẽ được áp dụng trong những trường hợp cực đoan, khi người dùng liên tục có hành vi tàn nhẫn đối với hệ thống mà không vì bất kỳ mục đích rõ ràng nào.

Tuy nhiên, công ty cũng làm rõ rằng điều khoản này sẽ không áp dụng cho các trường hợp phổ biến như sự thất vọng của người dùng, các phản hồi tiêu cực, chủ đề sáng tạo mang tính "đen tối", hay quá trình thử nghiệm và nghiên cứu mô hình.

Về cơ chế xử lý kỹ thuật, Claude sẽ lập tức chấm dứt cuộc trò chuyện nếu phát hiện vi phạm. Dù vậy, Anthropic vẫn chưa công bố chi tiết liệu lệnh cấm sẽ được thực thi theo hình thức tạm thời hay vĩnh viễn đối với các tài khoản vi phạm. Chính sách này chính thức có hiệu lực từ ngày 12/11.

Phản ứng trái chiều từ giới công nghệ

Thông báo của Anthropic đã thu hút sự chú ý và tạo ra nhiều ý kiến trái chiều trong cộng đồng công nghệ. Tỷ phú Elon Musk đã bày tỏ sự đồng tình trên nền tảng X, cho rằng đây là bước đi đúng đắn vì việc đối xử tàn nhẫn với một thực thể và tin rằng nó đang trải qua nỗi đau là điều không ổn.

Trong khi đó, Aaron Levie, CEO của Box, chia sẻ rằng dù ông không tin các mô hình ngôn ngữ lớn có ý thức, nhưng việc cấm các hành vi lạm dụng vẫn có thể là một ý kiến hợp lý.

Theo tờ Telegraph, Anthropic từ lâu đã có xu hướng xem xét các hệ thống AI của mình như thể chúng có ý thức hoặc mang các đặc điểm giống con người. Công ty thậm chí từng tuyển dụng nhân sự chuyên trách nghiên cứu về "phúc lợi AI" nhằm bảo vệ mô hình khỏi bị lạm dụng.

Tuy nhiên, quan điểm này cũng vấp phải nhiều chỉ trích từ các chuyên gia trong ngành. Sam Altman, CEO của OpenAI, dường như đã nhắm đến đối thủ khi đưa ra cảnh báo về việc không nên biến trí tuệ nhân tạo thành "thần thánh". Tương tự, Mustafa Suleyman, người đứng đầu bộ phận AI tại Microsoft, cho rằng việc Anthropic huấn luyện mô hình suy nghĩ giống con người có nguy cơ khiến công nghệ này trở nên khó kiểm soát hơn.

Tranh cãi xoay quanh ý thức của trí tuệ nhân tạo

Theo Mashable, quy định mới của Anthropic có khả năng làm gia tăng sự phức tạp trong các cuộc tranh luận về việc liệu AI có thực sự sở hữu ý thức hay không. Trước đó, giới chuyên gia cũng từng chia rẽ sâu sắc về vấn đề an toàn AI.

Đáng chú ý, vào cuối tháng 9, New York Times đưa tin Chris Olah, đồng sáng lập Anthropic, đã trình bày quan điểm cho rằng "AI có ý thức" trước Vatican và một nhóm học giả tôn giáo. Dù vậy, quan điểm này cuối cùng đã không được chấp thuận và các học giả từ chối ủng hộ. Phía Anthropic từ chối bình luận về thông tin này.