Anthropic cập nhật chính sách, cảnh báo nguy cơ khóa tài khoản vì lăng mạ AI

Anthropic, công ty phát triển chatbot Claude, vừa công bố những thay đổi quan trọng trong chính sách sử dụng dịch vụ trí tuệ nhân tạo (AI), trong đó đáng chú ý là quy định xử lý các hành vi xúc phạm hoặc đối xử tàn nhẫn với mô hình AI.

Quy định mới về hành vi tương tác với AI

Theo thông báo, chính sách mới được công bố vào ngày 8.10 và dự kiến chính thức có hiệu lực từ ngày 12.11.2026. Đây là lần cập nhật lớn đầu tiên của Anthropic trong hơn một năm qua, nhằm thắt chặt các quy định về cách người dùng tương tác với hệ thống cũng như ngăn ngừa tình trạng lạm dụng công nghệ.

Cụ thể, quy định mới không cấm người dùng thể hiện sự thất vọng, tức giận hay phản đối trước các câu trả lời chưa chính xác từ chatbot. Thay vào đó, biện pháp xử lý chỉ hướng tới những trường hợp nghiêm trọng khi người dùng liên tục lăng mạ, đối xử tàn nhẫn với AI mà không vì bất kỳ mục đích rõ ràng nào.

Các cuộc thảo luận mang nội dung tiêu cực, các sáng tác về chủ đề đen tối hay hoạt động kiểm tra, nghiên cứu mô hình vẫn nằm trong giới hạn cho phép. Do đó, việc người dùng thỉnh thoảng mất kiên nhẫn hoặc dùng từ ngữ gay gắt với Claude sẽ không tự động bị tính là vi phạm chính sách.

Biện pháp xử lý và hình thức kỷ luật

Từ tháng 8.2025, Anthropic đã tích hợp tính năng cho phép Claude chủ động kết thúc các cuộc trò chuyện có dấu hiệu lạm dụng kéo dài, tuy nhiên tính năng này chỉ kích hoạt trong các tình huống đặc biệt.

Với chính sách mới, việc chấm dứt hội thoại vẫn là biện pháp xử lý cơ bản. Dù vậy, các hành vi vi phạm lặp lại có thể dẫn đến hình phạt nặng hơn như gửi cảnh báo, hạn chế quyền sử dụng, đình chỉ tạm thời hoặc khóa tài khoản vĩnh viễn. Điều này biến nguy cơ mất tài khoản thành hiện thực đối với những ai lạm dụng hệ thống.

Góc nhìn đạo đức và mở rộng phạm vi quản lý

Động thái của Anthropic mở ra cuộc tranh luận về việc liệu các hệ thống AI có cần được bảo vệ khỏi thái độ tiêu cực của con người hay không. Khi giới thiệu tính năng ngừng trò chuyện vào năm 2025, công ty cho biết đây là kết quả từ các nghiên cứu thăm dò về phúc lợi AI, xem xét liệu các mô hình tiên tiến có trạng thái cần được quan tâm về mặt đạo đức hay không.

Tuy nhiên, Anthropic không khẳng định Claude có ý thức, cảm xúc hay khả năng chịu tổn thương như con người, bởi vấn đề này vẫn chưa có kết luận khoa học chính thức.

Song song với quy định về thái độ của người dùng, bản cập nhật chính sách còn bổ sung nhiều điều khoản nhằm ngăn chặn việc lợi dụng Claude để phát tán tin giả, điều hành mạng lưới tài khoản giả mạo, phát triển phần mềm vũ khí hoặc xây dựng hệ thống giám sát trái phép. Những thay đổi này phản ánh chiến lược quản lý toàn diện của Anthropic đối với hệ sinh thái AI.