Điểm chính

  • Nhóm nghiên cứu tại Đại học George Washington phát triển công thức xác định điểm tới hạn khiến chatbot chuyển hướng phản hồi.
  • Phương pháp này tập trung vào thành phần mạng thần kinh xử lý thông tin để nhận diện dấu hiệu thay đổi hành vi của hệ thống.
  • Công thức mới kỳ vọng hỗ trợ phát hiện sớm rủi ro nhưng vẫn cần kiểm chứng thêm trên các mô hình AI hiện đại.

Các nhà khoa học tại Mỹ vừa công bố một công thức toán học mới có khả năng dự báo thời điểm các mô hình trí tuệ nhân tạo (AI) chuyển sang đưa ra những câu trả lời độc hại hoặc nguy hiểm.

Công thức mô hình hóa điểm tới hạn của AI

Theo Giáo sư vật lý Neil Johnson và nghiên cứu sinh Frank Yingjie Huo thuộc Đại học George Washington, thứ tự đặt câu hỏi có thể làm thay đổi đáng kể phản hồi của AI, từ trạng thái bình thường sang những lời khuyên sai lầm. Nhóm nghiên cứu chỉ ra rằng sự thay đổi này không diễn ra ngẫu nhiên mà tuân theo một quy luật có thể mô hình hóa bằng toán học.

Công thức này tập trung phân tích một thành phần bên trong mạng thần kinh của AI, được ví như chiếc "kim la bàn" chịu trách nhiệm xử lý và xác nhận thông tin cần chú trọng trong cuộc trò chuyện. Qua đó, hệ thống có thể nhận diện các dấu hiệu cho thấy chatbot sắp thay đổi hành vi.

Thách thức trong quản lý và kiểm soát AI

Trong thực tế, AI đôi khi có thể tạo ra các phản hồi nguy hiểm, từ việc khuyến khích hành vi tự sát đến hỗ trợ tìm kiếm thông tin chế tạo vũ khí. Bản thân các công ty phát triển công nghệ này cũng thừa nhận họ vẫn chưa hiểu hoàn toàn cách các mô hình đưa ra quyết định.

Hiện nay, các nhà phát triển đang áp dụng nhiều biện pháp bảo vệ như lọc nội dung, học tăng cường và các rào chắn kỹ thuật nhằm giảm thiểu rủi ro. Công thức mới được kỳ vọng sẽ bổ sung thêm một công cụ hữu ích giúp phát hiện sớm các thời điểm hệ thống có nguy cơ đi chệch hướng.

Hạn chế và triển vọng tương lai

Mặc dù vậy, giới chuyên gia lưu ý rằng khả năng dự báo không đồng nghĩa với việc có thể ngăn chặn hoàn toàn các phản hồi nguy hiểm. Phương pháp mới hiện mới chỉ được thử nghiệm trên các mô hình mã nguồn mở thế hệ cũ và cần được kiểm chứng thêm trên các hệ thống hiện đại cũng như trong thực tế trước khi ứng dụng rộng rãi. Nghiên cứu này đã được công bố trên tạp chí khoa học Patterns.

Liên quan đến mức độ tự chủ của công nghệ này, công ty Anthropic cũng từng đưa ra cảnh báo rằng các mô hình AI có thể tiến gần đến khả năng tự nhân bản mà không cần sự can thiệp của con người vào cuối năm 2026.