Anthropic vừa chính thức cập nhật chính sách sử dụng đối với mô hình Claude, bổ sung các quy định nghiêm ngặt nhằm ngăn chặn tình trạng can thiệp bầu cử, phần mềm vũ khí và giám sát trái phép. Đáng chú ý, điều khoản mới cũng lần đầu tiên cấm người dùng thực hiện các hành vi lăng mạ hoặc ngược đãi mô hình AI một cách kéo dài.
Theo Anthropic, chính sách mới chỉ áp dụng cho các trường hợp cực đoan, khi người dùng liên tục đối xử tàn nhẫn với mô hình mà không có mục đích rõ ràng. Quy định này không ảnh hưởng đến những phản ứng thông thường như sự thất vọng, tranh luận, thử nghiệm chủ đề u tối hay nghiên cứu kiểm thử kỹ thuật. Trước đó từ tháng 8, Claude đã được huấn luyện để tự chủ động kết thúc các cuộc trò chuyện chứa tương tác độc hại dai dẳng.
Bên cạnh đó, danh mục ‘Không làm tổn hại đến các tiến trình dân chủ’ cấm sử dụng Claude để tạo tài khoản giả mạo, tung tin tức sai sự thật hoặc thao túng cử tri. Những điều chỉnh này cho thấy cam kết của Anthropic trong việc xây dựng chuẩn mực đạo đức và an toàn AI. Đối với cộng đồng người dùng Việt Nam, đây là lời nhắc nhở quan trọng về việc tương tác văn minh cũng như khai thác sức mạnh của các LLM một cách có trách nhiệm.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com