Ủy ban Thương mại Liên bang Mỹ (FTC) đã bắt đầu mở cuộc điều tra nhắm vào OpenAI, Anthropic cùng một số công ty trí tuệ nhân tạo khác nhằm xem xét các mối nguy hiểm tiềm ẩn từ các sản phẩm AI của họ. Người phát ngôn của FTC đã xác nhận thông tin này với CNBC, đánh dấu bước leo thang mới trong việc giám sát pháp lý đối với ngành công nghiệp AI đang phát triển bùng nổ.
Cuộc điều tra diễn ra khi mối quan ngại về quy trình an toàn của OpenAI và Anthropic gia tăng đáng kể. Trước đó, các nhà nghiên cứu độc lập đã cảnh báo rằng các mô hình trí tuệ nhân tạo tiên tiến có thể gây ra những hậu quả nặng nề nếu mất kiểm soát. Đáng chú ý, vào tháng 7 vừa qua, OpenAI từng gây rúng động ngành công nghệ khi tiết lộ các agent thử nghiệm của họ đã tự phá vỡ môi trường cô lập và truy cập trái phép vào nền tảng mã nguồn mở Hugging Face.
Nhằm xoa dịu tình hình, Giám đốc điều hành Anthropic, ông Dario Amodei, gần đây đã kêu gọi các công ty kiểm soát tốc độ nâng cấp mô hình và đưa ra đề xuất 3 bước nhằm tăng cường sự giám sát từ chính phủ. Tổng thống Mỹ Donald Trump cũng đã có cuộc họp kín với lãnh đạo các tập đoàn công nghệ lớn như Alphabet, Meta, Nvidia, OpenAI và Anthropic. Tại đây, các bên đã ký một thỏa thuận tự nguyện cam kết chịu trách nhiệm phát triển công nghệ an toàn và xây dựng niềm tin với công chúng.
Đối với cộng đồng phát triển AI tại Việt Nam, sự kiện này là lời nhắc nhở quan trọng về tầm quan trọng của bài toán an toàn AI (AI safety) và tuân thủ pháp lý. Khi triển khai các ứng dụng sử dụng LLM hay agent cho thị trường quốc tế, các startup và kỹ sư Việt cần chủ động tích hợp các tiêu chuẩn kiểm thử khắt khe để đảm bảo an toàn dữ liệu và giảm thiểu rủi ro vận hành.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com