Tòa phúc thẩm bang Arizona (Mỹ) vừa quyết định hủy bản án sơ thẩm đối với Gabriel Paul Horcasitas, kẻ bị kết án 10 năm tù vì bắn chết nạn nhân Christopher Pelkey năm 2021. Nguyên nhân xuất phát từ việc gia đình nạn nhân đã sử dụng một video AI tạo hình ảnh và giọng nói giả lập của người đã khuất để phát tại phiên tòa tuyên án trước đó.
Video AI do chị gái của nạn nhân tạo ra bằng cách thu thập hình ảnh, video và ghi âm cũ của Pelkey. Trong đoạn clip trình chiếu tại tòa, phiên bản AI của Pelkey mặc mũ lưỡi trai xám và cất lời tha thứ cho hung thủ. Ban đầu, thẩm phán phiên tòa sơ thẩm rất hoan nghênh đoạn video này vì cho rằng nó thể hiện sự vị tha chân thành. Tuy nhiên, các luật sư bào chữa đã nộp đơn phúc thẩm phản đối.
Tòa phúc thẩm Arizona thống nhất rằng đoạn clip AI đã “vượt quá giới hạn cho phép”. Thay vì ghi lại một sự kiện hoặc khoảnh khắc thực tế, video này lại dựng nên một mô phỏng về nạn nhân và suy nghĩ của anh dựa trên tưởng tượng của người nhà, làm ảnh hưởng đến tính khách quan của quá trình tuyên án.
Sự việc này là lời cảnh báo quan trọng về ranh giới pháp lý và đạo đức khi ứng dụng công nghệ Video AI và deepfake trong đời sống thực. Việc đưa bằng chứng synthetic AI vào hệ thống tư pháp chắc chắn sẽ cần những quy định kiểm soát nghiêm ngặt hơn trong thời gian tới.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com