Khi một giọng nói quen thuộc bảo cử tri đừng đi bầu

Dòng Chảy AI · Hành Trình AI · 20–26/01/2024

Một giọng nói quen thuộc có thể khiến người nghe dừng lại. Nhưng nếu giọng nói ấy được tạo ra để bắt chước một người khác, sự quen thuộc không còn đủ để xác nhận ai đang nói — hay thông tin được đưa ra có đúng không.

Ngày 21/1/2024, một số cử tri tại bang New Hampshire, Mỹ nhận cuộc gọi tự động với giọng giống Tổng thống Joe Biden. Bản ghi kêu gọi họ không bỏ phiếu trong cuộc bầu cử sơ bộ ngày 23/1. Ngày 22/1, Văn phòng Tổng chưởng lý bang cho biết dấu hiệu ban đầu cho thấy giọng nói có vẻ được tạo nhân tạo và cơ quan đang điều tra. Ngày 23/1, Thanh Niên và VietnamPlus đưa tin cho độc giả Việt Nam. 1 2 4 5

Lời nhắn sai nằm ở đâu?

Cuộc gọi đưa ra ý rằng người nghe nên để dành lá phiếu cho tháng 11 thay vì tham gia sơ bộ. Cơ quan tư pháp bang giải thích điều ngược lại: bỏ phiếu trong cuộc bầu cử sơ bộ không ngăn cử tri tiếp tục bỏ phiếu trong cuộc tổng tuyển cử tháng 11. PolitiFact xác nhận chiến dịch của ông Biden nói ông không ghi âm lời nhắn đó. 4 5

Một cuộc bầu cử sơ bộ là bước chọn ứng viên; tổng tuyển cử là cuộc bỏ phiếu sau đó để chọn người giữ chức vụ. Hai việc không phải một lá phiếu duy nhất mà người dân phải chọn dùng ở một trong hai thời điểm. Quy tắc tham gia cụ thể khác nhau theo địa phương; kết luận ở đây dựa trên thông báo của giới chức New Hampshire cho cuộc bầu cử đó.

Vào ngày 22/1, cơ quan điều tra mô tả dấu hiệu tạo giọng nhân tạo là nhận định ban đầu. Người đứng sau và toàn bộ cách thức thực hiện chưa được xác định trong thông báo ấy. Điều đã rõ với người đọc khi đó là nội dung mạo danh đưa ra chỉ dẫn sai về việc bỏ phiếu; các chi tiết điều tra vẫn cần chờ thêm bằng chứng. 4 5

Không chỉ có giọng nói

Theo thông báo được lưu lại của Văn phòng Tổng chưởng lý, cuộc gọi còn có vẻ hiển thị sai nguồn: số điện thoại của một người liên quan đến nhóm vận động ủng hộ ông Biden xuất hiện trong thông tin cuộc gọi, dù bản thân việc hiển thị số không chứng minh người đó đã gọi. Việc giả thông tin số gọi đến thường được gọi là caller-ID spoofing. 4

Hai lớp giả mạo có thể củng cố lẫn nhau: giọng nghe có vẻ quen, còn thông tin người gọi có vẻ đáng tin. Đây là phân tích về cách cuộc gọi có thể tác động đến người nghe, không phải kết quả đo số người đã tin hay thay đổi hành vi. Hồ sơ được dùng cho bài này không cho phép kết luận cuộc gọi đã làm thay đổi kết quả bầu cử.

Một góc nhìn gần hơn với người Việt

Trước sự kiện New Hampshire, ngày 14/3/2023, Báo Chính phủ đã cảnh báo về việc kẻ gian có thể dùng hình ảnh và giọng nói giả để mạo danh người quen và lừa chuyển tiền. Đó là bối cảnh Việt Nam trước kỳ, không phải bằng chứng hai vụ liên quan hay có cùng người thực hiện. 3

Tình huống minh họa: nếu nhận cuộc gọi khẩn yêu cầu chuyển tiền, người nghe có thể ngắt máy và tự gọi lại cho người thân qua số đã biết, hoặc xác nhận bằng một kênh khác. Với thông tin bầu cử, hãy kiểm tra trang chính thức của cơ quan quản lý bầu cử địa phương. Những bước này không bảo đảm phát hiện mọi giả mạo, nhưng giúp kiểm tra yêu cầu thay vì chỉ dựa vào âm thanh hay số hiển thị.

Điều được biết thêm sau tuần đó

Bằng chứng sau kỳ — tháng 2/2024: Ủy ban Truyền thông Liên bang Mỹ (FCC) làm rõ rằng giọng nói do AI tạo thuộc phạm vi điều chỉnh của luật Mỹ về một số cuộc gọi dùng giọng nhân tạo hoặc ghi âm sẵn. Quy định có các điều kiện và ngoại lệ; điều này không có nghĩa mọi việc dùng giọng AI trong mọi bối cảnh đều tự động bất hợp pháp, hoặc luật Mỹ áp dụng tại Việt Nam. 7

Một quyết định FCC sau đó năm 2024 mô tả thêm bằng chứng cơ quan thu thập về cuộc gọi và điều tra. Đó là thông tin có sau sự kiện, không phải điều tất cả người nhận đã biết ngày 21/1. 6

Câu chuyện này không cho thấy công nghệ âm thanh chỉ có hại. Nó cho thấy một thay đổi cụ thể trong cách chúng ta kiểm chứng: khi giọng nói và số hiển thị đều có thể bị bắt chước, nguồn thông tin cần được xác nhận qua những dấu hiệu khác.

Tài liệu tham khảo

1. Thanh Niên — Cuộc gọi robot giả giọng Tổng thống Biden, 23/1/2024 giờ Việt Nam; tin đương thời.
2. VietnamPlus — Xuất hiện các cuộc gọi giả giọng Tổng thống Joe Biden, 23/1/2024; tin đương thời.
3. Báo Chính phủ — Deepfake và video call: Lợi dụng công nghệ để lừa đảo, 14/3/2023; bối cảnh Việt Nam trước kỳ.
4. Democracy in Action — Bản lưu thông cáo Văn phòng Tổng chưởng lý New Hampshire, thông cáo 22/1/2024; bản lưu bên thứ ba, trang cũng có thông cáo sau kỳ.
5. PolitiFact — Fake Joe Biden robocall in New Hampshire, 22/1/2024; kiểm chứng báo chí.
6. FCC — Quyết định FCC 24-104, 2024; tài liệu cơ quan quản lý sau kỳ.
7. FCC — Thông báo về giọng AI trong cuộc gọi tự động, 8/2/2024; thông báo sau kỳ, phải đọc cùng các điều kiện và ngoại lệ của quy định.