Khi một bức ảnh AI kể sai câu chuyện lịch sử

Dòng Chảy AI · Hành Trình AI · 17–23/02/2024

Một hình ảnh tạo bằng AI có thể trông như một bức ảnh tư liệu. Nhưng vẻ ngoài thuyết phục không cho biết hình ảnh đó có phản ánh đúng một thời kỳ hay một con người có thật.

Ngày 22/2/2024, Google tạm dừng khả năng tạo hình ảnh người trong ứng dụng Gemini sau khi người dùng nêu ra những hình ảnh lịch sử không chính xác. VietnamPlus và Báo Tin tức đưa tin cùng ngày; Reuters cũng tường thuật sự việc. Lệnh tạm dừng được nói đến ở đây là tính năng tạo hình người, không phải toàn bộ Gemini. 1 2 4

Vì sao bối cảnh lại quan trọng?

Nếu yêu cầu tạo hình một nhóm người trong bối cảnh không xác định, nhiều cách thể hiện có thể phù hợp. Nhưng nếu yêu cầu nói về một nhân vật hay bối cảnh lịch sử cụ thể, chi tiết nhận diện và thời gian có thể là phần cốt lõi của câu trả lời. Một hình ảnh sai ở những chi tiết đó có thể khiến người xem hiểu sai lịch sử.

Đây là một phân biệt về yêu cầu, không phải lời khẳng định rằng mọi hình ảnh lịch sử đều chỉ có một cách thể hiện. Các ảnh đang lan truyền trên mạng cũng cần được xem cùng yêu cầu đã tạo ra chúng. AP cho biết họ không xác minh được câu lệnh dùng cho một số ví dụ được chia sẻ; Dòng Chảy AI không tự thử lại các yêu cầu đó. 5

Google giải thích điều gì?

Ngày 23/2, Google nói tính năng tạo ảnh của ứng dụng Gemini dùng mô hình Imagen 2. Theo công ty, các điều chỉnh nhằm tạo ra nhiều kiểu hình ảnh không nhận biết tốt những trường hợp cần giữ chính xác bối cảnh cụ thể; công ty cũng nói hệ thống từ chối một số yêu cầu vốn không cần từ chối. Google xin lỗi và cho biết sẽ cải thiện trước khi bật lại tính năng tạo hình người. 3

Đó là giải thích của Google về sản phẩm của mình, không phải kết luận từ một cuộc kiểm toán độc lập mà Dòng Chảy AI đã thực hiện. Những nguồn trong bài không cho biết tỷ lệ lỗi trên toàn bộ yêu cầu, hay chứng minh nguyên nhân của từng bức ảnh được chia sẻ.

Từ người tạo ảnh đến người xem ảnh

Giả sử một giáo viên muốn chuẩn bị hình minh họa cho một bài học lịch sử. Công cụ tạo ảnh có thể giúp hình dung ý tưởng, nhưng nếu ảnh được trình bày như tư liệu thật, học sinh có thể nhầm nó với bằng chứng từ thời kỳ đó. Đây là tình huống minh họa, không phải một lớp học được Dòng Chảy AI quan sát.

Một cách thận trọng là ghi rõ hình ảnh được tạo bằng AI, rồi đối chiếu những chi tiết lịch sử quan trọng với tài liệu đáng tin cậy. Việc gắn nhãn giúp người xem hiểu nguồn gốc hình ảnh; nó không tự sửa những chi tiết sai trong ảnh.

Với người đọc Việt Nam, việc báo chí trong nước đưa tin cho thấy câu chuyện đã đến với độc giả tại Việt Nam. Những bài báo ấy không chứng minh người dùng Việt Nam nói chung gặp cùng lỗi, hay đo được tác động của sự cố tại đây. 1

Sự cố tháng 2 cho thấy một công cụ được thiết kế để phục vụ nhiều người vẫn cần hiểu khi nào bối cảnh cụ thể đòi hỏi độ chính xác khác. Với người dùng, điều quan trọng là phân biệt một hình ảnh minh họa được tạo ra với một nguồn chứng cứ về thế giới.

Tài liệu tham khảo

1. VietnamPlus — Google tạm dừng tính năng tạo hình ảnh người trong Gemini, 22/2/2024; báo chí Việt Nam.
2. Báo Tin tức — Google tạm dừng tính năng tạo hình ảnh người, 22/2/2024; TTXVN, cùng nguồn tin với [1].
3. Google — What happened with Gemini image generation, 23/2/2024; giải thích của công ty.
4. Reuters qua Yahoo — Google to pause Gemini image generation of people, 22/2/2024; tường thuật độc lập.
5. Associated Press — Google says its AI image-generator would sometimes overcompensate, 23/2/2024; báo chí độc lập, có giới hạn xác minh các câu lệnh.