Ai chịu trách nhiệm khi một hệ thống AI gây hại?

Dòng Chảy AI · Hành Trình AI · 2–8/11/2024

Một tổ chức dùng phần mềm AI để hỗ trợ quyết định. Nếu kết quả khiến một người bị thiệt hại, người đó cần biết tìm đến ai: người xây dựng phần mềm, tổ chức triển khai hay người sử dụng? Đây là một tình huống giả định, nhưng câu hỏi về trách nhiệm là điều các chuyên gia ở Việt Nam đã đưa ra thảo luận trong tháng 11/2024.

Ngày 6/11, tại TP.HCM, Viện Nghiên cứu Chính sách và Phát triển Truyền thông (IPS) cùng Trường Kinh tế, Luật và Quản lý nhà nước thuộc Đại học Kinh tế TP.HCM tổ chức tọa đàm về phát triển và sử dụng AI đáng tin cậy. Bản tin của IPS và báo Tuổi Trẻ cho thấy các đại biểu bàn về rủi ro, dữ liệu và trách nhiệm của những bên liên quan. Một cuộc tọa đàm đưa ra ý kiến và đề xuất; nó không tự ban hành quy định pháp luật. 1 2

Một quyết định có thể liên quan đến nhiều người

Theo bản tường thuật của IPS, cuộc thảo luận nhấn mạnh việc nhận diện các mức độ rủi ro và vai trò của các bên như nhà phát triển, đơn vị triển khai và người dùng. Khi một công nghệ đi qua nhiều khâu trước khi đến với người chịu ảnh hưởng, hiểu vai trò từng bên là một bước để đặt câu hỏi về trách nhiệm. 1

Hãy trở lại ví dụ giả định ở đầu bài. Một tổ chức có thể mua công cụ từ bên ngoài, đưa dữ liệu của mình vào và quyết định cách sử dụng kết quả. Nếu phát sinh sai sót, cần xem xét điều gì thực sự xảy ra ở từng khâu. Bài viết không xác định ai chịu trách nhiệm pháp lý trong một vụ việc cụ thể; điều đó phụ thuộc vào sự kiện và quy định áp dụng.

Báo Pháp Luật TP.HCM đưa tin các đại biểu cũng đặt vấn đề về hành lang pháp lý, quyền riêng tư và tính minh bạch. Đặt ra một câu hỏi tại hội thảo khác với việc khẳng định đã có câu trả lời pháp lý thống nhất cho mọi trường hợp. 3

Đổi mới và kiểm soát rủi ro

Chương trình tọa đàm do UEH công bố trước sự kiện liệt kê các chủ đề như chính sách phát triển AI, quản trị rủi ro, dữ liệu và cơ chế thử nghiệm có kiểm soát, thường được gọi là sandbox. Có thể hiểu đây là cách tạo một môi trường thử nghiệm trong phạm vi và điều kiện được xác định; chương trình hội thảo không tự chứng minh một sandbox cụ thể đã được thiết lập. 4

Tuổi Trẻ ghi nhận ý kiến tại tọa đàm rằng cần vừa tạo điều kiện phát triển vừa chú ý đến quyền con người, dữ liệu và trách nhiệm. Những ý kiến này thể hiện các lựa chọn đang được bàn luận vào thời điểm đó. Bài viết không coi đề xuất của diễn giả là kết luận pháp luật hoặc bằng chứng rằng rủi ro đã được giải quyết. 2

Câu hỏi còn ở lại sau buổi thảo luận

Với người dùng, một hệ thống đáng tin cậy cần nhiều hơn một câu trả lời nghe hợp lý: khi sai sót có thể ảnh hưởng đến quyền lợi, người chịu tác động cần biết mình có thể liên hệ với ai và thông tin nào cần được xem xét. Với tổ chức phát triển hoặc sử dụng AI, việc xác định quyền truy cập dữ liệu và theo dõi kết quả là những câu hỏi vận hành cụ thể.

Đây là các gợi ý để đánh giá công nghệ, không phải lời khuyên pháp lý cho một trường hợp cụ thể. Bài viết không đo lường hệ quả của buổi tọa đàm hay kết luận rằng các đề xuất đã trở thành luật.

Tuần 2–8/11 cho thấy một cuộc đối thoại ở Việt Nam về cách phát triển AI có trách nhiệm. Bước khó hơn nằm sau phòng họp: biến những câu hỏi về con người, dữ liệu và trách nhiệm thành thực hành có thể kiểm tra khi công nghệ được sử dụng.

Tài liệu tham khảo

1. IPS — Tọa đàm Phát triển và sử dụng trí tuệ nhân tạo đáng tin cậy, 6/11/2024: bản tin của đồng tổ chức.
2. Tuổi Trẻ — Không để trí tuệ nhân tạo uy hiếp quyền con người, 6/11/2024: báo chí đưa tin và ý kiến tại sự kiện.
3. Pháp Luật TP.HCM — Có nên quy định trách nhiệm hình sự cho AI?, 6/11/2024: tường thuật thảo luận.
4. UEH — Chương trình tọa đàm về AI đáng tin cậy, thông báo chương trình trước sự kiện 6/11/2024.