Khi châu Âu đặt câu hỏi: AI nào cần được kiểm soát chặt hơn?

Dòng Chảy AI · Hành Trình AI · 18–24/5/2024

Một công cụ giúp lọc thư rác và một hệ thống hỗ trợ chọn người xin việc đều có thể sử dụng AI. Nhưng nếu hệ thống chọn lọc hồ sơ mắc lỗi, hậu quả đối với một ứng viên có thể rất khác với việc một email bị đưa nhầm vào hộp thư rác. Vậy có nên đặt cùng một yêu cầu cho mọi ứng dụng AI?

Ngày 21/5/2024, Hội đồng Liên minh châu Âu (EU) thông qua bước cuối cùng đối với Đạo luật AI. Trong tin cùng ngày, VietnamPlus cho biết luật phân loại các hệ thống theo mức độ rủi ro. Cách tiếp cận đó đưa một câu hỏi quen thuộc của người dùng — “công nghệ này có thể gây hại cho ai?” — vào quá trình xây dựng quy định. 1 2

Rủi ro càng lớn, yêu cầu càng chặt

Theo thông báo của Hội đồng EU, các hệ thống AI được nhìn nhận khác nhau tùy mức rủi ro: một số ứng dụng có rủi ro hạn chế chịu yêu cầu minh bạch nhẹ hơn; hệ thống thuộc nhóm rủi ro cao có thể được phép sử dụng nhưng phải đáp ứng các yêu cầu nghiêm ngặt; một số cách sử dụng bị cấm vì rủi ro được coi là không thể chấp nhận. Hội đồng nêu ví dụ về chấm điểm xã hội trong nhóm bị cấm. Cách phân loại và điều kiện cụ thể nằm trong văn bản luật, không thể xác định chỉ bằng tên sản phẩm. 2

Hãy lấy tuyển dụng làm ví dụ. Đây là tình huống minh họa, không phải câu chuyện của một người thật: nếu một công ty dùng phần mềm để sàng lọc ứng viên, sai sót trong dữ liệu hoặc cách đánh giá có thể ảnh hưởng đến cơ hội của người xin việc. Quy định nghiêm hơn hướng sự chú ý tới cách hệ thống được xây dựng và sử dụng, thay vì chỉ hỏi nó có hoạt động nhanh hay không. TechCrunch đưa tin tuyển dụng nằm trong những lĩnh vực liên quan đến các ứng dụng có thể thuộc nhóm rủi ro cao; việc phân loại một hệ thống cụ thể còn phụ thuộc vào mục đích và các điều kiện pháp lý. 3

Luật cũng đề cập đến mô hình AI đa dụng: những mô hình có thể làm nền cho nhiều ứng dụng khác nhau. Hội đồng cho biết một số yêu cầu áp dụng đối với các mô hình này, trong khi các mô hình có rủi ro mang tính hệ thống phải đáp ứng yêu cầu chặt hơn. Điều này phản ánh một khó khăn: cùng một mô hình có thể được đưa vào nhiều sản phẩm, nhưng tác động đối với con người còn phụ thuộc vào cách sản phẩm được triển khai. 2

Thông qua chưa có nghĩa là mọi quy định áp dụng ngay

Mốc 21/5 là quyết định thông qua cuối cùng của Hội đồng, sau khi Nghị viện châu Âu đã chấp thuận vào tháng 3. Theo thông báo ngày 21/5, văn bản còn cần được ký và công bố trên Công báo EU; luật sẽ có hiệu lực sau đó 20 ngày. Hội đồng cho biết phần lớn quy định dự kiến áp dụng hai năm sau khi luật có hiệu lực, với những ngoại lệ cho một số điều khoản. Có hiệu lực và bắt đầu áp dụng từng nghĩa vụ là hai mốc khác nhau. 2 3

Điều đó cũng cho thấy thông qua một đạo luật chưa tự giải quyết mọi câu hỏi thực tế. Công ty cần biết hệ thống của mình thuộc diện nào; cơ quan quản lý cần hướng dẫn và giám sát; người chịu ảnh hưởng cần có khả năng hiểu và phản ánh khi một quyết định gây hại. TechCrunch lưu ý rằng các tiêu chuẩn kỹ thuật sẽ có vai trò trong việc làm rõ những yêu cầu đối với nhà phát triển. Đây là những phần việc tiếp theo, không phải bằng chứng rằng luật đã được thực thi hiệu quả ngay trong tháng 5. 3

Người Việt có thể quan tâm điều gì?

Với người Việt theo dõi AI, điểm đáng chú ý là các câu hỏi về chất lượng dữ liệu, trách nhiệm và giám sát không dừng ở một cuộc trò chuyện với chatbot. Chúng còn xuất hiện khi AI được đưa vào các quyết định ảnh hưởng đến cơ hội học tập, công việc hay tiếp cận dịch vụ. Đó là lý do việc xem xét mục đích sử dụng và người chịu tác động quan trọng hơn việc chỉ nhìn vào tên công nghệ.

Với một doanh nghiệp Việt Nam xây dựng hoặc cung cấp sản phẩm liên quan đến thị trường EU, đây là tín hiệu nên tìm hiểu phạm vi luật và vai trò của mình. Bài viết không kết luận rằng mọi doanh nghiệp Việt Nam hay mọi sản phẩm AI đều phải tuân theo cùng một nghĩa vụ: câu trả lời phụ thuộc vào sự kiện cụ thể, quy định áp dụng và thời điểm. Không có đánh giá pháp lý cho một doanh nghiệp cụ thể trong bài này.

Điều xảy ra sau tuần ấy

Ngày 1/8/2024, Ủy ban châu Âu thông báo Đạo luật AI bắt đầu có hiệu lực. Đây là thông tin xuất hiện sau tuần được nhìn lại; nó không có nghĩa mọi nghĩa vụ đã áp dụng vào ngày đó. 4

Nhìn lại tháng 5, bước đi của EU cho thấy một cách đặt vấn đề: quyền thử nghiệm công nghệ mới cần đi cùng việc xem xét hệ thống có thể tác động thế nào đến con người. Giá trị thực tế của cách tiếp cận ấy còn phụ thuộc vào những lựa chọn khi hướng dẫn và thực thi sau này.

Tài liệu tham khảo

1. VietnamPlus — Các nước thành viên Liên minh châu Âu thông qua lần cuối dự luật AI, 21/5/2024: tường thuật bằng tiếng Việt.
2. Hội đồng EU — Thông cáo về việc thông qua Đạo luật AI, 21/5/2024: nguồn chính thức về quyết định và các bước dự kiến.
3. TechCrunch — EU Council gives final nod to risk-based rulebook for AI, 21/5/2024: báo chí độc lập về bối cảnh và cách tiếp cận.
4. Ủy ban châu Âu — AI Act enters into force, 1/8/2024: nguồn chính thức hậu kỳ.