Khi AI mạnh hơn, ai có quyền nói “dừng lại”?

Dòng Chảy AI · Hành Trình AI · Tuần 16–22/12/2023

Một nhóm đang chuẩn bị giới thiệu công nghệ mới. Nhóm phát triển nhìn thấy những việc sản phẩm có thể giúp con người làm nhanh hơn. Nhóm kiểm tra đặt một câu hỏi khác: nếu công cụ bị dùng sai, liệu hậu quả có vượt khỏi khả năng kiểm soát?

Đây là một tình huống minh họa, không phải cuộc họp mà Dòng Chảy AI chứng kiến. Nhưng nó đưa chúng ta đến câu hỏi xuất hiện trong tuần cuối năm 2023: khi một công ty vừa tạo ra AI, vừa muốn đưa nó đến người dùng, ai sẽ quyết định thời điểm an toàn để tiến tiếp?

Một tấm bản đồ cho những rủi ro chưa chắc đã nhìn thấy

Ngày 18/12/2023, OpenAI công bố bản beta của Preparedness Framework — có thể hiểu là khuôn khổ chuẩn bị để theo dõi và xử lý những rủi ro nghiêm trọng mà các mô hình AI ngày càng mạnh có thể tạo ra. Ngày 19/12, Báo Tin tức và VietnamNet đưa tin cho độc giả Việt Nam; ngày 21/12, Vietnam+ cũng tường thuật sự kiện. 1 2 3 4

Đây không phải thông báo rằng một thảm họa đã xảy ra, hay rằng các khả năng đáng lo ngại đã xuất hiện đầy đủ. OpenAI đang nói về cách họ dự định đánh giá những nguy cơ có thể đến cùng các mô hình tương lai. Chính tài liệu thừa nhận việc nghiên cứu loại rủi ro này còn non trẻ và các ngưỡng đánh giá khi ấy vẫn mang tính ước đoán. 4

Trong bản beta, công ty nêu bốn nhóm theo dõi: an ninh mạng; các mối đe dọa hóa học, sinh học, hạt nhân và phóng xạ; khả năng thuyết phục; và mức độ tự chủ của mô hình. Mỗi nhóm được xem xét theo bốn mức: thấp, trung bình, cao và nghiêm trọng. Chúng là nhóm rủi ro, không phải bốn bước mà mọi mô hình chắc chắn sẽ lần lượt trải qua. 4

Khi nào một mô hình được phép đi tiếp?

Hãy hình dung một bảng kiểm tra trước khi mở một cây cầu. Không ai muốn chỉ hỏi cây cầu có đẹp hay không; người ta còn muốn biết nó chịu được tải nào và ai có quyền ngăn xe đi qua nếu kết quả đáng lo. Với AI, phép so sánh có giới hạn: cách đo rủi ro của một mô hình mới vẫn chưa ổn định như các phép thử kỹ thuật đã được thiết lập lâu năm.

Theo cam kết trong bản beta, một mô hình chỉ được triển khai nếu điểm rủi ro sau các biện pháp giảm thiểu ở mức trung bình hoặc thấp hơn. Với việc tiếp tục phát triển, ngưỡng được nêu là cao hoặc thấp hơn sau giảm thiểu. Điều đó không có nghĩa mô hình bị đánh giá rủi ro cao ban đầu sẽ tự động được đưa ra công chúng: công ty nói cần có biện pháp đưa mức rủi ro sau giảm thiểu về ngưỡng cho phép trước khi triển khai. Đây là quy tắc công ty công bố cho những nhóm rủi ro được theo dõi, không phải chứng nhận an toàn tuyệt đối. 4

Ví dụ giả định: nếu một thử nghiệm cho thấy một mô hình có khả năng hỗ trợ tấn công mạng đáng lo, câu hỏi tiếp theo không chỉ là “mô hình làm được gì?” mà còn là “biện pháp bảo vệ có giảm rủi ro đủ nhiều không?”. Đánh giá đó khó vì người kiểm tra không thể biết trước mọi cách một công cụ sẽ được sử dụng.

Ai nắm quyền quyết định?

Trong cơ chế OpenAI mô tả, nhóm Preparedness thực hiện nghiên cứu, đánh giá và theo dõi; một nhóm cố vấn an toàn xem xét bằng chứng và đưa khuyến nghị. Ban lãnh đạo đưa ra quyết định, còn hội đồng quản trị có thể đảo ngược quyết định của lãnh đạo. Reuters cũng đưa tin về quyền này trong tuần công bố. 4 5

Sự phân chia ấy tạo ra một đường đi cho ý kiến an toàn đến cấp quyết định. Nhưng nó cũng để lại câu hỏi: khi các nhóm đánh giá và lãnh đạo đều nằm trong cùng một công ty, người bên ngoài có thể biết đến đâu về chất lượng phép thử, những bất đồng và việc thực hiện cam kết?

Đó là câu hỏi về trách nhiệm giải trình, không phải bằng chứng rằng OpenAI đã vi phạm quy trình của mình. Tài liệu công khai cho thấy thiết kế được công bố; nó không tự chứng minh mọi quyết định nội bộ đã diễn ra đúng như mô tả.

Bối cảnh khiến câu hỏi này đặc biệt đáng chú ý. Chỉ vài tuần trước, OpenAI trải qua biến động lãnh đạo khi Sam Altman bị sa thải rồi trở lại. Vietnam+ nhắc đến mốc đó trong bản tin ngày 21/12. Hai sự kiện gần nhau về thời gian, nhưng khoảng cách thời gian không đủ để kết luận biến động ấy là nguyên nhân duy nhất dẫn đến khuôn khổ: OpenAI đã thông báo đang xây dựng nhóm Preparedness từ tháng 10. 3 4 8

Câu chuyện này liên quan gì đến người Việt?

Cuối năm 2023, VnExpress International mô tả sự quan tâm đến AI tạo sinh tại Việt Nam và những cách công cụ này được dùng trong học tập, công việc và sáng tạo. Bài báo là một bức ảnh về xu hướng được ghi nhận, không phải khảo sát đại diện cho mọi người Việt. 6

Với một giáo viên đang thử công cụ soạn bài, hay một nhóm nhỏ tích hợp AI vào dịch vụ khách hàng, rủi ro họ gặp trước mắt có thể là câu trả lời sai, dữ liệu riêng tư hoặc quyết định thiếu công bằng. Khuôn khổ tháng 12 tập trung vào một nhóm nguy cơ nghiêm trọng khác; nó không giải quyết trọn vẹn những vấn đề thường ngày ấy. Những ví dụ trên là tình huống giả định, không phải trường hợp đã được phỏng vấn.

Một câu hỏi hữu ích khi chọn công cụ là: nhà cung cấp công bố đã thử nghiệm điều gì, ai xem xét kết quả, và người dùng có thể làm gì khi phát hiện vấn đề? Không có câu trả lời nào tự biến một sản phẩm thành hoàn toàn an toàn, nhưng câu hỏi giúp việc tin tưởng trở nên cụ thể hơn.

Nhìn lại sau kỳ

Bằng chứng sau kỳ — 15/4/2025: OpenAI công bố cập nhật khuôn khổ, chuyển sang mô tả hai ngưỡng năng lực High và Critical cùng các yêu cầu bảo vệ tương ứng; công ty cũng nói có thể điều chỉnh yêu cầu trong những điều kiện nhất định nếu đối thủ phát hành hệ thống rủi ro cao mà không có biện pháp tương đương. Điều này cho thấy chính sách tiếp tục thay đổi, không chứng minh các cam kết năm 2023 đã được thực thi hoàn hảo hay mọi bất đồng về an toàn đã được giải quyết. 7

Bản khung tháng 12/2023 là một nỗ lực biến câu hỏi trừu tượng về AI an toàn thành quy trình có người chịu trách nhiệm. Câu hỏi còn lại vẫn rất con người: khi lợi ích của việc tiến nhanh va chạm với sự không chắc chắn, ai được lắng nghe — và ai có đủ quyền để nói dừng?

Tài liệu tham khảo

1. Báo Tin tức / TTXVN — OpenAI công bố hướng dẫn đánh giá rủi ro AI, 19/12/2023, báo chí Việt Nam.
2. VietnamNet — OpenAI vạch ra lộ trình an toàn mới, 19/12/2023, theo Reuters.
3. Vietnam+ / TTXVN — Công ty OpenAI công bố hướng dẫn đánh giá rủi ro AI, 21/12/2023.
4. OpenAI — Preparedness Framework (Beta), 18/12/2023, tài liệu gốc của công ty.
5. Reuters qua ThePrint — OpenAI outlines AI safety plan, 19/12/2023 giờ Ấn Độ.
6. VnExpress International — 2023: The year of generative AI, 20/12/2023 giờ Pacific, 21/12 giờ Việt Nam.
7. OpenAI — Our updated Preparedness Framework, 15/4/2025, bằng chứng sau kỳ và quan điểm công ty.
8. OpenAI — Frontier risk and preparedness, 26/10/2023; trang có các cập nhật sau đó, dùng cho thông báo lập nhóm ban đầu.