Khi một công ty AI lập ủy ban an toàn: Ai đặt câu hỏi trước khi sản phẩm đến tay người dùng?

Dòng Chảy AI · Hành Trình AI · 25–31/5/2024

Một trợ lý AI có thể giúp chúng ta viết một email hay tìm ý tưởng. Nhưng nếu công cụ đưa ra thông tin sai một cách thuyết phục, hoặc được sử dụng trong một tình huống nhạy cảm, người dùng cần biết ai đã xem xét những rủi ro đó trước khi sản phẩm xuất hiện.

Ngày 28/5/2024, OpenAI công bố thành lập Ủy ban An toàn và Bảo mật thuộc hội đồng quản trị. Tin này đến trong lúc công ty cho biết đã bắt đầu huấn luyện một mô hình AI mới. Hai ngày sau, VietnamPlus đưa tin về ủy ban và những nghi ngại quanh cam kết an toàn của công ty sau khi một số nhân sự chủ chốt rời đi. 1 2

Một ủy ban có thể giúp đưa những câu hỏi khó lên bàn lãnh đạo. Nhưng tên gọi của nó chưa cho người ngoài biết liệu các biện pháp an toàn có đủ hiệu quả hay không. Để hiểu ý nghĩa của quyết định này, cần nhìn vào nhiệm vụ mà OpenAI giao cho ủy ban và những tranh luận xuất hiện trước đó.

Những câu hỏi trước ngày công bố

Trước tuần được nhìn lại, Jan Leike và Ilya Sutskever, hai người từng cùng lãnh đạo nhóm nghiên cứu an toàn dài hạn của OpenAI, đã rời công ty. Axios đưa tin Leike cho rằng công ty cần dành thêm nguồn lực cho việc chuẩn bị đối với các thế hệ mô hình tiếp theo, bao gồm an toàn, bảo mật và tác động xã hội. Đó là đánh giá của một người trong cuộc, không phải một cuộc kiểm toán độc lập về toàn bộ hoạt động của OpenAI. 3

Lãnh đạo OpenAI cũng phản hồi sau những chỉ trích ấy. Theo Axios, Sam Altman thừa nhận công ty còn nhiều việc phải làm; đồng sáng lập Greg Brockman nói công ty sẵn sàng trì hoãn phát hành khi có lo ngại về an toàn. Những lời này cho thấy cách lãnh đạo mô tả cam kết của mình, nhưng tự chúng không chứng minh mức độ đầy đủ của các biện pháp. 3 4

Bối cảnh ấy giúp giải thích vì sao thông báo ngày 28/5 được theo dõi sát. Tuy nhiên, sự xuất hiện sau những chỉ trích không tự chứng minh rằng chúng là lý do duy nhất OpenAI lập ủy ban.

Ủy ban được giao làm gì?

Trong thông báo, OpenAI nói ủy ban sẽ đưa ra khuyến nghị cho toàn bộ hội đồng quản trị về các quyết định an toàn và bảo mật quan trọng của công ty. Nhiệm vụ đầu tiên là xem xét và phát triển thêm các quy trình, biện pháp bảo vệ trong 90 ngày, sau đó gửi khuyến nghị lên hội đồng. Công ty dự định cập nhật công khai về các khuyến nghị được chấp nhận theo cách phù hợp với yêu cầu an toàn và bảo mật. 2

Theo thông báo ban đầu, ủy ban do các thành viên hội đồng quản trị Bret Taylor, Adam D’Angelo, Nicole Seligman và CEO Sam Altman dẫn dắt; các chuyên gia kỹ thuật và chính sách của OpenAI cũng tham gia. Công ty nói sẽ tham vấn thêm một số chuyên gia bên ngoài. Trang thông báo hiện có cập nhật ngày 18/6; thông tin về người tham gia sau ngày đó không nên được kể như đã có trong tuần tháng 5. 2

Ở đây có một khác biệt quan trọng: đưa ra khuyến nghị không giống với việc tự động chứng minh rủi ro đã được loại bỏ. Người đọc có thể theo dõi ủy ban có quyền tiếp cận thông tin nào, hội đồng quyết định ra sao và công ty công bố được bao nhiêu về kết quả. Một phần thông tin bảo mật có thể không được công khai; điều đó cũng khiến người ngoài khó đánh giá đầy đủ hiệu quả thực tế.

Vì sao câu chuyện này liên quan đến người dùng Việt Nam?

Nhiều người tiếp cận AI qua những sản phẩm do doanh nghiệp xây dựng. Khi dùng một công cụ để hỗ trợ công việc hoặc học tập, họ thường không nhìn thấy toàn bộ dữ liệu, quy trình thử nghiệm hay các quyết định nội bộ phía sau nó. Câu chuyện về ủy ban giúp chúng ta nhìn thêm một lớp: ai có trách nhiệm đặt câu hỏi khi tính năng mới đem lại cả lợi ích lẫn rủi ro?

Ví dụ minh họa: nếu một người dùng AI để soạn thư có thông tin quan trọng, bản nháp nhanh hơn vẫn cần được người dùng kiểm tra trước khi gửi. Một cơ chế an toàn của nhà cung cấp có thể là một phần trong việc giảm rủi ro; nó không biến mọi câu trả lời thành thông tin đã được kiểm chứng. Bài này không khẳng định đã đo được tác động của ủy ban đối với người dùng Việt Nam.

Điều được công bố sau tuần ấy

Ngày 16/9/2024, OpenAI nói ủy ban đã hoàn thành đợt đánh giá 90 ngày và công ty đang áp dụng các khuyến nghị sau khi hội đồng xem xét. Công ty cũng công bố ủy ban sẽ trở thành một ủy ban giám sát độc lập của hội đồng quản trị. Đây là thông tin hậu kỳ do chính OpenAI công bố; nó không phải kết quả kiểm toán độc lập về hiệu quả thực tế. 5

Nhìn lại tuần cuối tháng 5, điều đáng nhớ không chỉ là việc một ủy ban ra đời. Đó còn là câu hỏi về cách những người xây dựng AI cân nhắc lợi ích, rủi ro và trách nhiệm khi công nghệ ngày càng đi vào cuộc sống. Một cấu trúc giám sát là bước cần được xem xét qua quyền hạn và kết quả của nó — không chỉ qua lời hứa lúc ra mắt.

Tài liệu tham khảo

1. VietnamPlus — Công ty OpenAI bắt đầu đào tạo một mô hình trí tuệ nhân tạo mới, 30/5/2024: tường thuật bằng tiếng Việt.
2. OpenAI — Board forms Safety and Security Committee, 28/5/2024, cập nhật 18/6: thông báo của công ty.
3. Axios — OpenAI’s recent departures force leaders to reaffirm safety commitment, 20/5/2024: bối cảnh trước tuần được nhìn lại.
4. Axios — OpenAI shuts down long-term safety team, 17/5/2024, có cập nhật: tường thuật và phản hồi của lãnh đạo.
5. OpenAI — An update on our safety & security practices, 16/9/2024: cập nhật hậu kỳ từ công ty.