Ai có quyền kiểm soát một công ty AI? Bài học từ cú sốc tại OpenAI

Dòng Chảy AI · Hành Trình AI · Tuần 11–17/11/2023

Một người mở ChatGPT để chuẩn bị bài giảng. Một nhóm nhỏ xây ứng dụng dựa trên mô hình của OpenAI. Cả hai có thể không nghĩ nhiều đến hội đồng quản trị của công ty đứng phía sau công cụ. Nhưng điều gì xảy ra khi những người có quyền giám sát và người điều hành công ty không còn tin nhau?

Ngày 17/11/2023 theo giờ Mỹ, câu hỏi ấy bất ngờ trở nên cụ thể. Hội đồng quản trị OpenAI thông báo Sam Altman rời vị trí tổng giám đốc và hội đồng; giám đốc công nghệ Mira Murati được bổ nhiệm làm CEO lâm thời. Reuters đưa tin về quyết định này trong ngày. Ở Việt Nam, VnExpress tường thuật hậu trường vào 18/11 theo giờ Việt Nam. 1 2 3

Đây không chỉ là câu chuyện một giám đốc mất việc. Nó mở ra cách nhìn về quyền lực, trách nhiệm và sự phụ thuộc của người dùng vào những tổ chức phát triển AI.

Một quyết định và nhiều câu hỏi chưa có lời đáp

Thông báo của OpenAI cho biết hội đồng kết luận Altman không nhất quán trong việc trao đổi thẳng thắn với hội đồng, khiến việc giám sát gặp khó khăn. Đó là lý do hội đồng công bố, không phải một bản giải thích chi tiết mọi sự kiện hay kết luận mà độc giả có thể tự kiểm chứng đầy đủ. Reuters ghi nhận công ty không giải thích thêm trong thông báo. 1 2

Theo thông báo ban đầu, Greg Brockman rời chức chủ tịch hội đồng nhưng vẫn giữ vai trò tại công ty. Sau đó, Reuters đưa tin ông tuyên bố nghỉ việc. VnExpress dẫn lời Brockman kể rằng ông và Altman bất ngờ trước quyết định. Đây là lời kể của người trong cuộc được báo thuật lại; không phải hồ sơ đầy đủ của mọi phía. 1 2 3

Trong lúc thông tin còn ít, rất dễ biến khoảng trống thành một câu chuyện đơn giản: một bên chỉ quan tâm đến an toàn, bên kia chỉ muốn kiếm tiền. Các câu hỏi về an toàn và thương mại hóa là có thật trong ngành AI. Nhưng thông báo ngày 17/11 không chứng minh rằng một cuộc tranh cãi duy nhất về an toàn đã gây ra quyết định này. Chúng ta không nên nhầm một giả thuyết hấp dẫn với điều đã được xác lập.

Tại sao hội đồng có quyền làm như vậy?

Theo chính OpenAI, tổ chức được thành lập dưới dạng phi lợi nhuận năm 2015 và tái cấu trúc năm 2019 để có thể huy động vốn mà vẫn giữ vai trò giám sát của tổ chức phi lợi nhuận. Tại thời điểm thông báo, hội đồng của tổ chức đó giữ vai trò quản trị tổng thể đối với hoạt động OpenAI. 1

Nói dễ hiểu, một công ty cần tiền, nhân tài và sản phẩm để phát triển; đồng thời, OpenAI tuyên bố theo đuổi sứ mệnh đưa lợi ích của trí tuệ nhân tạo tổng quát đến toàn nhân loại. Hội đồng có trách nhiệm giám sát tổ chức theo sứ mệnh ấy. Nhưng có quyền can thiệp trên giấy không tự động bảo đảm rằng quyết định được giải thích rõ, được thực hiện tốt, hay được những người chịu ảnh hưởng tin tưởng.

Reuters cho biết nhiều nhân viên bất ngờ trước thay đổi. Với họ, câu hỏi không chỉ là ai làm CEO, mà còn là họ sẽ làm việc dưới sự lãnh đạo nào. Với đối tác và người xây sản phẩm, một câu hỏi khác xuất hiện: tổ chức cung cấp công nghệ quan trọng sẽ duy trì sự ổn định ra sao? Đó là những câu hỏi hợp lý từ hoàn cảnh, không phải bằng chứng rằng dịch vụ đã ngừng hoạt động. 2

Điều gì rõ hơn sau tuần đó?

Ngày 29/11/2023 — sau kỳ nhìn lại, OpenAI công bố Altman trở lại làm CEO và một hội đồng ban đầu mới gồm Bret Taylor, Larry Summers và Adam D’Angelo. Kết quả này cho thấy quyết định ngày 17/11 không khép lại cuộc khủng hoảng ngay lập tức. 4

Ngày 8/3/2024, OpenAI công bố tóm tắt một cuộc rà soát do ủy ban đặc biệt của hội đồng thuê hãng luật WilmerHale thực hiện. Theo bản tóm tắt của OpenAI, cuộc rà soát xác định sự đổ vỡ lòng tin giữa hội đồng trước đó và Altman đã dẫn đến các sự kiện ngày 17/11; hội đồng mới bày tỏ tin tưởng vào sự lãnh đạo của Altman và Brockman. OpenAI cũng công bố các thay đổi quản trị, trong đó có chính sách xung đột lợi ích được tăng cường và đường dây báo cáo ẩn danh. 5

Điều đó bổ sung bối cảnh, nhưng có giới hạn: đây là bản tóm tắt do OpenAI công bố về cuộc rà soát được hội đồng thuê, không phải toàn bộ tài liệu điều tra công khai để mọi người tự đối chiếu. Nó không cho phép chúng ta khẳng định đã biết tất cả động cơ hoặc đánh giá mọi quyết định của các bên.

Một câu hỏi dành cho người dùng

Người Việt dùng AI để học tập hay kinh doanh không cần thuộc sơ đồ tổ chức của từng công ty. Nhưng khi một công cụ trở nên quan trọng với công việc, ta có thể hỏi: Ai quyết định khi có bất đồng? Người dùng biết được gì về quyết định đó? Và nếu dịch vụ thay đổi, mình có giữ được dữ liệu và một cách làm việc thay thế hay không?

Một giáo viên lưu bản sao tài liệu giảng dạy ở nơi mình kiểm soát, hoặc một nhóm nhỏ chuẩn bị phương án thay thế, là những ví dụ giả định về việc giảm phụ thuộc — không phải bằng chứng rằng sự kiện tháng 11 đã gây gián đoạn tại Việt Nam.

Bài học của tuần ấy không nằm ở việc chọn một nhân vật để tin tưởng tuyệt đối. Nó nằm ở câu hỏi khó hơn: khi một công nghệ có ảnh hưởng rộng, quyền lực được kiểm tra như thế nào và những người chịu tác động có thể biết được đến đâu?

Tài liệu tham khảo

1. OpenAI — OpenAI announces leadership transition, 17/11/2023; thông báo và lập trường của hội đồng.
2. Reuters qua Investing.com — ChatGPT maker OpenAI ousts CEO Sam Altman, 17/11/2023; tường thuật độc lập, có thể được cập nhật.
3. VnExpress — Hậu trường vụ sa thải CEO OpenAI, 18/11/2023 giờ Việt Nam; sau kỳ nhìn lại theo lịch địa phương.
4. OpenAI — Sam Altman returns as CEO, OpenAI has a new initial board, 29/11/2023; diễn biến sau kỳ.
5. OpenAI — Review completed & Altman, Brockman to continue to lead OpenAI, 08/03/2024; tóm tắt cuộc rà soát và thông báo của hội đồng.
6. YouTube — Our approach to responsible AI innovation, 14/11/2023; nguồn gốc cho hướng thay thế trong hồ sơ nghiên cứu.
7. Ars Technica — YouTube will require creators to disclose realistic AI-generated or altered content, 15/11/2023; báo chí độc lập cho hướng thay thế.