Phía sau câu trả lời an toàn hơn là những người phải đọc điều độc hại

Dòng Chảy AI · Hành Trình AI

Nhìn lại tuần từ ngày 14 đến ngày 20 tháng 1 năm 2023. Những diễn biến ngoài tuần này được ghi rõ thời điểm.

Một người mở ChatGPT và đặt câu hỏi. Vài giây sau, một câu trả lời xuất hiện trên màn hình. Người ấy có thể tò mò về một ý tưởng, nhờ giải thích một vấn đề, hoặc chỉ muốn trò chuyện.

Nhưng để cuộc trò chuyện có thể bớt độc hại hơn, một số người khác từng phải làm công việc rất khác: đọc và phân loại những đoạn văn có nội dung bạo lực, thù ghét hoặc lạm dụng.

Ngày 18 tháng 1 năm 2023, tạp chí TIME công bố cuộc điều tra về những người lao động tại Kenya làm việc cho Sama, một công ty cung cấp dịch vụ dữ liệu có hợp đồng với OpenAI. Họ không phải nhân viên trực tiếp của OpenAI. Theo TIME, công việc được giao bắt đầu từ cuối năm 2021; mối quan hệ hợp đồng kết thúc trong năm 2022, trước tuần chúng ta đang nhìn lại. 1

Câu chuyện đặt ra một câu hỏi khó: khi chúng ta muốn AI an toàn hơn cho người sử dụng, ai đang giúp tạo ra sự an toàn ấy — và ai chịu trách nhiệm bảo vệ họ?

Dạy một công cụ nhận ra điều độc hại

Một mô hình ngôn ngữ được huấn luyện trên lượng lớn văn bản. Trong đó có thể có những nội dung không phù hợp hoặc gây hại. Muốn giảm khả năng những nội dung ấy xuất hiện trong câu trả lời, các nhà phát triển cần những cách nhận diện chúng.

Theo TIME, OpenAI đã giao cho Sama các đoạn văn để nhân viên đọc và gắn nhãn theo loại nội dung. Những ví dụ đã được phân loại có thể được dùng để xây dựng công cụ nhận diện nội dung độc hại. Có thể hình dung việc gắn nhãn như đánh dấu các ví dụ để một hệ thống học cách nhận ra những trường hợp tương tự — dù trên thực tế, có những đoạn văn khó phân loại và cần được giải thích thêm. 1

OpenAI xác nhận với TIME rằng nhân viên Sama tại Kenya đã đóng góp vào một công cụ phát hiện nội dung độc hại, sau đó được tích hợp vào ChatGPT. Công ty cũng cho biết công việc này góp phần vào nỗ lực loại bỏ dữ liệu độc hại khỏi dữ liệu huấn luyện. 1

Điều đó không có nghĩa những người gắn nhãn đã một mình xây dựng ChatGPT. Nó cũng không có nghĩa công cụ phát hiện có thể ngăn mọi câu trả lời gây hại. Đóng góp của họ là một phần trong một hệ thống lớn hơn — nhưng là phần dễ bị bỏ qua khi chúng ta chỉ nhìn thấy ô trò chuyện.

Công việc ấy để lại điều gì?

TIME cho biết đã xem hàng trăm trang tài liệu nội bộ, trong đó có phiếu lương, và phỏng vấn bốn nhân viên Sama từng làm dự án. Cả bốn đều yêu cầu giấu tên vì lo ngại cho sinh kế. Theo báo cáo, họ phải tiếp xúc với những đoạn văn mô tả bạo lực và lạm dụng nghiêm trọng. 1

Một người nói với TIME rằng những hình ảnh từ nội dung đã đọc cứ trở lại trong tâm trí. Cả bốn người được phỏng vấn đều mô tả ảnh hưởng tinh thần từ công việc; họ nói các buổi hỗ trợ tâm lý không hữu ích hoặc khó tiếp cận vì áp lực công việc. Đây là lời kể của bốn người, không phải phép đo cho toàn bộ nhân viên Sama hay tất cả người làm dữ liệu AI. 1

Sama đưa ra cách nhìn khác về sự hỗ trợ. Công ty nói với TIME rằng nhân viên có quyền sử dụng cả tư vấn cá nhân lẫn theo nhóm với chuyên gia được đào tạo, và họ có thể tiếp cận hỗ trợ bất cứ lúc nào. Lời kể của người lao động và phản hồi của công ty đặt cạnh nhau cho thấy một khoảng cách cần được tìm hiểu: có chương trình hỗ trợ trên giấy tờ và người cần giúp đỡ có thể sử dụng nó hiệu quả là hai câu hỏi khác nhau. Chúng ta chưa có đủ bằng chứng độc lập để kết luận đầy đủ về từng trường hợp. 1

Tiền lương, chỉ tiêu và trách nhiệm

TIME ước tính những nhân viên gắn nhãn trong dự án nhận về khoảng 1,32–2 USD mỗi giờ sau thuế, tùy vị trí, thâm niên và hiệu suất. Ba nhân viên nói với tạp chí rằng họ được kỳ vọng xử lý khoảng 150–250 đoạn văn trong một ca chín giờ. 1

Sama không đồng ý với toàn bộ mô tả đó. Công ty nói chỉ tiêu là 70 đoạn mỗi ca chín giờ và nhân viên có thể nhận 1,46–3,74 USD mỗi giờ sau thuế. Hai phía đang mô tả những con số khác nhau; từ các nguồn hiện có, mình không thể tự xác định một con số duy nhất đại diện cho mọi người trong dự án. 1

Theo tài liệu TIME xem, hợp đồng quy định OpenAI trả Sama 12,50 USD cho mỗi giờ làm việc. Nhưng không thể lấy khoản đó trừ trực tiếp lương của một người rồi gọi toàn bộ phần chênh lệch là lợi nhuận: Sama nói mức phí bao gồm hạ tầng, tiền lương, phúc lợi và những vai trò hỗ trợ như kiểm tra chất lượng và quản lý nhóm. 1

OpenAI nói họ không đặt chỉ tiêu năng suất; Sama chịu trách nhiệm quản lý tiền lương và hỗ trợ sức khỏe tinh thần của nhân viên. OpenAI cũng nói họ từng hiểu rằng người lao động được tư vấn riêng, có giới hạn tiếp xúc với nội dung nhạy cảm và có thể từ chối công việc mà không bị phạt. Đó là những gì công ty cho biết họ đã hiểu, không phải bằng chứng độc lập rằng mọi biện pháp luôn vận hành như vậy. 1

Việc phân chia nhiệm vụ trong hợp đồng giúp ta hiểu ai trực tiếp quản lý công việc. Nhưng nó cũng dẫn đến câu hỏi rộng hơn: khi một công ty đặt hàng công việc có thể gây tổn hại, họ nên kiểm tra điều kiện thực tế của những người thực hiện đến đâu? Đó là câu hỏi về trách nhiệm, không phải kết luận pháp lý của bài viết.

Khi công việc kết thúc, câu chuyện chưa kết thúc

Theo TIME, Sama chấm dứt công việc cho OpenAI sớm hơn dự kiến. Một số người lao động nói phần lớn nhóm được chuyển sang công việc khác với thu nhập thấp hơn vì không còn khoản phụ cấp cho nội dung nhạy cảm; những người khác mất việc. TIME cũng ghi nhận những lời giải thích khác nhau liên quan đến việc chấm dứt hợp đồng. 1

Chi tiết này cho thấy vấn đề không đơn giản là yêu cầu mọi người ngừng làm việc. Một người có thể lo lắng về ảnh hưởng tinh thần và đồng thời cần thu nhập để chăm sóc gia đình. Bảo vệ sức khỏe và bảo vệ sinh kế đều cần được tính đến khi một công việc thay đổi hoặc kết thúc.

Nhìn lại từ sau tuần ấy, vào tháng 7 năm 2023, TechCrunch đưa tin một nhóm người lao động Kenya đã gửi kiến nghị tới các nhà lập pháp, kêu gọi điều tra điều kiện làm việc trong hoạt động gia công liên quan đến AI. OpenAI khi đó thừa nhận đây là công việc khó khăn và nói đã chia sẻ các tiêu chuẩn đạo đức, phúc lợi; Sama nói họ sẵn sàng hợp tác về các mức bảo vệ cơ bản. Đây là những phản hồi được đưa ra sau đó, không phải điều người đọc đã biết trong tuần tháng 1. 2

Đến tháng 8 năm 2023, The Guardian phỏng vấn những người từng làm dự án, trong đó có Mophat Okinyi và Richard Mathenge. Họ kể về ảnh hưởng tinh thần và những khó khăn sau khi công việc kết thúc; Sama tiếp tục nói nhân viên có thể tiếp cận chuyên gia sức khỏe tinh thần. Những lời kể sau này giúp ta nghe thêm tiếng nói của người lao động, nhưng không tự chứng minh tình trạng của từng người vào hôm nay hay kết quả cuối cùng của kiến nghị. 3

Từ Kenya đến câu hỏi của người dùng Việt Nam

Ngày 29 tháng 1 năm 2023, sau tuần chúng ta đang nhìn lại, VnExpress cũng viết về những người làm công việc dữ liệu phía sau ChatGPT, dựa trên cuộc điều tra của TIME. Bài báo cho thấy câu chuyện đã đến với độc giả Việt Nam; nó không chứng minh người lao động Việt Nam trải qua cùng điều kiện. 4

Khi một người ở Việt Nam dùng AI để học ngoại ngữ, viết email hay tìm hiểu một chủ đề mới, họ thường chỉ thấy giao diện và câu trả lời. Họ không nhất thiết thấy những người thu thập, phân loại và kiểm tra dữ liệu, hay những người thiết kế quy tắc an toàn. Đây là ví dụ về trải nghiệm có thể xảy ra, không phải một cuộc phỏng vấn người dùng.

Trong phần trước, chúng ta đã hỏi một cuộc trò chuyện miễn phí có thể được duy trì bằng mô hình kinh doanh nào. Tuần này, có thêm một câu hỏi phía sau cuộc trò chuyện ấy: những người góp phần làm cho công nghệ hữu ích và an toàn hơn có được bảo vệ, lắng nghe và đối xử công bằng hay không?

Chúng ta chưa có câu trả lời đầy đủ cho mọi nơi làm việc. Nhưng câu chuyện ở Kenya nhắc mình rằng, khi nói về tương lai do AI tạo ra, những con người đang giúp xây dựng nó cũng cần có một vị trí trong cuộc trò chuyện.

Tài liệu tham khảo

1. TIME — OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic, 18/01/2023. Điều tra gốc; mô tả công việc diễn ra trước tuần được nhìn lại.
2. TechCrunch — Workers that made ChatGPT less harmful ask lawmakers to stem alleged exploitation by Big Tech, 14/07/2023. Diễn biến sau đó và phản hồi các bên.
3. The Guardian — Kenyan moderators decry toll of training of AI models, 02/08/2023. Phỏng vấn sau đó và phản hồi của Sama.
4. VnExpress — Đằng sau ánh hào quang của ChatGPT, 29/01/2023. Bài tiếng Việt xuất hiện sau tuần nhìn lại.