Khi AI đưa ra câu trả lời: Chúng ta nên tin đến đâu?

Dòng Chảy AI · Hành Trình AI

Nhìn lại tuần từ ngày 3 đến ngày 9 tháng 12 năm 2022

Một tuần sau khi ChatGPT xuất hiện, một số người quản lý cộng đồng lập trình Stack Overflow phải đối diện với một vấn đề mới: những câu trả lời được tạo ra rất nhanh, trông có vẻ hữu ích, nhưng có thể sai.

Ngày 5 tháng 12 năm 2022, họ công bố một quy định tạm thời ngăn việc đăng nội dung do ChatGPT tạo ra trên trang. 1

Quyết định ấy nối tiếp câu hỏi chúng ta đã gặp trong tuần ChatGPT ra đời: một câu trả lời nghe hợp lý có đáng tin không? Giờ đây, câu hỏi không còn chỉ dành cho người trò chuyện với chatbot. Nó trở thành việc một cộng đồng phải giải quyết khi nhiều người khác sẽ đọc và sử dụng những câu trả lời ấy.

Nhưng trong cùng tuần đó, AI còn xuất hiện ở những nơi khác: trên một tờ báo Việt Nam, trong phòng chụp X-quang tuyến vú ở Hà Nội và trong nghiên cứu về các cuộc thi lập trình. Mỗi nơi đặt ra một phiên bản khác của câu hỏi: khi AI làm được điều khiến chúng ta chú ý, làm sao biết nó đủ tốt cho công việc trước mắt?

Câu trả lời được tạo ra nhanh hơn khả năng kiểm tra

Stack Overflow là nơi mọi người đặt câu hỏi và chia sẻ câu trả lời về lập trình. Giá trị của một câu trả lời không chỉ nằm ở chỗ nó trông rõ ràng, mà còn ở việc người đọc có thể dùng nó để giải quyết vấn đề.

Theo các điều phối viên, nhiều nội dung được tạo bằng ChatGPT có vẻ đúng nhưng thực tế thường có lỗi; họ cũng lo ngại một số người đăng câu trả lời mà không có chuyên môn hoặc không kiểm tra trước. Đây là đánh giá của những người quản lý cộng đồng vào thời điểm đó, không phải một phép đo cho biết tỷ lệ sai của mọi câu trả lời ChatGPT. 1

Quy định khi ấy là tạm thời. Trang chính sách gốc vẫn còn, nhưng đã được chỉnh sửa sau năm 2022; vì vậy, khi kể về quyết định ban đầu, chúng ta cần phân biệt nó với nội dung hiện tại của trang. 2

Bạn không cần là lập trình viên để hình dung vấn đề. Giả sử một sinh viên nhờ AI giải thích một khái niệm rồi chia sẻ câu trả lời với bạn cùng lớp. Một lời giải dễ đọc có thể giúp mọi người bắt đầu học nhanh hơn. Nhưng nếu lời giải chứa một sai sót khó nhận ra, sự rõ ràng ấy chưa đủ để bảo đảm kiến thức được truyền đi là đúng. Đây là ví dụ minh họa, không phải một trường hợp đã được ghi nhận trong tuần đó.

Tại Việt Nam, sự háo hức và lo lắng cùng xuất hiện

Ngày 9 tháng 12, VnExpress đăng bài về sự phấn khích lẫn nỗi lo quanh ChatGPT. Bài báo dẫn lại những phản ứng và ví dụ từ người dùng quốc tế: có người nhìn thấy khả năng hỗ trợ lập trình; có người dự đoán chatbot sẽ làm thay đổi bài tập viết ở nhà. 3

Những dự đoán ấy giúp chúng ta nghe lại không khí của thời điểm đó. Nhưng một lời dự đoán mạnh mẽ chưa phải bằng chứng rằng tương lai sẽ diễn ra đúng như người nói hình dung. Và việc một tờ báo Việt Nam thuật lại các phản ứng quốc tế không tự cho biết bao nhiêu người Việt đã dùng ChatGPT trong tuần ấy.

Dù vậy, những câu hỏi vẫn gần gũi với độc giả Việt Nam: nếu một công cụ có thể giúp mình bắt đầu viết hoặc học một chủ đề mới, mình nên sử dụng nó ở bước nào? Khi câu trả lời sai, mình sẽ phát hiện bằng cách nào?

Trong khi các câu hỏi về chatbot bắt đầu lan rộng, tại Hà Nội, một ứng dụng AI khác đang bước vào môi trường có yêu cầu kiểm chứng rất khác.

Ở bệnh viện, kỳ vọng cần đi cùng bằng chứng

Ngày 8 tháng 12, Bệnh viện Bạch Mai và FUJIFILM Việt Nam chuyển giao vận hành một giải pháp chẩn đoán hình ảnh tuyến vú tại Trung tâm Điện quang. Theo bệnh viện, giải pháp gồm hệ thống lưu trữ hình ảnh, hệ thống quản lý quy trình, một thành phần AI và trạm làm việc chuyên dụng. Báo Nhân Dân đưa tin về việc này vào ngày hôm sau. 4 5

Bệnh viện mô tả thành phần AI có thể phân tích hình ảnh và đánh dấu những vùng đáng nghi ngờ. Bài giới thiệu kỳ vọng công nghệ sẽ hỗ trợ bác sĩ đọc nhanh hơn, chính xác hơn và giảm nguy cơ bỏ sót. Đó là kỳ vọng được nêu khi giới thiệu giải pháp; những nguồn này không cho chúng ta đủ dữ liệu để kết luận kết quả thực tế đối với bệnh nhân tại Bạch Mai. 4

Đây cũng không phải chatbot trong một chiếc áo khác. ChatGPT được thiết kế để tạo phản hồi trong cuộc trò chuyện; hệ thống được bệnh viện mô tả nhằm hỗ trợ phân tích hình ảnh y khoa. Sự khác biệt quan trọng không chỉ là đầu vào: một kết quả y tế còn cần được đánh giá trong bối cảnh chăm sóc thực tế, với vai trò và trách nhiệm của bác sĩ được xác định rõ.

Nhìn từ hôm nay, chúng ta biết các nhà nghiên cứu tiếp tục thử nghiệm những cách dùng AI trong chụp nhũ ảnh. Năm 2023, một nghiên cứu ngẫu nhiên tại Thụy Điển so sánh quy trình sàng lọc có AI hỗ trợ với quy trình đọc phim thông thường. Nghiên cứu ấy giúp đặt câu hỏi về cách đánh giá công nghệ, nhưng không kiểm chứng giải pháp cụ thể ở Bạch Mai hay kết quả của bệnh viện. 6

Câu chuyện tại Hà Nội vì thế vừa thú vị vừa còn bỏ ngỏ: công nghệ đã được chuyển giao, nhưng chúng ta chưa có trong bộ nguồn này đánh giá độc lập về tác động của nó tại bệnh viện.

Một cuộc thi lập trình có thể cho biết điều gì?

Trong tuần ấy, một nhóm nghiên cứu khác thử trả lời câu hỏi về năng lực AI bằng các bài toán lập trình. Ngày 8 tháng 12 năm 2022, nghiên cứu về AlphaCode của DeepMind được công bố trực tuyến trên tạp chí Science; ấn bản in ghi ngày 9 tháng 12. DeepMind đã giới thiệu AlphaCode từ tháng 2, nên tháng 12 là mốc công bố bài nghiên cứu, không phải lần đầu hệ thống xuất hiện. 7 8

Các nhà nghiên cứu báo cáo rằng trong những cuộc thi được chọn, kết quả ước tính của AlphaCode ở khoảng giữa bảng người tham gia. Để tìm lời giải, hệ thống tạo ra nhiều chương trình ứng viên rồi dùng các bước kiểm tra và lựa chọn để thu hẹp chúng. Nói cách khác, kết quả này phản ánh cả một quy trình giải và lọc, chứ không chứng minh AI luôn viết đúng ngay lần đầu. 8

Nhà nghiên cứu Yujia Li nói với GeekWire rằng vẫn còn nhiều việc phải làm. Một kỹ sư bên ngoài nhóm nghiên cứu cũng chỉ ra giới hạn đáng chú ý: điểm thi không cho biết mã nguồn có dễ hiểu hay dễ chỉnh sửa trong công việc thực tế hay không. 9

Ngày 6 tháng 12 năm 2023, Google DeepMind công bố báo cáo về AlphaCode 2. Nhóm nghiên cứu ước tính hệ thống mới đạt kết quả cao hơn 85% người tham gia trong thiết lập đánh giá các cuộc thi được chọn. Họ đồng thời ghi nhận hệ thống cần nhiều lần thử, dựa đáng kể vào việc lọc và còn tốn kém khi vận hành ở quy mô lớn. Đó là tiến bộ trong một loại bài kiểm tra cụ thể, không phải bằng chứng rằng nghề kỹ sư phần mềm đã biến mất. 10

Từ quyết định tạm thời đến những câu hỏi dài hơn

Câu chuyện của Stack Overflow cũng tiếp tục theo hướng không hoàn toàn đơn giản. Tháng 5 năm 2024, công ty thông báo hợp tác với OpenAI. Trong cuộc thảo luận về thỏa thuận, các thành viên đặt câu hỏi về ghi nhận nguồn đóng góp và niềm tin của cộng đồng. Việc hợp tác sau này không tự chứng minh mối lo về câu trả lời sai năm 2022 là vô căn cứ, cũng không có nghĩa quy định ban đầu tự động biến mất. 11

Nhìn lại tuần từ ngày 3 đến ngày 9 tháng 12 năm 2022, không có một phép thử duy nhất phù hợp với tất cả những hệ thống này. Một câu trả lời về lập trình, một bài thi giải thuật và một công cụ hỗ trợ đọc hình ảnh y khoa có mục đích và hậu quả khác nhau.

Điều nối chúng lại là một câu hỏi của con người. Khi công nghệ đưa ra một kết quả nhanh và thuyết phục, chúng ta sẽ kiểm tra điều gì trước khi đặt niềm tin vào nó? Và ai sẽ chịu trách nhiệm khi kết quả ấy ảnh hưởng đến người khác?

Những câu hỏi đó chưa có một đáp án cuối cùng. Nhưng học cách đặt chúng có thể giúp chúng ta bước tiếp trong hành trình AI với cả sự tò mò lẫn sự thận trọng.

Tài liệu tham khảo

1. IT Pro — Stack Overflow temporarily bans ChatGPT from platform, 5/12/2022.
2. Meta Stack Overflow — Policy: Generative AI is banned. Trang được chỉnh sửa sau thời điểm ban đầu; xem nguồn 1 để đối chiếu tường thuật đương thời.
3. VnExpress — Siêu AI khiến người dùng phấn khích lẫn lo sợ, 9/12/2022.
4. Bệnh viện Bạch Mai — Ứng dụng AI và giải pháp công nghệ trong chẩn đoán sớm ung thư vú, 9/12/2022.
5. Nhân Dân — Ứng dụng AI trong chẩn đoán sớm ung thư vú, 9/12/2022.
6. Lång và cộng sự — Phân tích an toàn thử nghiệm MASAI, 2023. Nghiên cứu tại Thụy Điển; không đánh giá hệ thống tại Bạch Mai.
7. PubMed — Competition-level code generation with AlphaCode, 2022.
8. Google DeepMind — Competitive programming with AlphaCode. Công bố ban đầu tháng 2/2022; trang ghi nhận cập nhật khi bài nghiên cứu được xuất bản tháng 12.
9. GeekWire — DeepMind’s AlphaCode matches average programmer’s prowess, 2022.
10. Google DeepMind — AlphaCode 2 Technical Report, 6/12/2023.
11. Meta Stack Exchange — Our Partnership with OpenAI, 2024.