Khi cánh cửa nghiên cứu AI được mở hé

Dòng Chảy AI · Hành Trình AI

Nhìn lại tuần từ ngày 18 đến ngày 24 tháng 2 năm 2023. Những diễn biến ngoài tuần được ghi rõ thời điểm.

Nếu một hệ thống AI có thể trả lời câu hỏi của hàng triệu người, ai sẽ được phép tìm hiểu điều gì đang diễn ra bên trong nó?

Đầu năm 2023, câu hỏi ấy không chỉ dành cho những người tò mò về công nghệ. Nó còn dành cho các nhà nghiên cứu muốn biết một mô hình mắc lỗi ra sao, có thể tạo ra định kiến như thế nào và liệu họ có thể tìm cách cải thiện nó hay không.

Nhưng để nghiên cứu một mô hình ngôn ngữ lớn, họ cần nhiều hơn một ô trò chuyện trên màn hình. Họ cần quyền tiếp cận mô hình, tài nguyên tính toán và cơ hội thử nghiệm. Những điều đó không phải lúc nào cũng nằm trong tay một nhóm nghiên cứu nhỏ.

Ngày 24 tháng 2 năm 2023, Meta đưa ra một lời mời có điều kiện: công ty giới thiệu LLaMA, một họ mô hình ngôn ngữ nền tảng dành cho nghiên cứu. Meta cho biết họ sẽ xét từng đơn xin tiếp cận từ các nhà nghiên cứu đủ điều kiện và phát hành mô hình theo giấy phép phi thương mại. 1

Cánh cửa đã mở hé. Nhưng mở đến đâu mới đủ? Và nếu mở rộng hơn, ai sẽ chịu trách nhiệm trước những rủi ro có thể xuất hiện?

Từ ô trò chuyện đến mô hình phía sau

Trong chương trước của Hành Trình AI, chúng ta đã gặp những người thử trò chuyện với công cụ tìm kiếm. Họ nhìn thấy câu trả lời hiện ra từng dòng, đôi khi hữu ích, đôi khi khiến họ ngạc nhiên hoặc bối rối.

Với một nhà nghiên cứu, cuộc trò chuyện ấy có thể dẫn đến những câu hỏi khác: Hệ thống phản ứng thế nào trước những cách đặt câu hỏi khác nhau? Nó sai ở đâu? Có nhóm người nào thường bị thể hiện bằng những khuôn mẫu bất công hay không?

Một mô hình ngôn ngữ là hệ thống được huấn luyện trên lượng lớn dữ liệu để nhận biết các mối liên hệ trong ngôn ngữ và tạo ra văn bản. Mô hình nền tảng có thể được tiếp tục điều chỉnh cho những nhiệm vụ khác nhau. Một ứng dụng trò chuyện là cách người dùng tương tác với công nghệ ấy; mô hình nằm ở phía sau chỉ là một phần của hệ thống.

Một phần quan trọng của mô hình là trọng số: những giá trị số được hình thành trong quá trình huấn luyện, góp phần quyết định cách mô hình tạo ra kết quả. Có thể hình dung chúng như những nút điều chỉnh đã được thiết lập sau quá trình học. Cách ví này giúp ta hình dung, dù không mô tả đầy đủ cách AI hoạt động.

Khi có quyền tiếp cận mô hình và trọng số theo điều kiện cho phép, nhà nghiên cứu có thể thử nghiệm sâu hơn so với chỉ gửi câu hỏi qua giao diện. Nhưng có quyền tiếp cận cũng chưa đồng nghĩa với việc đã có đủ máy tính, dữ liệu hay nhân lực để thực hiện mọi ý tưởng.

Lời hứa về nhiều người nghiên cứu hơn

Meta công bố nhiều kích thước LLaMA, từ 7 tỷ đến 65 tỷ tham số. Tham số là các giá trị mà mô hình học được trong quá trình huấn luyện; con số này cho thấy một khía cạnh về quy mô, nhưng không thể tự nó quyết định mô hình nào tốt hơn trong mọi tình huống. 1

Meta lập luận rằng các mô hình nhỏ hơn nhưng có năng lực tốt có thể giúp cộng đồng nghiên cứu thử nghiệm mà không luôn cần đến hạ tầng khổng lồ. Công ty cũng cho rằng việc thiếu quyền tiếp cận đã cản trở nghiên cứu về định kiến, nội dung độc hại và thông tin sai lệch. Đó là lập luận của Meta về lợi ích tiềm năng, không phải bằng chứng rằng mọi nhóm nghiên cứu đều có thể tiếp cận hoặc có đủ nguồn lực để sử dụng LLaMA. 1

Trong bài nghiên cứu được đăng lên arXiv ngày 27 tháng 2 năm 2023, sau tuần chúng ta đang nhìn lại, nhóm tác giả cho biết phiên bản 13 tỷ tham số vượt GPT-3 175 tỷ tham số trên phần lớn các phép đánh giá được lựa chọn. Kết quả ấy đáng chú ý, nhưng không có nghĩa LLaMA làm tốt hơn ChatGPT trong mọi công việc, hay một con số tham số có thể nói hết năng lực của hai hệ thống. 2

Điều hấp dẫn ở đây không chỉ là chuyện một mô hình có thể nhỏ hơn. Câu hỏi lớn hơn là: nếu có thêm nhiều nhóm có thể kiểm tra và thử nghiệm AI, liệu chúng ta có cơ hội hiểu những giới hạn của nó tốt hơn không?

Đó là một khả năng đáng khám phá. Còn việc ai thực sự được tiếp cận, và họ có thể làm gì với nguồn lực của mình, cần được chứng minh bằng những bằng chứng cụ thể.

Nhưng mở rộng tiếp cận cũng đặt ra câu hỏi khó

Một mô hình có thể giúp người nghiên cứu tìm ra sai sót cũng có thể được người khác sử dụng theo cách gây hại. Meta nêu nguy cơ bị lạm dụng khi giải thích vì sao việc cấp quyền được xem xét theo từng trường hợp. Giấy phép được công bố tập trung vào nghiên cứu phi thương mại. 1

Vì thế, gọi thông báo ngày 24 tháng 2 là “AI mở cửa cho tất cả mọi người sử dụng tự do” sẽ bỏ qua những giới hạn quan trọng. Meta công bố mô hình cho cộng đồng nghiên cứu theo điều kiện của mình; công ty không công bố quyền sử dụng thương mại không giới hạn cho tất cả mọi người.

Ở đây có hai mối quan tâm đều đáng lắng nghe. Nếu quyền tiếp cận quá hẹp, ít người hơn có thể kiểm chứng những tuyên bố và tìm ra điểm yếu. Nếu quyền tiếp cận rộng hơn, việc ngăn chặn một số cách sử dụng có hại có thể trở nên khó khăn hơn.

Không có một đường ranh đơn giản giải quyết mọi tình huống. Và cũng không có lý do để giả định rằng chỉ vì quyền tiếp cận bị giới hạn, mọi rủi ro đều biến mất.

Những gì diễn ra sau tuần ấy

Đầu tháng 3 năm 2023, xuất hiện các thông tin về việc trọng số LLaMA bị chia sẻ ngoài những người được phê duyệt. Ngày 6 tháng 3, Reuters đưa tin Meta vẫn dự định tiếp tục cung cấp các công cụ AI cho các nhà nghiên cứu được chấp thuận, dù có những thông tin cho rằng mô hình đã bị rò rỉ. Việc bị chia sẻ ngoài dự kiến không tự nó thay đổi giấy phép của Meta. 3

Một diễn biến khác cho thấy điều mà các nhóm nghiên cứu có thể làm khi tiếp cận mô hình. Ngày 13 tháng 3 năm 2023, nhóm tại Stanford giới thiệu Alpaca, một mô hình được tinh chỉnh từ LLaMA 7B bằng các ví dụ làm theo chỉ dẫn. Nhóm muốn cộng đồng học thuật có thêm cách nghiên cứu những vấn đề như thông tin sai, khuôn mẫu xã hội và ngôn ngữ độc hại. 4

Hai diễn biến này đặt cạnh nhau cho thấy câu chuyện không kết thúc ở lựa chọn “mở” hay “đóng”. Tiếp cận có thể tạo cơ hội cho nghiên cứu; đồng thời, khả năng kiểm soát ai dùng mô hình và dùng vào việc gì cũng có giới hạn. Các nguồn trên không chứng minh Alpaca được tạo ra từ bản rò rỉ, và không nên suy ra điều đó.

Còn tiếng Việt thì sao?

Một ngày sau thông báo của Meta, 25 tháng 2 năm 2023, VnExpress đưa tin về LLaMA và nêu rằng tiếng Việt không có trong nhóm ngôn ngữ được nhắc đến. Trong bài nghiên cứu đăng ngày 27 tháng 2, nhóm tác giả liệt kê 20 ngôn ngữ cho phần dữ liệu Wikipedia; danh sách ấy không có tiếng Việt. Tuy nhiên, Wikipedia chỉ là một trong nhiều nguồn dữ liệu huấn luyện. Điều này không chứng minh tiếng Việt hoàn toàn vắng mặt trong toàn bộ dữ liệu, cũng không cho biết mô hình hoạt động với tiếng Việt tốt đến đâu. 5 2

Hãy thử hình dung một nhóm nghiên cứu muốn kiểm tra xem AI hiểu những cách diễn đạt thường ngày bằng tiếng Việt đến đâu. Họ có thể cần quyền tiếp cận mô hình, tài nguyên máy tính và dữ liệu đánh giá phù hợp. Đây là ví dụ giả định, không phải câu chuyện của một nhóm cụ thể mà Dòng Chảy AI đã phỏng vấn.

Câu hỏi ấy cũng dành cho người dùng bình thường. Một hệ thống hiểu tiếng Anh tốt chưa chắc hoạt động tốt tương đương với tiếng Việt, các cách nói địa phương hay bối cảnh văn hóa của người Việt. Muốn biết một mô hình cụ thể làm được đến đâu, chúng ta cần những đánh giá thực tế thay vì chỉ nhìn vào quảng cáo hoặc kích thước của nó.

Tháng 2 năm 2023, LLaMA không xóa bỏ khoảng cách giữa các nhóm nghiên cứu, cũng không giải quyết xong câu hỏi an toàn. Nhưng thông báo của Meta giúp đưa một cuộc trò chuyện ra ánh sáng: khi AI ngày càng đi vào đời sống, chúng ta không chỉ cần hỏi nó có thể làm gì.

Chúng ta còn cần hỏi: ai được kiểm tra, ai được đóng góp, và những điều kiện nào giúp việc đó diễn ra có trách nhiệm?

Tài liệu tham khảo

1. Meta, Introducing LLaMA, 24/02/2023.
2. Hugo Touvron và cộng sự, LLaMA: Open and Efficient Foundation Language Models, đăng arXiv 27/02/2023.
3. Reuters, Meta will keep releasing AI tools despite leak claims, 06/03/2023.
4. Stanford CRFM, Alpaca: A Strong, Replicable Instruction-Following Model, 13/03/2023.
5. VnExpress, Facebook tham chiến mặt trận siêu AI, 25/02/2023.