DeepSeek-V3 và câu hỏi về những mô hình AI có trọng số mở
Nếu một nhóm phát triển muốn xây dựng ứng dụng AI, họ có thể gọi dịch vụ của một công ty qua mạng. Một lựa chọn khác là sử dụng mô hình có **trọng số được công bố**: những giá trị bên trong mô hình đã được điều chỉnh trong quá trình huấn luyện. Điều đó có thể mở thêm khả năng…
Mục lục
Dòng Chảy AI · Hành Trình AI · 21–27/12/2024
Nếu một nhóm phát triển muốn xây dựng ứng dụng AI, họ có thể gọi dịch vụ của một công ty qua mạng. Một lựa chọn khác là sử dụng mô hình có trọng số được công bố: những giá trị bên trong mô hình đã được điều chỉnh trong quá trình huấn luyện. Điều đó có thể mở thêm khả năng nghiên cứu và tùy biến, nhưng không có nghĩa việc vận hành trở nên miễn phí hay đơn giản.
Ngày 26/12/2024, DeepSeek, một công ty AI Trung Quốc, công bố DeepSeek-V3. Công ty chia sẻ thông tin mô hình và liên kết tới kho chứa; TechCrunch đưa tin về việc các nhà phát triển có thể tải và điều chỉnh mô hình theo điều kiện giấy phép. Sự kiện đặt ra câu hỏi về ai có thể tiếp cận những công cụ AI mạnh và điều gì còn cần thiết để sử dụng chúng có trách nhiệm. 1 2
“Mở” mở ra điều gì?
Trọng số là một phần quan trọng của mô hình đã được huấn luyện. Khi được công bố, chúng cho phép người có khả năng kỹ thuật tải mô hình về, nghiên cứu hoặc điều chỉnh trong phạm vi giấy phép. Nhưng quyền tiếp cận trọng số không đồng nghĩa với việc mọi dữ liệu, công cụ và chi tiết cần để tái tạo toàn bộ quá trình huấn luyện đều đã được công khai. Trước khi sử dụng, tổ chức vẫn cần đọc giấy phép và xem xét năng lực máy tính, dữ liệu, bảo mật và nhân sự của mình. 2 3
Theo DeepSeek, V3 sử dụng cấu trúc “hỗn hợp chuyên gia”: mô hình có nhiều thành phần nhưng chỉ kích hoạt một phần cho mỗi đơn vị dữ liệu được xử lý. Báo cáo kỹ thuật của nhóm nêu 671 tỷ tham số tổng cộng và 37 tỷ tham số được kích hoạt cho mỗi token — đơn vị nhỏ mà mô hình xử lý. Các con số mô tả cấu trúc do nhà phát triển công bố; chúng không tự chứng minh chất lượng trong mọi nhiệm vụ. 1 4
TechCrunch tường thuật rằng DeepSeek công bố kết quả so sánh tốt trên một số bài kiểm tra. Những so sánh ấy dựa trên đánh giá của chính nhà phát triển trong các điều kiện được chọn. Để biết một mô hình có phù hợp với công việc cụ thể hay không, cần kiểm tra thêm trên dữ liệu và yêu cầu của công việc ấy. 2
Chi phí tính toán không phải toàn bộ chi phí
Thảo luận về DeepSeek-V3 cũng chú ý đến chi phí huấn luyện. Ước tính chi phí tính toán cho các giai đoạn huấn luyện chính thức được nhóm báo cáo dựa trên một mức giá thuê GPU giả định. Ước tính ấy không bao gồm đầy đủ những khoản như nghiên cứu trước đó, thử nghiệm, dữ liệu, con người hoặc hạ tầng. Vì vậy, không thể lấy riêng con số đó để kết luận tổng chi phí phát triển mô hình, hoặc so sánh trực tiếp chi phí toàn bộ của các công ty. 4
Reuters giải thích thêm giới hạn này trong bài ngày 28/1/2025 — bằng chứng xuất hiện sau kỳ nhìn lại — và ghi nhận báo cáo kỹ thuật chưa trả lời đầy đủ câu hỏi về tổng chi phí. 5
Một lựa chọn cho người làm sản phẩm Việt Nam
Giả sử một nhóm tại Việt Nam muốn xây dựng công cụ tìm kiếm trong tài liệu tiếng Việt. Một mô hình có trọng số mở có thể là một phương án để họ nghiên cứu cách triển khai phù hợp. Nhưng nhóm vẫn cần kiểm tra chất lượng tiếng Việt, quyền sử dụng tài liệu, khả năng bảo vệ dữ liệu và chi phí vận hành. Đây là ví dụ minh họa; không phải một dự án được xác minh trong tuần này.
Ngày 30/12/2024, Vietnam Business Insider đăng bài về DeepSeek-V3; ngày đăng đó nằm sau kỳ nhìn lại. Nguồn này cho thấy mô hình đã được bàn tới bằng tiếng Việt, nhưng những nhận xét về hiệu quả hoặc tiếng Việt trong bài không thay thế thử nghiệm độc lập đối với người dùng Việt Nam. 6
Việc công bố trọng số tạo thêm một lựa chọn trong hệ sinh thái AI. Giá trị thực tế của lựa chọn ấy phụ thuộc vào khả năng tiếp cận hạ tầng, điều kiện sử dụng và chất lượng được kiểm chứng trong từng bối cảnh.
Tài liệu tham khảo
- DeepSeek — Giới thiệu DeepSeek-V3, 26/12/2024: công bố của nhà phát triển.
- TechCrunch — DeepSeek-V3 và mô hình AI mở, 26/12/2024: báo chí độc lập; kết quả so sánh được quy về thử nghiệm nội bộ của DeepSeek.
- DeepSeek — Kho tài liệu và mô hình DeepSeek-V3: tài liệu của nhà phát triển; nội dung kho có thể thay đổi theo thời gian.
- DeepSeek — Báo cáo kỹ thuật DeepSeek-V3, công bố 27/12/2024: mô tả phương pháp và giới hạn chi phí của nhà phát triển.
- Reuters — Những câu hỏi về thành công và chi phí của DeepSeek, 28/1/2025: báo chí độc lập, sau kỳ.
- Vietnam Business Insider — Bài viết về DeepSeek-V3, 30/12/2024: bài tiếng Việt sau kỳ.