Một mô hình AI nhỏ hơn có thể mở ra điều gì?

Dòng Chảy AI · Hành Trình AI · 13–19/7/2024

Khi muốn dùng AI để trả lời một câu hỏi đơn giản hay xử lý nhiều yêu cầu lặp lại, người xây dựng ứng dụng không chỉ quan tâm đến việc mô hình làm được gì. Họ còn phải cân nhắc chi phí cho mỗi lần sử dụng — nhất là khi một tác vụ được thực hiện hàng nghìn lần.

Ngày 18/7/2024, OpenAI công bố GPT-4o mini, một mô hình nhỏ hơn được hãng giới thiệu với mục tiêu giảm chi phí sử dụng. VietnamNet đưa tin về phiên bản mới; Reuters cũng tường thuật thông báo và mức giá công ty đưa ra. 1 2 3

Một mô hình giá thấp hơn có thể giúp người phát triển thử thêm ý tưởng. Nhưng chi phí cho mỗi lần gọi mô hình không phải toàn bộ chi phí của một sản phẩm, và giá thấp không tự chứng minh câu trả lời chính xác hơn.

Chi phí được tính như thế nào?

Trong thông báo tháng 7, OpenAI công bố giá sử dụng API — giao diện cho phép phần mềm gửi yêu cầu đến mô hình — là 0,15 USD cho một triệu token đầu vào và 0,60 USD cho một triệu token đầu ra. Token là những đơn vị mà hệ thống dùng để xử lý văn bản; một token không luôn bằng một từ. Đây là mức giá được công bố vào thời điểm ra mắt, không phải bảng giá hiện tại hay giá của một gói ChatGPT. 2

Theo OpenAI, mức giá đó thấp hơn GPT-3.5 Turbo. Reuters tường thuật lại so sánh của công ty. Một ứng dụng thực tế còn có thể phát sinh các khoản khác như lưu trữ, phần mềm, kiểm thử và nhân sự; số tiền cuối cùng phụ thuộc vào cách xây dựng và mức sử dụng. 2 3

Ví dụ minh họa: một cửa hàng muốn thử công cụ hỗ trợ soạn câu trả lời cho những câu hỏi thường gặp. Chi phí mô hình thấp có thể giúp việc thử nghiệm dễ cân nhắc hơn. Nhưng chủ cửa hàng vẫn cần kiểm tra câu trả lời, bảo vệ thông tin khách hàng và tính thời gian vận hành. Đây không phải kết quả thử nghiệm của Dòng Chảy AI hay một cam kết tiết kiệm cho mọi cửa hàng.

Nhỏ hơn không có nghĩa là phù hợp với mọi việc

OpenAI công bố các điểm đánh giá cho GPT-4o mini và so sánh với một số mô hình khác. Những con số đó cho thấy cách hãng đánh giá trong các bài kiểm tra được chọn, nhưng không thay thế việc thử trên công việc thực tế của người dùng. Một nhiệm vụ đơn giản, lặp lại có thể cần tiêu chí khác với việc phân tích một tài liệu phức tạp hoặc đưa ra thông tin có ảnh hưởng lớn. 2

Thông báo cũng nói mô hình hỗ trợ văn bản và hình ảnh trong API tại thời điểm ra mắt, còn những hình thức đầu vào và đầu ra khác được hãng nêu là hướng phát triển tiếp theo. Trong ChatGPT, OpenAI cho biết người dùng các gói Free, Plus và Team bắt đầu được tiếp cận, còn Enterprise dự kiến sau. Kế hoạch triển khai này không chứng minh mọi tài khoản ở Việt Nam đã có cùng khả năng vào cùng một thời điểm. 2

Một lựa chọn thêm cho người xây dựng

Với một nhóm nhỏ tại Việt Nam, có thêm lựa chọn về chi phí có thể hữu ích khi thử ý tưởng. Nhưng câu hỏi cần trả lời không chỉ là “mô hình nào rẻ nhất?”: kết quả có đủ tốt với tiếng Việt và công việc cụ thể không, ai kiểm tra sai sót, và dữ liệu sẽ được xử lý theo điều kiện nào? Dòng Chảy AI chưa thực hiện phép thử tiếng Việt hay so sánh chi phí vận hành thực tế cho bài này.

Mốc tháng 7 cho thấy cuộc cạnh tranh AI còn diễn ra ở mức giá và cách đưa công nghệ vào ứng dụng. Lựa chọn phù hợp phụ thuộc vào việc cân bằng chi phí, chất lượng và trách nhiệm với người sử dụng.

Tài liệu tham khảo

1. VietnamNet — OpenAI ra mắt phiên bản AI thu gọn GPT-4o mini: tường thuật bằng tiếng Việt về thông báo ngày 18/7/2024.
2. OpenAI — GPT-4o mini: advancing cost-efficient intelligence, 18/7/2024: thông báo gốc và mức giá lịch sử.
3. Reuters qua Investing.com — OpenAI unveils cheaper small AI model, 18/7/2024: tường thuật độc lập về thông báo.