Phía sau câu trả lời AI là một cuộc đua về sức tính toán

Dòng Chảy AI · Hành Trình AI · 16–22/03/2024

Khi một trợ lý AI trả lời chỉ sau vài giây, người dùng nhìn thấy câu chữ trên màn hình. Phía sau là hệ thống máy tính thực hiện nhiều phép tính để tạo ra câu trả lời đó. Hệ thống cần phần cứng, điện, kết nối và những người xây dựng, vận hành nó.

Ngày 18/3/2024 tại Mỹ, NVIDIA giới thiệu nền tảng tính toán Blackwell tại hội nghị GTC. VnExpress đưa tin ngày 19/3 theo giờ Việt Nam. NVIDIA công bố những kỳ vọng về khả năng xử lý và hiệu quả năng lượng so với thế hệ trước; Reuters cũng đưa tin về sản phẩm. Các con số hiệu năng là tuyên bố của nhà sản xuất cho những điều kiện so sánh cụ thể, không phải kết quả do Dòng Chảy AI tự kiểm thử. 1 2 3

Vì sao phần cứng lại quan trọng với AI?

Một mô hình AI cần nhiều phép tính khi được huấn luyện và cả khi tạo ra kết quả cho người dùng. Bước sau thường được gọi là suy luận: hệ thống dùng mô hình đã được huấn luyện để xử lý yêu cầu mới. Chip tăng tốc có thể giúp thực hiện nhiều phép tính cần thiết cho các công việc đó.

NVIDIA không chỉ giới thiệu một con chip đứng riêng lẻ. Công ty mô tả một nền tảng gồm bộ xử lý, kết nối giữa các bộ xử lý và phần mềm, với các hệ thống kết hợp nhiều thành phần. Phân biệt chip với cả hệ thống rất quan trọng khi đọc các phép so sánh: một kết quả của hệ thống nhiều chip không tự trở thành kết quả của từng con chip đơn lẻ. 2

Đọc một lời hứa về hiệu quả

Trong thông báo, NVIDIA nói một cấu hình hệ thống Blackwell có thể giảm chi phí vận hành và năng lượng tới 25 lần so với cấu hình được hãng dùng để so sánh trong một loại tác vụ suy luận mô hình ngôn ngữ. “Tới” mô tả mức tối đa trong bối cảnh hãng nêu; nó không có nghĩa mọi hệ thống hay mọi yêu cầu của người dùng sẽ tiết kiệm đúng mức đó. Bài này không có phép đo độc lập để xác minh mức tiết kiệm. 2

Hiệu quả cho một tác vụ cũng không tự cho biết tổng điện năng của toàn ngành sẽ tăng hay giảm. Điều đó còn phụ thuộc vào số lượng hệ thống, lượng sử dụng và cách vận hành. Đây là phân tích về những yếu tố cần xem xét, không phải dự báo rằng tổng tiêu thụ chắc chắn tăng hoặc giảm.

Ai có thể tiếp cận sức tính toán?

NVIDIA nói các sản phẩm dựa trên Blackwell dự kiến có mặt thông qua đối tác từ cuối năm 2024. Tuyên bố về kế hoạch không chứng minh mọi khách hàng đã mua được thiết bị ngay trong tháng 3, hay tất cả nhà cung cấp cùng triển khai với giá giống nhau. 2

Giả sử một nhóm nhỏ muốn xây dựng một dịch vụ AI. Nhóm đó có thể cân nhắc thuê tài nguyên điện toán thay vì tự mua phần cứng; quyết định thực tế sẽ phụ thuộc giá, dữ liệu, quyền riêng tư và mức độ kiểm soát cần thiết. Đây là ví dụ minh họa, không phải một doanh nghiệp Việt Nam được Dòng Chảy AI phỏng vấn hay một khuyến nghị mua dịch vụ.

Với độc giả Việt Nam, bài báo tiếng Việt giúp đưa mốc công nghệ này đến gần hơn, nhưng không chứng minh chi phí AI tại Việt Nam đã thay đổi hay các doanh nghiệp trong nước đã tiếp cận nền tảng mới. Những tác động đó cần dữ liệu riêng. 1

Một câu trả lời AI thuận tiện phụ thuộc vào cả một lớp hạ tầng ít thấy. Khi đánh giá lời hứa về chip mới, điều cần hỏi không chỉ là nó nhanh đến đâu, mà còn là kết quả được đo trong điều kiện nào và ai có thể sử dụng năng lực đó.

Tài liệu tham khảo

1. VnExpress — Nvidia ra chip AI nhanh hơn thế hệ cũ, 19/3/2024 giờ Việt Nam; theo Reuters và nguồn khác.
2. NVIDIA — Blackwell Platform, 18/3/2024; thông báo của nhà sản xuất.
3. Reuters qua Investing.com — Nvidia unveils AI chip, 18/3/2024, cập nhật 19/3; đưa tin độc lập, không phải kiểm thử hiệu năng độc lập.