H100 của Nvidia, có giá hàng tỷ đồng và vẫn cháy hàng. Ảnh: Bloomberg.
Với 80 tỷ bóng bán dẫn, H100 là công cụ mạnh nhất hiện có để chạy các mô hình ngôn ngữ lớn như GPT, nền tảng cho các ứng dụng như ChatGPT hay Bard. Đây cũng là con chip đã giúp Nvidia thống trị thị trường chip AI.
Trong bối cảnh cuộc đua AI, các công ty công nghệ lớn đều cần chip để xây dựng mô hình và ứng dụng. Trong khi đó, AMD và Intel đều chưa đưa ra thị trường được con chip nào có hiệu suất tương đương H100.
Vị thế độc quyền đã đẩy giá của H100 lên cao, và nhiều bên vẫn sẵn sàng chi trả nếu có để mua. Một con chip H100 hiện có giá khoảng 57.000 USD, và mỗi trung tâm dữ liệu cần hàng nghìn con chip.
Vào năm 2016, khi Giám đốc điều hành Nvidia Jensen Huang giao hệ thống máy chủ AI đầu tiên của công ty cho OpenAI, sử dụng thế hệ vi xử lý cũ hơn, ít ai có thể đoán trước được vai trò của những loại chip này trong cơn sốt AI. Vi xử lý đồ họa, hay GPU, của Nvidia khi đó chủ yếu dùng để chạy các trò chơi điện tử.
Nhưng Huang đã sớm nhận ra rằng kiến trúc độc đáo của con chip này, có thể chạy điện toán song song, sẽ xử lý đồng thời khối lượng lớn dữ liệu một cách hiệu quả hơn các vi xử lý máy tính truyền thống của Intel.
Từ đó đến nay, Microsoft đã xây một siêu máy tính với khoảng 20.000 vi xử lý A100, bản tiền nhiệm của H100. Amazon, Google, Oracle và Meta cũng đặt hàng H100 với số lượng lớn để xây dựng cơ sở hạ tầng đám mây và trung tâm dữ liệu, hay như Huang gọi là “các nhà máy AI”.
Các công ty Trung Quốc thậm chí còn đua nhau dự trữ các phiên bản GPU yếu hơn của Nvidia, vì không thể nhập được các phiên bản hiện đại nhất do các biện pháp kiểm soát xuất khẩu chất bán dẫn của Mỹ. Thời gian giao chip có thể kéo dài hơn 6 tháng. Elon Musk đã nói đùa vào đầu năm nay: “GPU vào thời điểm này khó kiếm hơn nhiều so với ma túy”.
H100 là sản phẩm đã giúp nâng mức định giá của Nvidia lên hơn 1.000 tỷ USD trong năm qua và khiến doanh thu của hãng tăng vọt. Trong quý gần nhất, doanh thu của bộ phận trung tâm dữ liệu của Nvidia đạt 14,5 tỷ USD, gần gấp 4 lần so với cùng kỳ năm trước.
Vẫn chưa rõ cạnh tranh chip AI có tạo ra sự ảnh hưởng đáng kể đến vị trí dẫn đầu của Nvidia vào năm 2024 hay không. Intel đang giới thiệu vi xử lý Gaudi 2 như một giải pháp thay thế H100, và AMD cũng sẽ ra mắt MI300.
Vào tháng 11, Nvidia tiếp tục công bố một bản nâng cấp, H200, mà hãng cho biết sẽ xuất xưởng trong quý thứ hai của năm 2024. Amazon và Google ngay lập tức đã đặt mua.
