Sự biến động cung cầu sau đại dịch cũng như tình trạng thiếu hụt chip toàn cầu đã khiến giá card đồ họa tăng vọt. Xu hướng làm việc tại nhà, chơi game trên PC ngày càng nhiều hơn, trong khi những người khai thác tiền mã hóa và giới đầu cơ lại thu gom card đồ họa. Điều này dẫn đến tình trạng khan hiếm và tiếp tục đẩy giá của sản phẩm lên cao.
Tuy nhiên, Nvidia A100 lại là một cái tên cá biệt, có giá đắt đỏ do được sản xuất trên quy trình tiên tiến, sở hữu thông số và sức mạnh xử lý vượt trội.
Theo đánh giá của Tom's Hardware, Nvidia A100 là card đồ họa nhanh nhất mà con người từng làm ra. GPU này sở hữu bộ nhớ 80 GB, cung cấp băng thông tối đa 2 Tb/s, gần 7.000 nhân CUDA 32 bit và 3.500 nhân 64 bit, cùng với hơn 400 nhân Tensor. Được xây dựng trên quy trình chế tạo TSMC 7 nm tiên tiến, Nvidia A100 có sức mạnh xử lý cao hơn hơn trong khi giảm mức sử dụng điện năng.
Nvidia A100 là một phần của hệ thống DGX 100, được Nvidia thiết kế cho các trung tâm dữ liệu AI. DGX 100 tích hợp 8 card Nvidia A100, được tối ưu hóa để mở rộng quy mô thành hàng nghìn GPU, có thể xử lý mọi yêu cầu.
Khi được ghép qua các cầu nối NVLink của Nvidia, băng thông và sức mạnh tính toán của mỗi chiếc Nvidia A100 tăng lên đáng kể. Sử dụng công nghệ MIG (GPU đa phiên bản), nó có thể được chia thành 7 phiên bản GPU để chạy song song 7 khối lượng công việc khác nhau.
Hệ thống DGX 100 có giá hàng trăm nghìn USD cùng với phí dịch vụ. Riêng mỗi chiếc Nvidia A100 cũng có giá bán lẻ lên đến 30.000 USD, giúp nó trở thành card đồ họa đắt nhất thế giới.