CPU Nvidia Grace và Nvidia H100 được giới thiệu tại Nvidia GTC 2022. Nvidia hôm nay kết hợp kiến trúc GPU Hopper thế hệ tiếp theo với GPU và GPU Hopper H100 với CPU hiệu suất cao và “Siêu chip CPU Grace” (đừng nhầm với siêu chip Grace khác của Nvidia).
CPU Nvidia Grace: Thông số kỹ thuật, giá cả và ngày phát hành
Nvidia GPU Superchip nổi bật là nỗ lực đầu tiên của công ty về CPU trung tâm dữ liệu chuyên dụng. Theo thông tin bị rò rỉ bởi Intel, bộ xử lý dựa trên Arm có tốc độ đáng kinh ngạc là 144 lõi mỗi giây. 1 Nó sẽ có băng thông bộ nhớ hàng terabyte. Trên thực tế, nó kết hợp hai CPU Grace được kết nối qua kết nối NVLink của Nvidia – đây là Apple’của M1 siêu sánh được với kiến trúc.
Được hỗ trợ bởi bộ nhớ LPDDR5X nhanh, CPU mới sẽ cải thiện hiệu suất của các máy chủ truyền thống. 2 Dự kiến sẽ trình làng tầng 1 và giao nhà vào nửa đầu năm 2023. Nvidia dự đoán bộ xử lý này sẽ đạt 740 điểm trong bài kiểm tra SPECrate®2017_int_base và đối đầu với các bộ xử lý trung tâm dữ liệu cao cấp của AMD và Intel. (Mặc dù một số trong số này được đánh giá cao hơn nhưng chúng cho hiệu suất trên mỗi watt thấp hơn.)
“Một loại trung tâm dữ liệu mới đã xuất hiện: các nhà máy trí tuệ nhân tạo xử lý và tinh chỉnh lượng dữ liệu khổng lồ để phát triển trí thông minh. Grace CPU Superchip mang lại hiệu năng và băng thông bộ nhớ cao nhất cũng như nền tảng phần mềm NVIDIA trong một con chip duy nhất và sẽ tỏa sáng với tư cách là bộ xử lý của cơ sở hạ tầng trí tuệ nhân tạo của thế giới.”
– Jensen Huang, người sáng lập và CEO của Nvidia
Về nhiều mặt, bộ xử lý mới này là một sự cải tiến của Superchip và CPU Grace Hopper được công bố năm ngoái. Siêu chip Grace Hopperkết hợp CPU và GPU trong một thiết kế hệ thống trên một bộ xử lý duy nhất. Hệ thống này sẽ được ra mắt vào nửa đầu năm 2023, là 600 mét đối với các mẫu xe lớn. GB bộ nhớ sẽ bao gồm GPU và Nvidia tuyên bố băng thông bộ nhớ sẽ lớn hơn 30 lần so với GPU của máy chủ cơ bản. Theo Nvidia, những bộ xử lý này được thiết kế cho trí tuệ nhân tạo “quy mô khổng lồ” và các ứng dụng điện toán hiệu năng cao.
Grace CPU Superchip là một SoC dựa trên Arm v9 có thể được sử dụng để xây dựng các CPU hoặc máy chủ độc lập với tối đa 8 GPU dựa trên Hopper.
Công ty gợi ý rằng họ đang làm việc với “các khách hàng HPC, siêu máy tính, siêu quy mô và đám mây hàng đầu” và các hệ thống này cuối cùng sẽ có sẵn tại nhà cung cấp đám mây gần bạn.
Hiện chưa có thông tin nào về giá được chia sẻ.
GPU Nvidia H100: Thông số kỹ thuật, giá và ngày phát hành
Nvidia đang tung ra một số công nghệ mới và cải tiến với Hopper. Tuy nhiên, kiến trúc này đã trở thành kỹ thuật học máy được ưa thích cho nhiều ứng dụng và GPT-3 và sự nhấn mạnh của nó vào các mô hình máy biến áp với các mô hình nguồn như asBERT có lẽ là quan trọng nhất.
Transformer Engine mới của chip H100 hứa hẹn sẽ tăng tốc độ đào tạo mô hình lên tới sáu lần và vì kiến trúc mới này cũng bao gồm hệ thống NVLink Switch mới của Nvidia để kết nối số lượng lớn các nút, nên các cụm máy chủ khổng lồ được cung cấp bởi các chip này có thể được cung cấp với ít chi phí hơn, sẽ có thể mở rộng quy mô để hỗ trợ các mạng lớn.
“Việc đào tạo các mô hình AI lớn nhất trên nền tảng điện toán ngày nay có thể mất vài tháng. Đó là một thời gian dài đối với các doanh nghiệp. Trí tuệ nhân tạo, điện toán hiệu năng cao và phân tích dữ liệu trở nên phức tạp khi một số mô hình, chẳng hạn như mô hình ngôn ngữ lớn, đạt tới hàng nghìn tỷ tham số. Kiến trúc NVIDIA Hopper được xây dựng từ đầu để tăng tốc khối lượng công việc AI thế hệ tiếp theo này với sức mạnh tính toán khổng lồ và bộ nhớ nhanh để xử lý các mạng và bộ dữ liệu đang phát triển.”
-Dave Người cứu rỗi
Mới Động cơ biến áp‘Mà còn, 8Nó sử dụng Lõi Tensor có thể kết hợp độ chính xác -bit và độ chính xác nửa 16 bit khi cần mà vẫn chính xác.
Hiện chưa có thông tin nào về giá được chia sẻ.
