Server Arm Generasi Selanjutnya: Altra 80-core N1 SoC dari Ampere untuk Hyperscalers melawan Roma dan Xeon

Beberapa tahun yang lalu, di sebuah acara lokal yang merinci inti mikroarsitektur Arm yang baru, saya ingat percakapan yang saya lakukan dengan sejumlah eksekutif saat itu: tujuannya adalah untuk menjadikan Arm menjadi 25% server pada tahun 2020. Tujuan yang mulia, yang tidak Sudah cukup tercapai, namun setelah menjalankan awal desain server berbasis Arm pasar mulai mencapai langkahnya dengan inti N1 Arm untuk pusat data mendapatkan tamasya pertama. Dari mereka yang mengumumkan SoC berbasis N1, Ampere memimpin paket dengan desain 80-inti baru yang ditujukan untuk penyedia cloud dan hyperscalers. Rangkaian produk baru Altra bertujuan untuk menawarkan kinerja kompetitif, kinerja per watt, dan skalabilitas hingga 210 W dan ton IO, untuk penentuan posisi perusahaan.

Pasar Arm Server: 2010-2019 (Ringkas)

Kami telah melihat perusahaan seperti Broadcom / Cavium / Marvell, Calxeda, Huawei, Fujitsu, Phytium, Annapurna /Amazon, AppliedMicro / Ampere, dan bahkan AMD memasukkan Arm-based IP ke silikon dan kemudian ke pasar server. Sampai saat ini, sebagian besar desain telah cukup loyo – dengan perusahaan baik mengembangkan inti mereka sendiri pada lisensi arsitektur Arm dan tidak mendapatkan peningkatan kinerja, atau menggunakan core Arm standar dan tidak menemukan campuran yang tepat antara kinerja, daya, dan penyerapan perangkat lunak diperlukan untuk membawa pulang desain. Sebagai hasilnya, kami telah melihat banyak perusahaan jatuh di pinggir jalan, diakuisisi, atau membatasi aktivitas mereka untuk pelanggan tertentu dan tetap diam-diam.

EMM Ampere Generasi Pertama, Dibangun di atas desain Mikro Terapan

Contoh besar dari jenis perusahaan 'diakuisisi' adalah Annapurna, yang Amazon mengakuisisi dan akhirnya merilis prosesor Graviton2 dalam beberapa bulan terakhir. Chip ini memiliki 64 core berdasarkan desain Arm N1, yang merupakan tata letak arsitektur mikro terkemuka untuk chip server Arm pada saat ini. Untuk itu, Ampere (yang awalnya membeli Applied Micro) sekarang akan merilis produk generasi keduanya, dengan 80 inti berbasis N1, dan sekarang memiliki nama: Altra.

Ampere Altra

Ampere telah memberikan sejumlah perincian tentang Altra dalam pengumuman akhir tahun lalu, namun kali ini kami memiliki perincian yang konkret dan perusahaan memiliki proyeksi kinerja. Di belakang produk eMAG generasi pertamanya, Ampere mencari untuk menawarkan kinerja yang lebih baik daripada Graviton2 kepada penyedia cloud atau hyperscaler yang tidak dipanggil Amazon, mengingat bahwa Graviton2 dibangun oleh Amazon dan hanya tersedia untuk Amazon. Dalam hal itu, Ampere telah mengambil rekomendasi lengkap Arm untuk desain N1-nya, membangun chip dengan jumlah core terbanyak yang dirancang untuk didukung oleh N1.

Seperti halnya produk berbasis N1 lainnya, Altra akan menjadi utas tunggal, memastikan bahwa setiap utas memiliki inti sendiri, sumber dayanya sendiri, dan menghilangkan potensi masalah keamanan utas inti berbagi yang terjadi baru-baru ini. Altra SoC dibangun dengan mempertimbangkan wadah, memastikan tingkat kualitas layanan yang tinggi dengan banyak pelanggan pada chip yang sama, dan fitur RAS tambahan untuk memastikan kinerja yang konsisten.

Inti N1 adalah dengan desain apa yang kami bahas ketika Arm merinci desain mikroarsitektur tahun lalu. Ada 4-siklus 64 KB L1I / L1D cache per inti, bersama dengan siklus 9-11 1 MB L2 pribadi per inti. Ini bermitra dengan 32 MB sistem LLC luas yang didistribusikan melalui jala SoC, dan semua cache ini adalah ECC dengan operasi SECDED. Perlu dicatat bahwa 32 MB di 80 core lebih sedikit per core daripada AmazonGraviton2, yang memiliki 32 MB untuk 64 core. 32 MB sebenarnya setengah dari apa yang direkomendasikan Arm, seperti dalam presentasi Arm menyatakan bahwa ia mengharapkan desain 64-inti memiliki 64 MB.

Di atas 80 core, SoC juga akan memiliki delapan saluran memori DDR4-3200 dengan dukungan ECC, hingga 4 TB per soket. Ada juga 128 jalur PCIe 4.0, yang dengannya CPU dapat menggunakannya 32 untuk menghubungkan ke CPU lain untuk operasi soket ganda. Sistem dual socket kemudian dapat memiliki total 192 lajur PCIe 4.0, serta dukungan memori hingga 8 TB. Kami diberitahu bahwa itu sebenarnya protokol CCIX yang berjalan di jalur PCIe ini, yang berarti 25 GB / s per x16 tautan. Itu bagus untuk 50 GB / s di setiap arah.

Setiap jalur PCIe dapat dibagi dua menjadi x8 / x4 / x2, dan setiap varian Altra SoC yang berbeda hanya akan tersegmentasi pada jumlah dan frekuensi inti: semua CPU akan memiliki dukungan 4 TB dan 128 jalur PCIe 4.0. Setiap CPU juga dapat mendukung hingga empat akselerator berbasis CCIX.

Altra dibangun di atas 7nm TSMC, dan walaupun secara teknis merupakan desain Arm v8.2, ia meminjam beberapa fitur dari 8.3 dan 8.5, yaitu mitigasi berbasis perangkat keras untuk serangan saluran samping dan beberapa fitur mikro-arsitektur kecil lainnya.

Masing-masing dari 80 core dirancang untuk berjalan pada 3,0 GHz all-core, dan Ampere konsisten dalam pengiriman pesannya di mana SKU teratas dirancang untuk berjalan pada 3,0 GHz setiap saat, bahkan ketika kedua unit SIMD 128-bit per inti sedang digunakan (dengan demikian turbo tak terbatas pada 3,0 GHz). Kisaran CPU akan bervariasi dari 45W hingga 210W, dan bervariasi dalam jumlah inti – kami menduga SKU ini akan berasal dari desain silikon tunggal, dan itu akan tergantung pada permintaan serta menentukan apa yang keluar dari fab. SKU yang tepat akan diumumkan akhir tahun ini.

Juga tentang keamanan, Ampere ingin menunjukkan bahwa SoC baru akan memiliki dua prosesor kontrol: SM Pro dan PM Pro. Ini memungkinkan pengelolaan server, hingga SBSA Level 4, serta Secure Boot, pelaporan kesalahan RAS, dan manajemen daya / kontrol suhu tingkat lanjut.

Ampere akan meluncurkan dengan dua desain referensi untuk Altra, satu dalam satu soket yang disebut Mt. Salju, dan satu soket ganda bernama Mt. Giok. Setiap desain akan tersedia dalam faktor bentuk 1U dan 2U, dengan PCIe 4.0 dan CCIX melampirkan, dan hingga 16 modul memori per soket. Kita tahu bahwa mitra untuk soket tunggal adalah tim Server GIGABYTE, namun mitra soket ganda belum diumumkan. Kami telah diberi tahu bahwa CPU terhubung, yang membuat produksi dan pengujian skala besar (setidaknya di pihak kami) sedikit lebih mudah.

Kinerja yang Diproyeksikan

Ampere memiliki beberapa angka kinerja, yang seperti biasa kita bawa dengan sebutir garam. Ini termasuk 2.23x kinerja pada tingkat SPEC2017_int lebih dari satu 28-core Intel Xeon Platinum 8280, dan 1.04x atas 64-core AMD EPYC 7742. Ini jelas diperluas ke sejumlah klaim tentang peningkatan TCO. Ampere tidak memberikan angka yang sama untuk SPEC2017_fp, karena perusahaan menyatakan bahwa SoC telah dikembangkan dengan mempertimbangkan beban kerja INT. Nomor daya / kinerja yang tepat tidak diberikan, tetapi hanya didasarkan pada TDP, yang kadang-kadang merupakan metrik yang tidak dapat diandalkan. Kami akan menunggu untuk menjalankan nomor kami sendiri pada waktunya.

Mengembangkan Peta Jalan: 2021, 2022

Salah satu pertanyaan kunci yang akan dibahas dalam pengarahan kami dengan Ampere adalah seberapa dekat mereka bekerja dengan Arm pada desain inti server perusahaan generasi mendatang untuk SoC mendatang. Mereka tidak ingin memposisikan diri sebagai mitra utama Arm dalam usaha ini (yang mungkin demikian Amazon, mengingat mereka yang pertama), tetapi apakah menyatakan bahwa ada banyak kolaborasi dan umpan balik yang masuk ke dalam desain masa depan. Hasilnya, Ampere dapat secara resmi mendeklarasikan peta jalan jangka panjang untuk portofolio produknya.

Dalam contoh ini, Ampere menyatakan bahwa saat ini ia memiliki desain Altra 80-core pada 7nm. Pada tahun 2021, ia akan meluncurkan produk Mystique-nya, yang saat ini sedang dalam pengembangan (dan ketika ditanya, Ampere mengatakan kepada kami akan berbagi soket yang sama dengan Altra). Pada tahun 2022, Ampere akan meluncurkan Siryn, dan saat ini produk telah ditentukan dan membutuhkan pengembangan.

Memiliki irama produk yang berkelanjutan sangat penting untuk sejumlah desain prosesor dalam beberapa dekade terakhir – ini memberitahu calon mitra dan pelanggan ODM bahwa perusahaan berada dalam jangka panjang, dan berkomitmen untuk pengembangan masa depan dengan target yang harus dipenuhi. Tentunya dengan Ampere mengikatkan diri pada peta jalan Arm membantu dalam tahap definisi produk tersebut. Ini adalah fitur yang telah melumpuhkan desain Arm sebelumnya dari datang ke pasar – tanpa peta jalan yang jelas, pelanggan tidak mau berinvestasi dalam keajaiban satu generasi dan memberikan dukungan jangka panjang untuk itu. Selalu ada masalah apakah pendanaan investasi mungkin habis, jadi tujuan Ampere di sini bersama Altra adalah menjadi jawaban yang jelas untuk Graviton2 untuk para hiperskaler lainnya. Dengan pasar besar yang ditawarkan, tujuannya adalah untuk menjadi menguntungkan dan mandiri sesegera mungkin, yang pada gilirannya memberi pelanggan potensial lebih banyak kepercayaan diri.

Tahap Selanjutnya untuk Altra

Pada titik ini, Ampere telah menyatakan kepada kami bahwa Altra saat ini sedang mengambil sampel dengan pelanggan utama yang ingin menyebarkan perangkat keras. Dari pengalaman sebelumnya, pelanggan utama yang terlibat lebih awal cenderung mendapatkan prioritas untuk ditempatkan, dan dalam hal itu Ampere telah menyatakan bahwa daftar SKU resmi akan datang ke pasar pertengahan tahun, bersama dengan harga, dan dengan pengiriman resmi SPEC. Semoga pada saat itu kami juga akan mendapatkan harga instan dari perusahaan yang bermaksud untuk menyebarkan chip baru.

Kami saat ini sedang dalam pembicaraan dengan Ampere untuk mendapatkan Altra untuk pengujian di rumah saat mereka merasa sudah siap. Kami memiliki versi workstation eMAG generasi Ampere sebelumnya yang baru saja tiba di lab, yang akan membantu kami memberikan garis dasar yang baik dari desain sebelumnya ke yang baru. Nantikan liputan kami tentang eMAG dan Altra!

Bacaan terkait