WASHINGTON DC - Microsoft umumkan bahwa mereka sedang mengembangkan CPU berbasis Arm dan chip bertenaga AI miliknya sendiri. Hal ini dilakukan dalam upaya inovatif untuk meningkatkan kemampuan pusat data Azure.
Langkah perusahaan ke dalam silikon khusus siap untuk mengurangi ketergantungannya pada Nvidia. Ini sebuah langkah yang dipengaruhi oleh lonjakan permintaan untuk GPU H100 Nvidia yang digunakan dalam melatih model bahasa besar dan alat gambar generatif.
Tingginya permintaan bahkan menyebabkan penjualan kembali GPU ini memiliki harga selangit, melebihi 40 ribu dolar AS di eBay atau setara dengan Rp600 jutaan.
Chip baru, Azure Maia AI dan Azure Cobalt CPU, akan tersedia pada tahun 2024. CPU Azure Cobalt, yang memiliki 128-core dan dibangun di atas desain Arm Neoverse CSS, dirancang untuk layanan cloud umum di Azure. Microsoft tekankan bahwa desain ini sengaja dibuat untuk memungkinkan kontrol atas kinerja dan konsumsi daya per inti dan pada setiap mesin virtual.
Sebagaimana dikutip dari The Verge, Kamis (16/11/2023), kepala sistem perangkat keras dan infrastruktur Azure Microsoft, Rani Borkar, menyoroti sejarah panjang perusahaan dalam pengembangan silikon dengan menyebutkan kemitraan pada produk Xbox dan Surface. Chip AI Azure Maia, yang dirancang untuk beban kerja AI cloud, akan mendukung inisiatif AI utama di Azure, termasuk bekerja sama dengan OpenAI.
Chip Maia menggunakan proses TSMC 5-nanometer, memiliki 105 miliar transistor dan tipe data sub-8-bit untuk pelatihan model dan waktu kesimpulan yang lebih cepat. Komitmen Microsoft untuk menstandarkan format data generasi berikutnya untuk model AI terbukti melalui partisipasinya dalam grup yang mencakup AMD, Arm, Intel, Meta, Nvidia, dan Qualcomm.
Chip Maia menandai tonggak sejarah sebagai prosesor server berpendingin cairan lengkap pertama yang dikembangkan oleh Microsoft. Dengan penggunaan liquid chiller dan desain rak yang inovatif, perusahaan berharap dapat meningkatkan kepadatan dan efisiensi server di dalam footprint pusat data yang sudah ada.
Microsoft belum merilis standar kinerja khusus, tetapi pengujian awal menunjukkan bahwa dengan menggunakan server Arm komersial, pusat data dapat mencapai kinerja hingga 40% lebih tinggi daripada yang mereka lakukan sekarang.
Perusahaan ini menekankan pentingnya diversifikasi rantai pasokan dan memberikan pilihan kepada klien untuk infrastruktur. Sementara Microsoft masih belum memberikan informasi terkait rincian harga.
Pengenalan Maia dan Cobalt, yang dilambangkan dengan angka "100" pada namanya, mengisyaratkan rencana Microsoft untuk versi generasi kedua.
Seiring dengan langkah maju Microsoft dengan kemajuan ini, industri menunggu dampaknya terhadap harga layanan cloud AI Azure dan percepatan ambisi AI perusahaan yang lebih luas. (Taja Aurora Bianca)
(Saliki Dwi Saputra )