Apa yang berlaku
Motley Fool melaporkan bahawa pemecut AI Instinct MI455X AMD yang akan datang akan membawa 432GB memori lebar jalur tinggi HBM4, berbanding dengan 288GB HBM3E pada MI355X. AMD mengatakan kapasiti yang lebih besar bertujuan untuk memastikan model AI yang lebih besar dan data kerja mereka dekat dengan pemproses. Laporan itu juga mengatakan sistem skala rak Helios AMD sedang dalam pengeluaran dan penghantaran awal dijangka lewat pada suku tersebut.
Motley Fool melaporkan bahawa AMD's Instinct MI455X, yang disifatkan sebagai unggulan bagi siri MI400 syarikat, ditentukan dengan 432 gigabait memori HBM4 setiap pemecut. Itu adalah 50% lebih banyak memori daripada 288GB HBM3E yang dilaporkan untuk MI355X AMD. Artikel itu mengatakan helaian spesifikasi AMD sendiri membentangkan kapasiti tambahan sebagai cara untuk mengekalkan model AI yang lebih besar dan data kerjanya dalam memori tempatan di sebelah pemproses. Sumber itu tidak menyediakan ujian teknikal bebas MI455X, dan juga tidak menetapkan bahawa produk itu secara amnya tersedia kepada pelanggan.
Menurut Motley Fool, AMD membandingkan MI455X dengan generasi Vera Rubin Nvidia dengan memetik kapasiti memori, jalur lebar memori dan prestasi puncak pada satu format matematik AI. Artikel itu mengenal pasti angka tersebut sebagai tuntutan pemasaran AMD sendiri. Laporan itu juga mengatakan sistem skala rak Helios AMD mengandungi 31 terabait HBM4, bersamaan dengan kira-kira 72 cip memori, dan membentangkan kapasiti memori sistem bersama keupayaan pengkomputerannya. Butiran ini menerangkan konfigurasi AMD yang dinyatakan dan bukannya keputusan yang disahkan secara bebas.
The Motley Fool melaporkan bahawa Ketua Pegawai Eksekutif AMD Lisa Su berkata Helios sudah pun dalam pengeluaran, dengan penghantaran awal di landasan yang betul untuk dimulakan kemudian pada suku tahun dan meningkat pada suku keempat dan ke 2027. Artikel itu juga mengatakan AMD telah mengumumkan perkongsian di mana Anthropic akan menggunakan sehingga 2 gigawatt cip siri MI450 dalam rak Helios. Sumber itu tidak menentukan bilangan sistem yang telah dibina, sama ada penghantaran telah dimulakan, bahagian mana potensi penggunaan Anthropic dilakukan, atau apakah syarat komersial yang dikenakan.
Mengapa ia penting
Perubahan yang dilaporkan menekankan kapasiti memori sebagai pembeza utama dalam infrastruktur AI. Lebih banyak memori tempatan boleh mengurangkan keperluan untuk memindahkan data model antara komponen, tetapi laporan itu menyerlahkan pertukaran perniagaan: Harga HBM meningkat, berpotensi meningkatkan kos setiap pemecut dan rak. Sama ada AMD boleh mengekalkan margin sambil mengembangkan penghantaran masih belum disahkan.
Kepentingan praktikal reka bentuk yang dilaporkan ialah kapasiti memori boleh menentukan berapa banyak data model kekal setempat kepada pemecut. Model AI yang lebih besar dan data kerjanya mungkin memerlukan pemindahan antara kumpulan memori atau merentasi pemproses yang saling berkaitan. Motley Fool merangka spesifikasi 432GB AMD sebagai titik jualan kompetitif utama syarikat. Pembingkaian itu ialah tafsiran kedudukan syarikat, bukan kesimpulan yang ditunjukkan secara bebas bahawa MI455X akan mengatasi prestasi sistem bersaing merentas beban kerja dunia sebenar.
Persoalan kos adalah penting kerana Motley Fool melaporkan bahawa memori jalur lebar tinggi telah menjadi lebih mahal. Artikel itu memetik pertumbuhan hasil suku kedua SK Hynix yang dilaporkan sebanyak 257% tahun ke tahun dan margin operasi 76%, bersama-sama dengan kenyataan syarikat bahawa permintaan pelayan AI menyumbang kepada kenaikan harga dalam DRAM dan NAND. Jika MI455X menggunakan 50% lebih memori daripada pendahulunya dan kos HBM4 lebih tinggi setiap gigabait, bil bahan boleh meningkat. Laporan itu tidak mendedahkan harga pembelian memori sebenar AMD, syarat kontrak bekalan atau kos setiap pemecut.
Laporan itu menghubungkan kos input tersebut kepada panduan kewangan AMD. Ia mengatakan segmen pusat data AMD menjana pendapatan suku kedua $6.7 bilion, meningkat 107% daripada tahun sebelumnya, manakala hasil seluruh syarikat mencapai $11.5 bilion dan margin kasar diselaraskan ialah 56%. AMD dilaporkan memberi panduan untuk kira-kira $13 bilion dalam hasil suku ketiga dengan margin kasar diselaraskan hampir 56%. Motley Fool mentafsir panduan margin rata itu sebagai bukti bahawa AMD menjangkakan untuk melalui kos yang lebih tinggi, mencari kecekapan, atau menggunakan kedua-dua pendekatan. Itu adalah analisis, bukan pengesahan mekanik margin sebenar syarikat.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
Which component of an AI application is the machine-learning model itself?
Apa yang perlu ditonton seterusnya
Soalan susulan yang penting ialah sama ada spesifikasi AMD diterjemahkan kepada kelebihan prestasi yang disahkan secara bebas, apabila sistem Helios benar-benar dihantar, dan berapa banyak pelanggan akan membayar untuk kapasiti HBM4 tambahan. Laporan itu tidak mengesahkan secara bebas tuntutan produk AMD, rancangan penggunaan Anthropic, harga HBM4 atau kesan pada margin AMD.
Titik pengesahan pertama ialah ketersediaan produk. Jadual AMD yang dilaporkan meletakkan penghantaran Helios awal kemudian pada suku tersebut, diikuti dengan peningkatan sehingga suku keempat dan ke 2027. Pelaporan masa depan harus menentukan sama ada penghantaran tersebut berlaku mengikut jadual, bilangan rak yang dihantar dan sama ada pelanggan boleh mendapatkan sistem berasaskan MI455X di luar perkongsian yang diumumkan. Kenyataan pengeluaran dan penempatan yang dirancang tidak sama dengan penghantaran pelanggan yang telah selesai, dan sumbernya tidak menyediakan rekod penghantaran atau data penerimaan pelanggan.
Soalan kedua ialah prestasi di bawah beban kerja yang setanding. Perbandingan AMD yang dilaporkan dengan Vera Rubin termasuk kelebihan 15% yang didakwa pada satu format matematik AI dan lebar jalur memori yang lebih tinggi sedikit, tetapi Motley Fool secara jelas mengenal pasti ini sebagai nombor pemasaran AMD. Pembaca harus mencari ujian yang menentukan model, saiz kelompok, ketepatan, versi perisian, penggunaan tenaga, konfigurasi sistem dan jumlah kos. Tanpa butiran tersebut, kelebihan spesifikasi yang dilaporkan tidak dapat mewujudkan kelebihan prestasi atau kos yang luas.
Isu ketiga ialah ekonomi merentas rantaian bekalan. Motley Fool melaporkan bahawa Lisa Su berkata AMD mempunyai keterlihatan yang baik ke dalam peruntukan HBM untuk jangkaan penghantaran 2027, tetapi ia menyatakan bahawa peruntukan menangani volum dan bukannya harga. Bukti masa depan harus menjelaskan sama ada AMD boleh mendapatkan HBM4 pada harga yang boleh diramal, sama ada pelanggan menyerap kos tambahan, dan sama ada AMD mengekalkan sasaran marginnya semasa tanjakan Helios. Sumber itu juga tidak dapat diselesaikan sama ada Anthropic akan menggunakan penggunaan potensi penuh 2GW, pada jadual waktu dan dalam terma apa.