Apa yang berlaku
Meta menerbitkan penjelasan pada 27 Ogos yang menerangkan cara ia menyejukkan pelayan AI berketumpatan tinggi. Syarikat itu berkata pusat data yang dioptimumkan AI terbaharunya terutamanya menggunakan penyejukan cecair gelung tertutup, manakala pembelajaran pengukuhan digunakan dalam simulasi dan perintis untuk mengoptimumkan operasi penyejukan.
Meta berkata kuasa yang semakin meningkat dan keluaran haba perkakasan AI menjadikan penyejukan udara konvensional kurang cekap untuk penggunaan pelayan yang padat. Syarikat itu membezakan infrastruktur AI yang lebih baharu dengan contoh pusat data terdahulu di Altoona, Iowa, di mana rak yang mengandungi 16 Nvidia H100 GPU disejukkan sepenuhnya dengan udara dan menggunakan air yang minimum. Menurut Meta, reka bentuk perkakasan yang lebih baru telah meningkatkan keperluan untuk pendekatan yang berbeza. Dakwaan utama artikel itu ialah penyejukan adalah bahagian penting dalam infrastruktur AI, bukan sekadar perincian perkhidmatan bangunan.
Sistem Meta menerangkan mengedarkan campuran air dan glikol terus melalui perkakasan pelayan untuk membawa haba dari rak. Penukar haba kemudian memindahkan haba keluar dari penyejuk sebelum campuran yang sama kembali ke pelayan dalam gelung berterusan. Meta mengatakan cecair itu tidak dikeluarkan dari kemudahan dan menjangkakan penyejuk akan kekal dalam perkhidmatan sehingga sedekad tanpa penggantian. Apabila bangunan tidak mempunyai infrastruktur penyejukan cecair bersepadu, syarikat itu berkata ia menggunakan penyejukan cecair berbantukan udara: rak teragih yang mengandungi pam dan penukar haba yang menyediakan proses gelung tertutup asas yang sama pada skala yang lebih kecil.
Meta juga berpendapat bahawa penyejukan cecair boleh meningkatkan ketumpatan fizikal. Penjelasnya berkata penyejukan udara pada pelayan yang sama memerlukan hampir dua kali ganda ruang dulang pelayan kerana peralatan penyejukan tambahan. Penyejukan cecair terus ke cip, sebaliknya, boleh membenarkan lebih banyak GPU dimuatkan dalam rak yang sama, mengurangkan bilangan rak yang diperlukan untuk kemudahan dengan kapasiti pengkomputeran yang diberikan. Meta seterusnya mengatakan pusat data yang dioptimumkan AI biasa menggunakan penyejukan gelung tertutup dan penyejuk kering menggunakan kurang air setiap tahun berbanding beberapa restoran perkhidmatan penuh, tetapi ia tidak memberikan volum tahunan asas atau asas yang tepat untuk perbandingan itu.
Artikel itu menambah komponen perisian. Meta berkata jurutera membina simulator pusat data berasaskan fizik yang memodelkan cuaca, beban pelayan dan tingkah laku peralatan penyejukan. Pembelajaran pengukuhan boleh menguji keputusan penyejukan dalam persekitaran simulasi itu dan bukannya mencuba terlebih dahulu pada kemudahan langsung. Meta berkata pendekatan itu telah diperluaskan daripada percubaan kepada pusat data penyejuk udara di seluruh armadanya dan bahawa juruterbang di satu tapak mengurangkan tenaga yang digunakan oleh peminat bekalan penyejukan udara sebanyak purata 20% sambil mengurangkan penggunaan air sebanyak 4% merentas keadaan cuaca yang berbeza. Sumber tidak mengenal pasti tapak perintis, tempohnya, penggunaan garis dasar atau bilangan kemudahan yang terlibat dalam pelancaran yang lebih luas.
Butiran sumber: about.fb.com ↗
Mengapa ia penting
Penyejukan menjadi kekangan praktikal kerana perkakasan AI menjana lebih banyak haba dan memerlukan penggunaan yang lebih padat. Akaun Meta mencadangkan bahawa penyejukan cecair dan pengoptimuman berasaskan perisian boleh menjejaskan tenaga, air, ruang dan keperluan infrastruktur kemudahan pengkomputeran AI yang besar, walaupun keputusan yang dilaporkan datang daripada Meta dan seorang juruterbang.
Infrastruktur AI sering dibincangkan dari segi cip dan elektrik, tetapi sumbernya menyerlahkan kesesakan fizikal yang kurang kelihatan: mengeluarkan haba daripada peralatan pengkomputeran yang padat. Jika penyejukan cecair membenarkan lebih banyak GPU dalam rak yang sama, pengendali mungkin dapat meningkatkan kapasiti pengkomputeran tanpa mengembangkan jejak bangunan pada kadar yang sama. Itu boleh mempengaruhi reka bentuk dan kos kemudahan yang digunakan untuk melatih dan menjalankan sistem AI.
Penggunaan air adalah kebimbangan awam di sekitar pusat data, tetapi sumber dengan betul membentangkannya sebagai bergantung pada reka bentuk penyejukan dan bukannya ciri automatik pengkomputeran AI. Perihalan gelung tertutup Meta menunjukkan bahawa air boleh berfungsi terutamanya sebagai penyejuk peredaran semula dan bukannya terus dimakan atau dinyahcas. Pembezaan ini secara praktikalnya penting untuk komuniti yang menilai kemudahan yang dicadangkan, walaupun perbandingan restoran artikel itu tidak mencukupi untuk menentukan jumlah kesan air bagi kumpulan pusat data Meta.
Perintis pembelajaran pengukuhan yang dilaporkan adalah relevan kerana ia menghubungkan kaedah AI kepada pengendalian infrastruktur AI. Model itu tidak digambarkan sebagai mengawal sistem tujuan umum atau membuat keputusan tanpa pengawasan mengenai perkhidmatan awam; ia digunakan untuk menguji strategi penyejukan dalam simulator yang mewakili keadaan fizikal. Meta berkata dasar yang terhasil mengurangkan tenaga kipas sebanyak 20% secara purata dan penggunaan air sebanyak 4% dalam perintis. Jika direplikasi, pengoptimuman sedemikian boleh mengurangkan kos operasi dan permintaan sumber tanpa memerlukan perubahan pada beban kerja AI yang mendasari.
Sumber itu juga menerangkan laluan perkongsian industri. Meta berkata Projek Pengiraan Terbukanya, yang diasaskan pada 2011, bertujuan untuk menjadikan infrastruktur pusat data lebih cekap, berskala dan mampan, dan menyatakan bahawa syarikat itu mengumumkan platform rak rangkaian sejuk cecair IcePack pada 2025 untuk perkongsian percuma melalui projek itu. Pengumuman awal itu adalah latar belakang dan bukannya berita baharu dalam artikel ini. Sumbangan baharu yang tepat pada masanya ialah penjelasan terperinci Meta tentang seni bina penyejukan dan akaun hasil pembelajaran pengukuhannya, bukan pelancaran produk baharu atau piawaian seluruh industri yang disahkan secara bebas.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
Which component of an AI application is the machine-learning model itself?
Apa yang perlu ditonton seterusnya
Soalan utama ialah sama ada penjimatan Meta yang dilaporkan berlaku merentasi lebih banyak tapak, iklim dan beban kerja, serta berapa banyak air dan tenaga yang digunakan oleh sistem secara mutlak. Perhatikan pengesahan bebas, butiran tentang skala penggunaan dan bukti bahawa reka bentuk terbuka dan kaedah pembelajaran pengukuhan berguna di luar kemudahan Meta sendiri.
Had yang paling penting ialah pengesahan. Semua angka prestasi dalam sumber adalah tuntutan Meta sendiri, dan artikel itu tidak memetik audit bebas, kajian semakan rakan sebaya atau ukuran dari luar syarikat. Oleh itu, 20% pengurangan tenaga kipas dan 4% pengurangan air harus dianggap sebagai hasil perintis yang dilaporkan, bukan keputusan yang ditetapkan untuk pusat data AI secara amnya. Pelaporan masa hadapan harus mencari tapak perintis, tempoh, julat cuaca, profil beban kerja, ukuran garis dasar dan variasi statistik.
Penggunaan sumber mutlak masih tidak diketahui. Meta memberikan pengurangan relatif dan perbandingan dengan dua restoran perkhidmatan penuh, tetapi tidak menyatakan penggunaan air tahunan pusat data, penggunaan elektrik, beban penyejukan atau jumlah bilangan GPU. Perbandingan itu juga tidak menjelaskan sama ada ia termasuk air yang digunakan di tempat lain di kemudahan atau dalam penjanaan elektrik. Tanpa angka tersebut, pembaca tidak boleh mengira skala penjimatan atau membandingkan sistem dengan reka bentuk penyejukan lain.
Skop penggunaan ialah satu lagi soalan terbuka. Meta mengatakan majoriti pusat data yang dioptimumkan AI terbaharunya menggunakan penyejukan cecair gelung tertutup dan pendekatan pembelajaran tetulang telah ditingkatkan kepada pusat data penyejukan udara dalam armadanya, tetapi ia tidak mengenal pasti bilangan kemudahan yang dilindungi atau sama ada sistem beroperasi secara berterusan. Syarikat itu juga berkata penyejuk boleh bertahan sehingga satu dekad, jangkaan yang mungkin bergantung pada penyelenggaraan, kawalan pencemaran, reka bentuk peralatan dan keadaan operasi tempatan yang tidak dibincangkan oleh sumber.
Ujian yang lebih luas ialah sama ada pendekatan itu beralih melebihi Meta. Prestasi gelung tertutup mungkin berbeza mengikut iklim, reka bentuk bangunan, penjanaan perkakasan, konfigurasi rak dan beban kerja. Sistem bantuan udara mungkin berguna untuk pengubahsuaian, tetapi sumbernya tidak memberikan kos perbandingan, kebolehpercayaan atau data penyelenggaraan. Perhatikan ukuran bebas, pendedahan daripada organisasi yang menggunakan IcePack atau reka bentuk yang serupa, dan bukti bahawa dasar penyejukan terlatih simulasi kekal selamat apabila keadaan berada di luar senario yang dimodelkan. Ia juga tidak jelas sama ada perkakasan AI pada masa hadapan yang lebih padat kuasa akan mengekalkan peningkatan kecekapan yang dilaporkan atau mewujudkan keperluan penyejukan baharu.