Tantangan Baru AI untuk Jaringan Listrik! Nvidia Punya Solusi Cerdas untuk Hemat Energi hingga 30 Persen

JAKARTA, GENVOICE.ID - Lonjakan penggunaan AI besar-besaran di pusat data modern mulai menciptakan tekanan baru terhadap sistem kelistrikan. Tidak seperti beban listrik konvensional yang cenderung stabil, pelatihan model AI skala besar menghasilkan fluktuasi daya mendadak yang membuat pengelola jaringan listrik kewalahan. Namun, NVIDIA menghadirkan solusi revolusioner: unit catu daya (PSU) baru dengan penyimpanan energi terintegrasi yang diklaim mampu mengurangi permintaan puncak ke jaringan hingga 30 persen.

Inovasi ini diperkenalkan melalui platform GB300 NVL72, dan juga akan hadir di GB200 NVL72. Sistem ini dirancang untuk menghaluskan lonjakan daya akibat beban AI terkoordinasi, yang sebelumnya menyebabkan:

• Permintaan daya naik mendadak yang tidak bisa diimbangi pembangkit (butuh 1-90 menit untuk merespons),

• Tekanan berulang pada peralatan karena transien daya,

• Produksi energi berlebih saat beban tiba-tiba turun,

• Gangguan tegangan yang dirasakan pelanggan jaringan lain.

Dalam pelatihan AI, ribuan GPU bekerja secara sinkron, menciptakan pola konsumsi daya yang seragam dan mendadak. Tidak seperti beban data center tradisional yang asinkron dan rata-rata, beban AI ini menyebabkan sistem listrik mengalami "kejutan" berkali-kali.

NVIDIA memecahkan masalah ini dengan pendekatan menyeluruh:

1. Power Cap - Mengendalikan daya GPU saat awal pelatihan. Sistem secara bertahap meningkatkan batas daya GPU agar selaras dengan kapasitas jaringan.

2. Power Burn - Saat pelatihan tiba-tiba selesai, sistem tetap menggunakan daya untuk menghindari penurunan drastis. GPU dijalankan dalam mode pembakar daya untuk melepas daya secara bertahap.

3. Penyimpanan Energi - Menggunakan kapasitor elektrolit di dalam rak, energi disimpan saat penggunaan rendah dan dilepaskan saat beban melonjak.

Dengan algoritma cerdas di driver perangkat lunak, sistem ini mampu menyesuaikan output daya dengan karakteristik jaringan, sambil tetap menjaga performa GPU.

Dalam pengujian internal, NVIDIA membandingkan rak GB200 lama dengan rak GB300 baru. Hasilnya menunjukkan bahwa:

• Tanpa penyimpanan energi, grafik konsumsi daya AC dari grid sangat fluktuatif,

• Dengan teknologi baru, fluktuasi hampir hilang dan permintaan puncak turun 30 persen saat melatih model LLM seperti Megatron.

Sekitar setengah dari volume PSU GB300 kini diisi oleh kapasitor penyimpanan energi, sekitar 65 joule per GPU, bekerja sama dengan vendor LITEON Technology.

Dengan pengontrol manajemen pengisian daya baru, teknologi ini mengubah profil beban ke jaringan tanpa mengembalikan energi ke utilitas. Penyimpanan ini hanya digunakan untuk meredam lonjakan dan memungkinkan pusat data untuk mengurangi kapasitas daya terpasang, atau menambah lebih banyak rak dalam batas daya yang sama.

Sistem ini terdiri dari beberapa unit PSU per rak, yang berarti strategi penyimpanan energi dan perataan beban dilakukan secara agregat-baik di tingkat rak maupun seluruh ruang data. Ini memungkinkan:

• Kepadatan rak lebih tinggi,

• Penghematan besar dalam biaya infrastruktur dan operasional,

• Kinerja yang tetap stabil di tengah beban AI ekstrem.

Dengan menggabungkan penyimpanan energi, pengelolaan ramp rate, dan fitur power cap serta power burn, NVIDIA berhasil menciptakan ekosistem daya baru yang tangguh dan hemat. GB300 NVL72 menjadi langkah strategis untuk menghadapi tantangan daya AI modern, bukan hanya demi performa, tetapi juga untuk efisiensi energi global.

Pusat data masa depan tampaknya tak cukup hanya dengan GPU hebat-mereka juga harus cerdas dalam mengelola listrik.

Kontributor riset ini meliputi Jared Huntington, Gabriele Gorla, Apoorv Gupta, Mostafa Mosa, Chad Plummer, Nilesh Dattani, Tom Li, Pratik Patel, Kevin Wei, Ajay Kamalvanshi, dan Divya Ramakrishnan.