Jensen Huang: Masa Depan Stasiun Telekomunikasi Berpotensi Berkembang Menjadi Jaringan AI Terdistribusi, Semua Operator Telekomunikasi Akan Menyediakan Daya Komputasi AI

Pada 21 Oktober, CEO NVIDIA Jensen Huang menyatakan di konferensi GTC yang diadakan di Berlin bahwa semua operator telekomunikasi di masa depan akan menyediakan daya komputasi AI, dan stasiun telekomunikasi berpotensi berkembang menjadi jaringan AI terdistribusi. Ia membandingkan ekonomi AI dengan kue lima lapis yang terdiri dari energi, daya komputasi, pabrik AI, model, dan aplikasi, dan dalam presentasinya menunjukkan bahwa hanya ada logo satu perusahaan, yaitu NVIDIA, di lapisan daya komputasi. Lapisan lainnya mencakup perusahaan energi seperti Siemens Energy dan Schneider Electric, pembangun pabrik AI Nscale dan Firebird, serta perusahaan model AI Eropa Mistral, perusahaan AI hukum Legora, dan alat terjemahan DeepL. Jensen Huang juga menyatakan bahwa biaya untuk membangun pusat data 1 gigawatt saat ini sekitar 50 miliar USD, mencakup biaya tanah, listrik, konstruksi, perangkat komputasi, penyimpanan, dan pendinginan.

Sementara itu, NVIDIA meluncurkan pabrik AI DSX Pod untuk mempercepat penyebaran infrastruktur AI di Eropa; DSX Pod dapat memperpendek waktu penyebaran hingga 14 hari. Ekosistem industri Eropa bekerja sama dengan NVIDIA DSX untuk menciptakan pabrik AI dengan efisiensi energi tertinggi di dunia.

Dijelaskan bahwa platform pabrik AI DSX menggunakan pendinginan cair tertutup dan pendingin kering, mengurangi jumlah air yang digunakan untuk mendinginkan fasilitas hampir menjadi nol, dengan skala 2 gigawatt dapat menghemat hingga 54 juta liter air per hari. Perangkat lunak DSX MaxLPS dapat membantu operator mengurangi konsumsi daya hingga 30% dengan output token yang sama.

NVIDIA meluncurkan arsitektur referensi OpenShell, mengintegrasikan infrastruktur Vera Rubin, prosesor pusat Vera (CPU), prosesor pengolahan data BlueField-4 (DPU), dan perangkat lunak runtime keamanan OpenShell, untuk membantu perusahaan membangun, menjalankan, dan mengelola agen AI secara besar-besaran, serta menerapkan pemantauan dan batasan keamanan pada perilakunya. Arsitektur ini terus memantau perilaku agen melalui kerangka keamanan NVIDIA Sentry yang berjalan di BlueField-4, dan menerapkan kebijakan keamanan di tingkat perangkat keras. Ketika agen mencoba melanggar batas yang ditetapkan oleh perangkat lunak, sistem dapat mengisolasi dan menghentikannya dalam waktu milidetik. NVIDIA menyatakan bahwa sistem Vera Rubin NVL72 dapat mencapai throughput hingga 30 kali lipat dari sebelumnya per megawatt di bawah beban kerja agen, dan NVIDIA Sentry dapat meningkatkan kapasitas dukungan agen hingga 20%. Arsitektur ini mendukung lingkungan perusahaan seperti Linux, Kubernetes, dan Microsoft Windows, dan dapat diperluas ke perangkat edge. Perusahaan seperti Microsoft, Google Cloud, Dell Technologies, Cisco, OpenAI, dan Anthropic sedang terlibat dalam kolaborasi terkait.

Memperbarui...

Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.