Jensen Huang: W przyszłości stacje bazowe telekomunikacyjne mogą rozwinąć się w rozproszoną sieć AI, wszyscy operatorzy telekomunikacyjni będą oferować moc obliczeniową AI

21 października, na konferencji GTC w Berlinie, dyrektor generalny Nvidii, Jensen Huang, stwierdził, że w przyszłości wszyscy operatorzy telekomunikacyjni będą oferować moc obliczeniową AI, a stacje bazowe telekomunikacyjne mogą rozwinąć się w rozproszoną sieć AI. Porównał gospodarkę AI do piętrowego tortu składającego się z energii, mocy obliczeniowej, fabryk AI, modeli i aplikacji, wskazując w prezentacji, że na poziomie mocy obliczeniowej widnieje tylko logo Nvidii. Inne poziomy obejmują firmy energetyczne, takie jak Siemens Energy i Schneider Electric, budowniczych fabryk AI, takich jak Nscale i Firebird, a także europejskie firmy zajmujące się modelami AI, takie jak Mistral, firma prawnicza AI Legora oraz narzędzie tłumaczeniowe DeepL. Huang dodał, że koszt budowy centrum danych o mocy 1 GW wynosi obecnie około 50 miliardów dolarów, obejmując koszty ziemi, energii, budowy, sprzętu obliczeniowego, przechowywania i chłodzenia.

W międzyczasie Nvidia wprowadziła fabrykę AI DSX Pod, przyspieszając wdrażanie infrastruktury AI w Europie; DSX Pod może skrócić czas wdrożenia do zaledwie 14 dni; europejski ekosystem przemysłowy współpracuje z Nvidią DSX, aby stworzyć najbardziej energooszczędną fabrykę AI na świecie.

Jak podano, platforma fabryki AI DSX wykorzystuje zamknięty obieg chłodzenia cieczą i chłodnice suche, co zmniejsza zużycie wody do chłodzenia obiektów do bliskiego zera, oszczędzając do 54 milionów litrów wody dziennie przy skali 2 GW. Oprogramowanie DSX MaxLPS może pomóc operatorom zmniejszyć zużycie energii o maksymalnie 30% przy tej samej wydajności tokenów.

Nvidia wprowadziła architekturę referencyjną OpenShell, integrującą infrastrukturę Vera Rubin, procesor centralny Vera (CPU), procesor przetwarzania danych BlueField-4 (DPU) oraz oprogramowanie OpenShell do bezpiecznego uruchamiania, co pomaga firmom w masowym budowaniu, uruchamianiu i zarządzaniu agentami AI oraz monitorowaniu ich zachowań i wprowadzaniu zabezpieczeń. Architektura ta nieprzerwanie monitoruje zachowanie agentów za pomocą ramy bezpieczeństwa NVIDIA Sentry działającej na BlueField-4 i wdraża polityki bezpieczeństwa na poziomie sprzętowym. Gdy agent próbuje przekroczyć ustalone przez oprogramowanie granice, system może w milisekundach go odizolować i zatrzymać jego działanie. Nvidia twierdzi, że system Vera Rubin NVL72 osiąga do 30 razy większą wydajność na MW przy obciążeniu agentów, a NVIDIA Sentry może zwiększyć zdolność obsługi agentów o maksymalnie 20%. Architektura ta obsługuje środowiska przedsiębiorstw, takie jak Linux, Kubernetes, Microsoft Windows i może być rozszerzana na urządzenia brzegowe. Firmy takie jak Microsoft, Google Cloud, Dell Technologies, Cisco, OpenAI i Anthropic uczestniczą w związanych z tym współpracach.

Aktualizacja w toku...

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.