Intel та SK Hynix запускають рішення для подолання вузьких місць у AI-інтерпретації
"Просто мати достатню обчислювальну потужність GPU для підтримки AI недостатньо, необхідно поєднувати це з CPU для спільного управління, управління та виконання AI-завдань."
Віце-президент та генеральний менеджер Intel з продуктів AI для дата-центрів Арніл Нандурі зробив цю заяву 12 числа на AI-саміті Intel у Сеулі, що проходив у районі Каннам. Intel на цьому саміті оголосила про свій технологічний шлях у сфері AI та галузеві рішення, а також про створення альянсу K-AI, до якого приєдналися 23 місцеві корейські компанії та установи.
Intel вважає, що з поширенням AI-агентів, які здатні самостійно планувати та виконувати кілька завдань, співпраця між CPU, GPU та спеціалізованими прискорювачами стає все більш важливою. Їхня концепція полягає в тому, щоб використовувати переваги різних напівпровідників для створення гетерогенних обчислень, зменшуючи витрати та енергоспоживання на етапі AI-інтерпретації — процес, в якому AI генерує результати на основі вже вивченого контенту.
SK Hynix, у свою чергу, зосереджується на підвищенні ефективності читання та запису даних, підтримуючи цю архітектуру. Компанія запропонувала рішення для великої пам'яті, незалежне від серверів CPU та GPU, яке підтримує спільне використання кількома серверами; щоб задовольнити постійно зростаючий попит на обчислювальну потужність AI, SK Hynix спільно з клієнтами та партнерами перевіряє технологію спільного використання пам'яті та з самого початку співпрацює з Intel на етапі проектування системи.
Віце-президент SK Hynix, відповідальний за архітектуру систем, під час виступу на тему "Технології зберігання та проектування систем в епоху AI" зазначив: "В епоху AI-агентів зростає цінність CPU, і конкурентоспроможність Intel викликає велику увагу. Ми сподіваємося значно підвищити загальну продуктивність та енергоефективність, переосмисливши роль пам'яті в системі."
CPU відповідає за управління завданнями
При запиті користувача AI-агенту потрібно виконати ряд завдань, таких як пошук даних, виконання програм, перевірка результатів. Нандурі сказав: "Агенту потрібно повторно інтерпретувати та взаємодіяти, щоб згенерувати відповідь, що споживає велику кількість токенів, підвищуючи витрати. Інфраструктура повинна бути спроектована відповідно до характеристик таких завдань, щоб підвищити ефективність та знизити витрати."
Сервери Intel Xeon CPU займають центральну позицію в управлінні завданнями. У другому кварталі цього року було випущено Xeon 6+, який має до 288 енергоефективних обчислювальних ядер, здатних одночасно обробляти велику кількість завдань.
CPU класифікує запити, розподіляє їх відповідним AI-моделям, контролює виконання програм та безпеку; GPU виконує моделі, відповідаючи за обчислення результатів; для сценаріїв з низькими вимогами до затримки Intel впроваджує спеціалізовані сервери американської компанії AI Samba Nova.
Розроблюваний GPU для інтерпретації Crescent Island оснащений великою пам'яттю, що підтримує одночасну роботу кількох моделей. Версія Intel оснащена LPD DR5X, з обсягом пам'яті до 160 ГБ, а версія від партнерів може досягати 480 ГБ.
Нандурі розкрив, що одна карта вже продемонструвала можливість створення відео з тексту, але "апаратне та програмне забезпечення ще не досягли стандартів масового виробництва". Щодо співвідношення CPU, GPU та серверів він зазначив: "Оптимальна комбінація залежить від типу завдання та планування інфраструктури."
SK Hynix: архітектура спільної пам'яті скоротила час відповіді на перший токен з 80 секунд до 15 секунд
Розподіл обчислювальних одиниць стає дедалі детальнішим, а важливість читання та запису пам'яті продовжує зростати. Але наразі HBM зазвичай розгортається разом з GPU, що обмежує можливості розширення пам'яті. Віце-президент SK Hynix зазначив: "Технологія 3D-складання все ще розробляється, але попит зростає занадто швидко, клієнти не можуть чекати. Ми намагаємося вирішити вузькі місця з системного рівня."
SK Hynix запропонувала рішення для пам'яті: сервери зберігають свою оригінальну пам'ять, додатково оснащуючи пристроями спільної пам'яті, які використовуються кількома серверами. Після завершення обчислення GPU зберігає результати в спільній пам'яті, а потім переходить до наступного завдання; коли інші GPU потребують цих даних, вони можуть безпосередньо їх зчитувати.
Віце-президент SK Hynix навів приклад: "Це як якщо б у кожного було по два-три автомобілі, або всі користувалися одним автомобілем, який варіант більш ефективний. Це рішення підвищує використання пам'яті та масштабованість, знижуючи витрати для всієї системи."
Спільна пам'ять також може зменшити повторні обчислення AI. AI зберігає проміжні результати в кеші KV для повторного використання під час подальшої інтерпретації; коли діалоги стають довшими, а кеш накопичується, локальна пам'ять GPU може швидко вичерпатися, і система змушена видаляти кеш та перераховувати. Перемістивши кеш до незалежної спільної пам'яті, можна уникнути повторних обчислень.
У порівняльних тестах з партнерами: рішення з видаленням кешу та перерахунком займало в середньому 80,76 секунд для генерації першого токена; кеш на зовнішньому SSD скоротив час до 33,56 секунд; на основі рішення CXL з віддаленою DRAM це зайняло лише 15,45 секунд, що скоротило швидкість відповіді приблизно на 81% у порівнянні з рішенням з перерахунком.
Віце-президент SK Hynix сказав: "Читання даних з пам'яті CXL має вищу затримку, ніж локальна пам'ять, підключена безпосередньо до GPU/CPU, але в порівнянні з повторними обчисленнями продуктивність все ще має значні переваги."
Розширення до медичних пристроїв та безлюдних фабрик
Концепція Intel, що поєднує чіпи та програмне забезпечення за завданнями, також реалізується в медичних та промислових сферах. У сценаріях з обмеженим простором та електроживленням ключовим є досягнення можливостей AI з мінімальним апаратним забезпеченням.
Samsung Madison, спираючись на вбудовану обчислювальну потужність AI процесора Core Ultra та програмне забезпечення Open VINO, реалізує автоматичне вимірювання товщини ультразвукових зображень. Intel стверджує, що це рішення не потребує окремого GPU, а пропускна здатність AI-інтерпретації зросла в 4,2 рази в порівнянні зі старими рішеннями.
Intel також співпрацює з Daimler Technology для розробки проекту безлюдної фабрики, що з'єднує роботи, виробниче обладнання та логістичні системи. У бізнесі з виготовлення замовних чіпів Intel пропонує поєднати власні розробки клієнтів з власними малими чіпами, гнучко додаючи функції.
Цей саміт має на меті з'єднати AI-додатки та співпрацю від дата-центрів до ПК та промислових рішень. Мета альянсу K-AI полягає в тому, щоб допомогти місцевим клієнтам створити власні AI-системи, спираючись на корейські сервери, чіпи, програмне забезпечення та галузеві рішення.
Віце-президент та генеральний менеджер Intel в Азіатсько-Тихоокеанському регіоні Сантош Вісванатан зазначив: "Однією з переваг Intel є допомога в інноваціях партнерів на глобальному ринку. Ми також можемо тісно співпрацювати, щоб постачати продукцію корейських компаній клієнтам по всьому світу, які мають потребу."
Ціна --
Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.
Вам також може сподобатися

Planet Labs об'єднується з Stoke Space — на випадок, якщо SpaceX дійсно зупинить Falcon 9

Запуск платформи Space and Time, підтримуваної Microsoft, для перевірки приватних даних AI-агентами

Ян Тяньчжень переходить у венчурний капітал: спільно з Кімі інвестує у проекти штучного інтелекту

Pliant завершила раунд фінансування серії C на 80 мільйонів доларів, Seaya Nova та Speedinvest стали провідними інвесторами

zkLink Nova контракт зазнав атаки, пропонуючи 20% винагороди для білих капелюхів

Шість канадських банків досліджують токенізовані депозити

Чому DePIN стане наступною великою революцією у 2026–2028 роках
Основні висновки: DePIN стали важливим рішенням для задоволення інфраструктурних потреб AI, перейшовши від теорії до практичного впровадження…

Фондовий ринок США зазнав панічного розпродажу, багато установ вважають, що він все ще перебуває на етапі корекції бичачого ринку

Мільярдер Девід Теппер тільки що здійснив масову ротацію чіпів штучного інтелекту — чи виправдає це себе?

Втрата Дженсена Хуана коштує набагато більше ніж 2,5 трильйона доларів

Якщо насувається крах фондового ринку, Уоррен Баффет каже, що це — номер один крок, який повинні зробити всі інвестори

Чи варто інвестувати $1,000 у Bloom Energy прямо зараз?
![[Аналіз] Чому це падіння біткоїна відрізняється від минулих](/public-static/30_f8d737795f.png?format=avif)
[Аналіз] Чому це падіння біткоїна відрізняється від минулих

Чи варто купувати акції Tilray на рекордно низькому рівні, чи це пастка вартості?

2 фінансові акції для покупки поблизу їх 52-тижневих мінімумів

Знайомтеся з правилом Уоррена Баффета, яке робить цю споживчу акцію вигідною для інвестицій у 1,000 доларів прямо зараз

Краще купити: Біткоїн проти Ефіру

Новий викуп акцій Airbnb на 12 мільярдів доларів підтримується маржею вільного грошового потоку 35%. Ось що це означає для акціонерів.

Міністерство фінансів США продало 15 мільярдів доларів у першому аукціоні казначейських векселів на дев'ять днів з 2008 року

Не Anthropic. Не SpaceX. Це акція штучного інтелекту, яку варто купити на довгий термін

Біткойн торгувався нижче свого 200-тижневого середнього лише 8,4% часу. Історія свідчить, що саме тоді терплячі інвестори отримують прибуток.

Грег Абель затвердив рекордні викуп акцій на 9,6 мільярда доларів для Berkshire Hathaway минулого кварталу, що більше ніж удвічі перевищує темпи, встановлені в другому кварталі. Чи залишається Berkshire привабливим для покупки, коли акції наближаються ...

Чи варто купувати акції Markel Group після падіння на 10% у 2026 році?

Якщо чіпи штучного інтелекту стануть товаром, Nvidia найбільше втратить, тоді як ці 3 акції можуть виграти

Законопроект Гонконгу пропонує тюремне ув'язнення за фальшиві заяви про ліцензії на криптовалюти

Акції Micron впали більше ніж на 40% з червневого рекорду. Історія показує, що сталося після інших 5 падінь такої глибини.

Follow the Money: раунд Variational на $110 млн, активність Tether і угоди M&A

Думка: Втрата 60 мільярдів доларів на фондовому ринку США за 45 днів не є крахом бульбашки AI, відновлення на дні в квітні 2025 року може повторитися

3 акції енергетичних компаній дата-центрів впали більш ніж на третину від своїх рекордів, які варто купити зараз і тримати до 2030 року






