CloudSome завершила фінансування на суму 3,6 мільйона доларів США для створення багатомодельної AI інфраструктури для високочастотного бізнесу Web3

Біржі, квантові установи та платформи цифрових активів потребують не лише потужніших моделей, а й стабільних ресурсів для викликів, можливості переключення між постачальниками та контрольованих витрат.

Головний офіс CloudSome, платформи API для єдиної AI моделі, розташований у Сінгапурі, нещодавно завершив фінансування на суму 3,6 мільйона доларів США. Ці кошти будуть використані переважно для розвитку продуктів, розширення ресурсів моделі, підвищення інфраструктурних можливостей, а також для розробки малих моделей, орієнтованих на сценарії Web3.

З переходом генеративного AI з експериментальної стадії в реальний бізнес, потреби підприємств Web3 у моделях також змінюються. Для бірж, квантових установ, гаманців, платформ цифрових активів та професійних торгових команд справжнім фактором, що впливає на можливість впровадження AI в виробниче середовище, є не лише потужність моделі, а й здатність постачати ресурси моделі, стабільність викликів під час пікових навантажень, наявність альтернативних шляхів у разі коливань постачальників, а також передбачуваність і керованість загальних витрат.

CloudSome прагне вирішити саме цю інфраструктурну проблему.

Клієнти Web3 потребують не одноразового виклику моделі, а постійно працюючих AI можливостей

Бізнес Web3 має природні характеристики глобалізації, інформаційної насиченості та цілодобової роботи.

Біржі повинні постійно обслуговувати глобальних користувачів; квантові та дослідницькі команди повинні обробляти величезні обсяги інформації про ринок, проектів, оголошень, коду та неструктурованих даних; гаманці та платформи цифрових активів повинні підтримувати багатомовний контент, обслуговування користувачів, внутрішній аудит та робочі процеси.

Коли AI інтегрується в ці процеси, обсяги викликів моделей безпосередньо залежать від змін на ринку.

Під час різких коливань ринку, оголошення важливих політик, запуск популярних проектів або швидкого зростання активності в спільноті, запити користувачів, внутрішні аналітичні завдання та потреби в обробці контенту можуть різко зрости за короткий час. У цей момент, якщо підприємство покладається на єдину модель або єдиного постачальника, будь-які обмеження, затримки, нестача ресурсів або тимчасова недоступність можуть безпосередньо вплинути на відповідні AI функції.

Багатомодельна маршрутизація залишає простір для раптових навантажень та коливань постачальників

Багатомодельна маршрутизація не є простим розподілом навантаження між різними моделями.

У реальному бізнесі підприємства повинні враховувати типи завдань, можливості моделей, швидкість реагування, витрати, доступні ліміти та стан постачальників, перш ніж вирішити, яка модель або канал повинні обробляти запит.

Наприклад, одна і та ж біржа може одночасно використовувати моделі для обробки багатомовного обслуговування клієнтів, підсумків оголошень, пошуку знань, допомоги з кодом та внутрішніх операційних завдань. Різні завдання мають різні вимоги до продуктивності моделей, затримок і витрат, тому немає необхідності покладатися на одну й ту ж модель для всіх завдань.

Квантові та дослідницькі команди також можуть одночасно стикатися з різними типами запитів: частина завдань потребує більшої потужності міркувань, частина більше зосереджена на низькій затримці та обробці партій, а частина завдань просто вимагає класифікації інформації, перетворення форматів або відбору контенту.

CloudSome надає клієнтам більше простору для управління через багатомодельний доступ, переключення в разі збоїв та управління викликами.

Коли ринкові події призводять до пікових запитів або коли один з постачальників стикається з обмеженнями, затримками та коливаннями в обслуговуванні, платформа може зменшити залежність від єдиної моделі та єдиного постачальника через альтернативні моделі або канали обслуговування.

Водночас швидкість запитів, обмеження на одночасні запити та добові ліміти токенів можуть використовуватися для контролю витрат ресурсів різних проектів, щоб уникнути перетворення раптових навантажень на непередбачувані витрати.

Це означає, що підприємства можуть не лише викликати моделі, але й почати централізовано управляти та координувати ресурси моделей.

Розробка малих моделей для високочастотної торгівлі та квантових сценаріїв Web3

Окрім постійного розширення загальних ресурсів моделей, CloudSome також використовуватиме це фінансування для просування розробки малих моделей, орієнтованих на вертикальні сценарії Web3, з акцентом на обслуговування високочастотної торгівлі, квантових досліджень, обробки ринкових даних та аналізу цифрових активів.

У сценаріях високочастотної торгівлі та квантових досліджень моделі повинні обробляти не лише запитання на природній мові, а й величезні обсяги даних, які постійно генеруються, мають відносно чітку структуру та високі вимоги до ефективності обробки. Наприклад, розпізнавання ринкових тенденцій, класифікація новин та оголошень, виділення емоційних сигналів, генерація міток подій, аналіз даних на блокчейні, оцінка стану торгових пар, а також відбір інформації та виділення ознак у процесах квантових досліджень.

Ці завдання зазвичай мають високі частоти викликів, великі обсяги даних, чутливі до часу відповіді та чіткі вимоги до контролю витрат. Якщо всі вони будуть передані великим загальним моделям, це не лише призведе до високих витрат на виклики, але й не обов'язково задовольнить вимоги квантових команд до стабільності, швидкості обробки та можливостей масового виконання.

Виходячи з цієї потреби, CloudSome планує розробити легкі моделі для специфічних завдань у високочастотній торгівлі та квантовому бізнесі, щоб вони могли виконувати високочастотні, стандартизовані та відносно чіткі завдання обробки даних.

Мета CloudSome у розробці малих моделей для Web3 не полягає в тому, щоб безпосередньо замінити торгові стратегії, торгові системи або власні моделі прийняття рішень квантових установ, а в тому, щоб надати командам високочастотної торгівлі та квантовим командам більш ефективні базові можливості моделей.

Через співпрацю малих моделей з загальними великими моделями CloudSome сподівається поступово побудувати інфраструктуру для обробки даних та викликів моделей, орієнтовану на ринок Web3, щоб надати біржам, квантовим установам та професійним торговим командам більш ефективні, стабільні та контрольовані AI можливості.

Задоволення спільних потреб різних клієнтів Web3

Різні типи клієнтів Web3 мають очевидні відмінності у конкретних сценаріях використання.

Біржі та платформи цифрових активів зазвичай більше зосереджуються на цілодобовому обслуговуванні, глобальних користувачах, багатомовній підтримці, раптових навантаженнях та безперервності обслуговування для користувачів.

Квантові установи та дослідницькі команди більше зосереджуються на можливостях постійних викликів, обробці інформації в масовому порядку, робочих процесах досліджень, допомозі з кодом та організації неструктурованих даних.

Команди гаманців та супутніх послуг можуть використовувати можливості моделей для організації даних, внутрішніх інструментів, підтримки користувачів та допомоги в ручному аудиті.

Професійні трейдери та розробники торгових інструментів можуть більше зосереджуватися на швидкому доступі до різних моделей, переключенні між різними завданнями та контролі витрат відповідно до фактичного використання.

CloudSome не надає торгові стратегії і не замінює системи управління ризиками, відповідності та виконання торгівлі бірж, квантових установ або відповідних постачальників послуг.

Платформа виконує роль шару викликів моделей та управління ресурсами, надаючи спільні інтерфейси, ресурси моделей, маршрутизацію та можливості управління використанням для різних сценаріїв Web3.

Від викликів моделей до управління ресурсами моделей

На ранніх етапах застосування генеративного AI підприємства зазвичай зосереджуються на питанні "чи можливо підключити певну модель".

Але з ростом обсягів викликів, збільшенням команд та розширенням бізнес-сценаріїв, питання поступово переходить до:

• Які команди можуть викликати які моделі

• Скільки ресурсів може використовувати кожен проект

• Яка модель найбільше підходить для поточного завдання

• Як переключитися, якщо один з постачальників недоступний

• Скільки витрат споживають різні бізнес-лінії

• Як уникнути перерв у обслуговуванні або неконтрольованих витрат через раптові запити

Отже, цінність інфраструктури в епоху багатомоделей полягає не лише в допомозі розробникам швидше завершити один виклик API, а й у допомозі підприємствам постійно управляти ресурсами моделей.

Для розробників безпосередня цінність CloudSome полягає в зменшенні витрат на адаптацію інтерфейсів та переключення між моделями.

Для підприємств цінність ще більше розширюється до управління доступом, лімітами викликів, контролем одночасних запитів, переключенням у разі збоїв та управлінням витратами.

Ці можливості не є рівнозначними повній системі управління AI для підприємств, але можуть забезпечити базовий контроль ресурсів та управління використанням на рівні викликів моделей, що є необхідною основою для впровадження AI можливостей у реальний бізнес.

Наступні кроки після фінансування

Після завершення цього раунду фінансування CloudSome продовжить вдосконалювати можливості контролю розробників, управління API, єдиного білінгу та аналізу використання, а також подальшого підвищення постачання ресурсів моделей, управління запитами, переключення у разі збоїв та контролю одночасних запитів.

Платформа також розширить кількість моделей та офіційних каналів обслуговування, постійно підвищуючи стабільність викликів для клієнтів з різних регіонів та різних масштабів бізнесу.

Мета CloudSome полягає в тому, щоб біржі, квантові установи, торгові команди та інші клієнти високочастотного бізнесу більше не потребували окремого управління кількома постачальниками моделей, каналами викликів та системами білінгу, а могли б використовувати різні AI моделі через єдину платформу більш стабільно, гнучко та контрольовано.