Tether hace de código abierto a TurboQuant, con una tasa de compresión de caché KV en dispositivos de IA locales de hasta 5 veces

By: rootdata|2026/06/01 21:43:26
0
Compartir
copy

El equipo de investigación de IA de Tether anunció el lanzamiento de código abierto de la versión de producción de TurboQuant y su integración en el SDK QVAC 0.12.0.

TurboQuant se basa en un algoritmo de compresión de memoria de Google Research, el cual puede comprimir la caché KV del tiempo de ejecución de IA hasta 5 veces manteniendo una calidad de salida cercana a la de los modelos sin comprimir.

Esto significa que las computadoras portátiles, los teléfonos móviles y los dispositivos periféricos pueden manejar conversaciones más largas, archivos más grandes y tareas más complejas sin necesidad de subir datos a la nube.

Este lanzamiento de código abierto incluye una canalización de cuantización completa, adaptadores para marcos de inferencia convencionales y documentación para desarrolladores, dirigida a desarrolladores y empresas emergentes que implementan IA en hardware de grado de consumo, dispositivos periféricos y redes entre pares.

Precio de --

--

También te puede interesar

¿Por qué Peter Thiel, el hombre detrás de Palantir, prepara una salida de Argentina?

Palantir, el riesgo político y la autopreservación de los oligarcas tecnológicos.

La crisis de la mediana edad de los GP de cripto: Sin PMF, no hay próximo cheque de los LP

Tras perder la inmensidad de las estrellas y el mar, la mayoría de los GP de cripto que no lograron obtener rendimientos excedentes en este ciclo deben lanzar pragmáticamente un producto con PMF, ya sea demostrando su capacidad para ayudar a los LP a obtener rendimientos excedentes a través de algún mercado de nicho, o resolviendo problemas específicos para los LP/socios...

La defensa fallida de los guardianes de Solana: para destrozar a Hyperliquid, ¿realmente retomaron el guion que alguna vez criticó a Ethereum?

El auge de HYPE desata una batalla de gigantes. El líder de Solana critica airadamente a Hyperliquid por ser demasiado centralizado, mientras que Arthur Hayes responde con una réplica contundente, apostando 100 000 USD.

Entrevista con el experto en macroeconomía Raoul Pal: La competencia en IA está dando lugar a una "singularidad económica", no te deshagas fácilmente de tus activos en los próximos cuatro años

En comparación con el Nasdaq, Bitcoin se encuentra actualmente en una posición de sobreventa severa dentro de su tendencia a largo plazo.

La investigación más reciente del BIS: El futuro de las stablecoins y el panorama monetario global

El informe sostiene que las stablecoins fortalecerán el dominio del dólar estadounidense a corto plazo, planteando riesgos para la soberanía monetaria de los mercados emergentes y las economías en desarrollo, mientras que su trayectoria a largo plazo dependerá de sus modelos de adopción, las respuestas regulatorias y la sinergia de...

Tres años después: Una mirada retrospectiva a mi juicio sobre ChatGPT en 2023

De hecho, no es tan difícil ver el panorama general; lo difícil es admitir que hemos dado por sentados, una y otra vez, los números, la velocidad y la distribución.

Contenido

Monedas populares

Últimas noticias sobre criptomonedas

Leer más
iconiconiconiconiconicon
Atención al cliente:@weikecs
Cooperación empresarial:@weikecs
Trading cuantitativo y MM:bd@weex.com
Programa VIP:support@weex.com