Tether publica el código abierto de TurboQuant, con una tasa de compresión de caché KV en dispositivos de IA locales de hasta 5 veces

By: rootdata|2026/06/01 21:43:26
0
Compartir
copy

El equipo de investigación de IA de Tether anunció el lanzamiento de código abierto de la versión de producción de TurboQuant y su integración en el SDK QVAC 0.12.0.

TurboQuant se basa en un algoritmo de compresión de memoria de Google Research, que puede comprimir la caché KV del tiempo de ejecución de IA hasta 5 veces manteniendo una calidad de salida cercana a la de los modelos sin comprimir.

Esto significa que los ordenadores portátiles, teléfonos móviles y dispositivos periféricos pueden gestionar conversaciones más largas, archivos más grandes y tareas más complejas sin necesidad de subir datos a la nube.

Este lanzamiento de código abierto incluye una canalización de cuantización completa, adaptadores de marcos de inferencia convencionales y documentación para desarrolladores, dirigida a desarrolladores y empresas emergentes que implementan IA en hardware de consumo, dispositivos periféricos y redes entre pares.

Precio de --

--

Te puede gustar

¿Por qué Peter Thiel, el hombre detrás de Palantir, prepara su salida de Argentina?

Palantir, el riesgo político y la autopreservación de los oligarcas tecnológicos.

La crisis de la mediana edad de los GP de cripto: sin PMF, no hay próximo cheque de los LP

Tras perder la inmensidad de las estrellas y el mar, la mayoría de los GP de cripto que no lograron obtener rendimientos excesivos en este ciclo deben lanzar pragmáticamente un producto con PMF, ya sea demostrando su capacidad para ayudar a los LP a obtener rendimientos excesivos a través de algún mercado de nicho, o resolviendo problemas específicos para los LP/socios...

La defensa rota de los guardianes de Solana: para atacar a Hyperliquid, ¿han rescatado el guion que alguna vez criticaron de Ethereum?

El auge de HYPE desata una batalla de gigantes. Un líder de Solana critica duramente a Hyperliquid por su centralización, mientras que Arthur Hayes responde con contundencia y una apuesta de 100.000 dólares.

Entrevista con el maestro de la macroeconomía Raoul Pal: La competencia en IA está dando lugar a una "singularidad económica", no te deshagas fácilmente de tus activos en los próximos cuatro años

En comparación con el Nasdaq, Bitcoin se encuentra actualmente en una posición de sobreventa severa dentro de su tendencia a largo plazo.

Última investigación del BIS: El futuro de las stablecoins y el panorama monetario global

El informe sostiene que las stablecoins fortalecerán el dominio del dólar estadounidense a corto plazo, planteando riesgos para la soberanía monetaria de los mercados emergentes y las economías en desarrollo, mientras que su trayectoria a largo plazo dependerá de sus modelos de adopción, respuestas regulatorias y la sinergia de...

Tres años después: Una mirada retrospectiva a mis juicios sobre ChatGPT en 2023

De hecho, no es tan difícil ver el panorama general; lo difícil es admitir que hemos dado por sentado repetidamente las cifras, la velocidad y la distribución.

Contenido

Monedas populares

Últimas noticias cripto

Leer más
iconiconiconiconiconiconicon
Atención al cliente:@weikecs
Cooperación empresarial:@weikecs
Trading cuantitativo y CM:bd@weex.com
Programa VIP:support@weex.com