Tether rend TurboQuant open source, avec un taux de compression du cache KV pour appareil IA local allant jusqu'à 5 fois

By: rootdata|2026/06/01 21:43:26
0
Partager
copy

L'équipe de recherche en IA de Tether a annoncé la publication en open source de la version de production de TurboQuant et son intégration dans le SDK QVAC 0.12.0.

TurboQuant repose sur un algorithme de compression de mémoire de Google Research, qui permet de compresser le cache KV de l'exécution IA jusqu'à 5 fois tout en conservant une qualité de sortie proche de celle des modèles non compressés.

Cela signifie que les ordinateurs portables, les téléphones mobiles et les appareils de périphérie peuvent gérer des conversations plus longues, des fichiers plus volumineux et des tâches plus complexes sans avoir besoin de télécharger des données vers le cloud.

Cette version open source comprend un pipeline de quantification complet, des adaptateurs pour les frameworks d'inférence courants et une documentation pour les développeurs, destinés aux développeurs et aux startups déployant l'IA sur du matériel grand public, des appareils de périphérie et des réseaux pair à pair.

Prix de --

--

Vous pourriez aussi aimer

Pourquoi Peter Thiel, l'homme derrière Palantir, prépare-t-il une sortie en Argentine ?

Palantir, risque politique et autopréservation des oligarques technologiques.

La crise de la quarantaine des GP Crypto : sans PMF, pas de nouveau chèque des LP

Après avoir perdu la grandeur des étoiles et de la mer, la plupart des GP Crypto qui n'ont pas réussi à générer des rendements excédentaires lors de ce cycle doivent lancer de manière pragmatique un produit avec un PMF, soit en prouvant leur capacité à aider les LP à obtenir des rendements excédentaires sur un marché de niche, soit en résolvant des problèmes spécifiques pour les LP/partenaires...

Entretien avec l'expert macro Raoul Pal : La course à l'IA mène à une « singularité économique », ne lâchez pas vos jetons trop facilement au cours des quatre prochaines années

Par rapport au Nasdaq, le Bitcoin se trouve actuellement dans une position de survente sévère au sein de sa tendance à long terme.

Dernières recherches de la BRI : L'avenir des stablecoins et le paysage monétaire mondial

Le rapport estime que les stablecoins renforceront la domination du dollar américain à court terme, faisant peser des risques sur la souveraineté monétaire des marchés émergents et des économies en développement, tandis que leur trajectoire à long terme dépendra de leurs modèles d'adoption, des réponses réglementaires et de la synergie de...

Trois ans plus tard : retour sur mon jugement de ChatGPT en 2023

En réalité, il n'est pas si difficile de voir la situation dans son ensemble ; le plus dur est d'admettre que nous avons pris pour acquis, à maintes reprises, les chiffres, la vitesse et la distribution.

Des outils de casino aux machines de tarification mondiales : le point de vue du leader du NYSE sur Hyperliquid

« Pourquoi peuvent-ils le faire et pas nous ? » Cette question rhétorique révèle non seulement l'anxiété des bourses traditionnelles, mais reflète également le jeu subtil et complexe entre la finance traditionnelle (TradFi) et la finance décentralisée (DeFi), alors que les contrats perpétuels sont passés du statut d'outils de pari à celui d'infrastructure mondiale de découverte des prix.

Contenu

Cryptos populaires

Dernières actus crypto

Lire plus
iconiconiconiconiconicon
Assistance client:@weikecs
Collaborations commerciales:@weikecs
Trading quantitatif/Market makers:bd@weex.com
Programme VIP:support@weex.com