web3 : OpenAI lance le mode Ultrafast, la vitesse de GPT 5.6 Sol augmente jusqu'à 14 fois

Rapport de CoinWorld :

OpenAI a lancé un nouveau mode appelé Ultrafast, axé sur une vitesse de réponse du modèle plus élevée. La société affirme que ce mode permet à GPT 5.6 Sol de fonctionner à 14 fois la vitesse de traitement standard, avec une vitesse de sortie pouvant atteindre 750 tokens par seconde, actuellement disponible en version préliminaire pour un nombre limité de clients.

Cette mise à jour vise à répondre à la demande des entreprises pour un traitement AI en temps réel. OpenAI indique qu'auparavant, pour obtenir des réponses proches du temps réel, il était souvent nécessaire de recourir à des modèles plus petits ou à des systèmes optimisés pour des tâches spécifiques. L'orientation d'Ultrafast est d'augmenter le volume de travail efficace pouvant être accompli par unité de temps, sans se fier uniquement à des modèles réduits.

Amélioration de la vitesse de sortie

Selon OpenAI, le principal argument de vente d'Ultrafast est la réduction significative du temps d'attente pour la génération.

• Vitesse de sortie maximale pouvant atteindre 750 tokens par seconde
• Vitesse de traitement environ 14 fois celle du mode standard
• La version actuelle est encore en phase de prévisualisation

TechCrunch mentionne que des concurrents comme Anthropic ont également lancé des modes accélérés. Par exemple, Claude propose également un mode rapide, mais les indicateurs de vitesse publiés par OpenAI sont plus élevés.

Ciblage des flux de travail d'entreprise

OpenAI oriente l'application d'Ultrafast vers divers types de tâches d'entreprise, notamment la réponse aux événements, le service et le support client, l'analyse des marchés financiers et le commerce électronique. Ces scénarios sont généralement plus sensibles aux délais, le temps de réponse du modèle ayant un impact direct sur l'efficacité de la collaboration humaine et la performance des processus automatisés.

En termes de positionnement produit, Ultrafast n'est pas un nouveau modèle distinct, mais plutôt une méthode de fonctionnement à haute vitesse autour de GPT 5.6 Sol. Pour les clients d'entreprise, cela signifie qu'ils peuvent intégrer l'IA plus directement dans les processus commerciaux en temps réel tout en conservant une forte capacité de modèle.

Soutenu par Cerebras

OpenAI indique qu'Ultrafast est soutenu par sa collaboration avec la société de puces Cerebras. Les premières qualifications pour la prévisualisation sont actuellement ouvertes à un petit nombre de clients, et l'accès sera progressivement élargi à mesure que la capacité de calcul augmentera.

Cela montre également que la compétition entre les grands modèles s'étend au-delà des paramètres et des capacités, englobant la vitesse de réponse, l'efficacité de déploiement et la synergie de la puissance de calcul sous-jacente. Pour les produits AI destinés au marché des entreprises, la vitesse devient un indicateur clé au même titre que la qualité du modèle.