Writer lance le nouveau modèle Palmyra X6 axé sur la réduction des coûts

Rapport de CoinWorld :

Les clients d'entreprise portent de plus en plus attention aux coûts de déploiement de l'IA, surtout dans un contexte où l'utilisation des grands modèles continue d'augmenter. Le nouveau modèle et les outils associés lancés par Writer visent précisément ce point de pression : réduire les coûts d'exécution autant que possible sans changer les habitudes d'utilisation des entreprises.

Palmyra X6 destiné au déploiement en entreprise

Writer a lancé jeudi son nouveau modèle phare, Palmyra X6. Ce modèle est basé sur la version post-formation du modèle open source GLM-5.2 de Z.ai, et est conçu pour une utilisation directe par les entreprises, plutôt que de se concentrer uniquement sur les performances des tests de référence.

La société affirme que Palmyra X6 sera proposé en parallèle avec d'autres modèles de Writer, ainsi que des modèles externes accessibles via Azure ou Amazon Bedrock, permettant aux clients de ne pas avoir à reconstruire l'ensemble de leur système autour d'un modèle unique.

Mise à niveau des outils pour cibler les coûts des tokens

Avec le nouveau modèle, une mise à niveau importante de l'agentic harness standard de Writer a également été lancée. L'accent n'est pas seulement mis sur le modèle lui-même, mais aussi sur la planification, l'appel et le processus de raisonnement lors de l'exécution de tâches multi-étapes.

• Nouveau modèle : Palmyra X6
• Modèle de base : GLM-5.2
• Coût des tâches de base réduit jusqu'à 50 %

Writer prévoit qu'avec ce nouveau modèle et les ajustements d'infrastructure, les clients pourraient voir leurs coûts sur les tâches de base réduits jusqu'à 50 %. La société souligne que si des tâches complexes peuvent être réalisées avec moins de tokens et plus rapidement, les coûts de déploiement globaux diminueront considérablement.

Des études montrent que l'optimisation des processus est plus efficace

Une récente étude de l'équipe de recherche de Writer soutient également cette affirmation. L'étude a testé les variations de coûts de plusieurs modèles sous différents processus d'exécution, et les résultats montrent que dans de nombreux cas, optimiser l'efficacité du harness est plus stable que de simplement changer de modèle, entraînant en moyenne une réduction des coûts d'environ 40 %.

Le PDG de Writer, May Habib, a déclaré que l'intérêt des clients d'entreprise pour la poursuite de nouveaux tests de référence diminue, et que leur attention se tourne vers la stabilité des coûts. Elle a également mentionné que certains responsables techniques d'entreprise perdent confiance dans les grands laboratoires d'IA, en partie à cause du fait que leur modèle commercial est fortement lié à l'utilisation des tokens.