Bank of America lance un suivi des performances et des coûts des modèles d'IA

Bank of America exploite un suivi interne des modèles d'IA qui compare les performances et les coûts des grands modèles de langage. Ce suivi indique que l'accent est mis sur la gestion des coûts d'exploitation en plus des performances des modèles. Selon les documents de présentation du deuxième trimestre, environ 200 000 utilisateurs actifs génèrent plus de 400 000 requêtes par jour, et le nombre de cas d'utilisation d'IA et d'apprentissage automatique approuvés a dépassé 300. Parmi les 114 cas d'utilisation de l'IA générative actuellement en cours, 34 sont en état de déploiement complet. Le président Brian Moynihan a souligné que l'IA n'est pas un concept nouveau pour Bank of America, révélant que l'assistant IA Erica, déployé en 2018, a été utilisé environ 200 millions de fois par 20 millions de personnes d'ici le quatrième trimestre 2025. Le choix des modèles d'IA évolue d'une question de préférence de l'équipe technique à une question d'approvisionnement, de budget et de contrôle interne. Claude d'Anthropic est tarifé à 5 dollars pour 1 million de tokens en entrée et 25 dollars pour la sortie. FinOps est une méthode de gestion opérationnelle qui mesure et contrôle les coûts des infrastructures cloud et IA, nécessitant un système de gestion des volumes d'utilisation et de répartition des coûts par département dans les grandes organisations. Il reste incertain si le suivi interne de Bank of America sera rendu public, mais il a été confirmé que l'utilisation de l'IA a atteint une phase opérationnelle.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.