Bank of America opera un rastreador de rendimiento y costos de modelos de IA

Bank of America está operando un rastreador interno de modelos de IA que compara el rendimiento y los costos de los grandes modelos de lenguaje. Este rastreador indica que el enfoque se ha ampliado desde el rendimiento del modelo hacia la gestión de costos operativos. Según los materiales presentados en el segundo trimestre, aproximadamente 200,000 usuarios activos generan más de 400,000 solicitudes al día, y el número de casos aprobados de uso de IA y aprendizaje automático ha superado los 300. De los 114 casos de uso de IA generativa actualmente en operación, 34 están en estado de despliegue completo. El presidente Brian Moynihan enfatizó que la IA no es un concepto nuevo para Bank of America, señalando que el asistente de IA Erica, lanzado en 2018, ha sido utilizado aproximadamente 200 millones de veces por 20 millones de personas hasta el cuarto trimestre de 2025. La selección de modelos de IA se está convirtiendo en un asunto de adquisiciones, presupuesto y control interno, en lugar de ser una preferencia del equipo técnico. Claude OpenAI de Anthropic tiene un precio de 5 dólares por 1 millón de tokens de entrada y 25 dólares por salida. FinOps es un enfoque de gestión operativa que mide y controla los costos de infraestructura en la nube y de IA, y las grandes organizaciones necesitan un sistema para gestionar el uso y la asignación de costos por departamento. Aunque es incierto si el rastreador interno de Bank of America se hará público, se ha confirmado que la escala de uso de IA ha entrado en una fase operativa.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.