Ant Group lanza Ling 3.0 Flash, activando 5.1 mil millones de tokens por unidad

Ant Group ha presentado Ling 3.0 Flash, un modelo de lenguaje a gran escala que activa solo 5.1 mil millones de tokens de un total de 124 mil millones de parámetros. Se informa que la capacidad de la versión cuantizada FP8 es aproximadamente de 128 GB, que es la mitad de la versión BF16. Las versiones originales BF16 y FP8 de Ling 3.0 Flash están disponibles en Hugging Face y ModelScope bajo la licencia MIT, y se pueden distribuir a través de SGLang o vLLM. Este modelo adopta una estructura de Mezcla de Expertos (Mixture-of-Experts, MoE) que llama solo a algunas redes de expertos según la entrada, reduciendo así la carga computacional. Soporta de forma básica una ventana de contexto de 256K y puede expandirse hasta 1M de tokens. En tareas de alta frecuencia, tiene como objetivo una velocidad de inferencia máxima de 1000 tokens por segundo y un tiempo de respuesta del primer token de menos de 100 ms. Según la documentación oficial, Ling 3.0 Flash aplica una estructura de atención lineal híbrida que intercala capas KDA y MLA en una proporción de 5 a 1. Ling 3.0 Flash estará disponible de forma gratuita desde la 1:00 a.m. del 23 de julio hasta las 12:59:59 a.m. del 7 de agosto, y en agosto se aplicará un descuento del 75%, con un precio normal de 0.40 yuanes por cada millón de tokens de entrada y 1.20 yuanes por cada millón de tokens de salida.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.