DeepSeek lanza el marco de inferencia de código abierto DeepInfer compatible con Huawei Ascend

DeepSeek anunció la apertura total del marco de inferencia de código abierto DeepInfer, junto con la apertura del componente de codificación y decodificación de tokens de nivel de producción deepseek-recipe. DeepInfer integra operadores de alto rendimiento y un motor de inferencia profundamente optimizado, soportando inferencia distribuida, decodificación de suposiciones, SWA Bounded Replay y salida estructurada, siendo compatible con las plataformas de NVIDIA y Huawei Ascend. DeepSeek ya ha implementado un servicio de inferencia a gran escala de alta capacidad y baja latencia para DeepSeek V4.1 Flash basado en DeepInfer, y el código de inferencia y optimización para nuevos modelos se actualizará continuamente en el futuro. deepseek-recipe está completamente alineado con la lógica de procesamiento de la API oficial de DeepSeek, asegurando que la comunidad obtenga una experiencia consistente con la implementación oficial. El repositorio de código abierto y el informe técnico ya han sido publicados.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.