DeepSeek rilascia il framework di inferenza open source DeepInfer compatibile con Huawei Ascend

DeepSeek ha annunciato il rilascio completo del framework di inferenza open source DeepInfer, insieme al rilascio open source del componente di codifica/decodifica Token di livello produttivo deepseek-recipe. DeepInfer integra operatori ad alte prestazioni e un motore di inferenza profondamente ottimizzato, supportando inferenza distribuita, decodifica inferenziale, SWA Bounded Replay e output strutturato, ed è compatibile con le piattaforme NVIDIA e Huawei Ascend. DeepSeek ha già implementato un servizio di inferenza su larga scala ad alta capacità e bassa latenza per DeepSeek V4.1 Flash basato su DeepInfer, e il codice di inferenza e le ottimizzazioni per i nuovi modelli continueranno ad essere aggiornati in futuro. deepseek-recipe è completamente allineato con la logica di elaborazione dell'API ufficiale di DeepSeek, garantendo alla comunità un'esperienza coerente con quella delle distribuzioni ufficiali. Il repository open source e il rapporto tecnico sono stati pubblicati contemporaneamente.

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.