AMD admite la ejecución local del modelo Qwen 27B de Alibaba

AMD ha anunciado que apoyará la ejecución local del modelo Qwen 27B de Alibaba en sus PC y estaciones de trabajo AI desde el día de su lanzamiento. Esta medida tiene como objetivo proporcionar un entorno para ejecutar modelos de IA de código abierto a gran escala sin necesidad de acceso a la nube. El modelo Qwen 27B es un modelo denso con 27 mil millones de parámetros, optimizado para la generación de código, tareas prácticas, investigación y aplicaciones de IA con contextos largos. El entorno de ejecución se basa en el marco de inferencia de código abierto llama.cpp y es compatible con PCs y estaciones de trabajo AI equipadas con procesadores AMD, así como con una única tarjeta gráfica AMD de 32 GB. En pruebas iniciales, se observó un rendimiento de inferencia local de hasta 24.5 tokens por segundo en el procesador Ryzen AI Max Plus 395 y hasta 51.8 tokens por segundo en la GPU Radeon AI Pro R9700. El soporte de 'Día 0' significa que el sistema de soporte está preparado para ejecutarse de inmediato en entornos de hardware y software específicos al momento del lanzamiento del modelo. Alibaba está haciendo que los modelos de la serie Qwen estén disponibles como código abierto para que desarrolladores, instituciones de investigación y empresas puedan utilizarlos. Este apoyo es parte de la competencia en semiconductores de IA e infraestructura de IA local, y AMD está ampliando un ecosistema que permite compartir entre entornos en la nube y locales.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.