¿Claude abre la muralla de CUDA de NVIDIA de 20 años en tres días? Anthropic permite que Mythos porte el código base de GPU por sí mismo

Beating AI, Claude Mythos Preview solo necesitó 3 días para hacer que un modelo Claude funcionara en un GPU de AMD en los pasos clave de cálculo. La mayoría de los núcleos de GPU necesarios fueron portados o escritos por Claude, con muy poca intervención humana. Se afirma que, en el pasado, conectar nuevas plataformas de chips requería a menudo decenas de ingenieros trabajando durante 6 a 12 meses.

Una de las ventajas más difíciles de reemplazar es CUDA.

CUDA es una plataforma de computación GPU lanzada en 2006. Para 2018, marcos de aprendizaje profundo como PyTorch y TensorFlow ya utilizaban ampliamente CUDA y sus bibliotecas de computación asociadas. También se han ido perfeccionando herramientas de comunicación entre múltiples tarjetas, depuración y optimización de rendimiento. Los desarrolladores pueden utilizar eficientemente los GPU sin tener que escribir una gran cantidad de programas de bajo nivel desde cero.

A medida que más programas de entrenamiento e inferencia de IA se desarrollan en torno a CUDA, se ha acumulado una gran cantidad de código y herramientas listas para usar. La elección de los desarrolladores a menudo se basa en que el software ya está adaptado. Incluso si AMD produce GPUs de alto rendimiento, los clientes que deseen cambiarse deben enfrentar problemas de migración de código, pruebas de compatibilidad y optimización del rendimiento.

El MI355X de AMD está equipado con 288 GB de memoria de video de alto ancho de banda, y su configuración de hardware no es débil. El problema es que, para los núcleos de GPU escritos, al cambiar a AMD, no necesariamente funcionarán directamente; incluso si funcionan, el rendimiento puede no ser ideal. Los ingenieros también deben ajustar el código según la arquitectura del chip de AMD, probando repetidamente los resultados de cálculo y la velocidad de ejecución.

AMD ya ha lanzado herramientas como ROCm y HIPIFY para ayudar a los desarrolladores a migrar programas de CUDA. Herramientas de programación multiplataforma como Triton también están reduciendo la dificultad de migración, pero los cálculos de bajo nivel complejos aún requieren una gran optimización manual.

Esta vez, Mythos asumió parte de ese trabajo, portando o reescribiendo los núcleos de GPU por sí mismo. Según las diapositivas de la presentación, logró que un modelo Claude procesara palabras clave en un rendimiento utilizable en el AMD MI355X en 3 días.

De hecho, ya se había estado reduciendo la dependencia de un solo fabricante de chips. El prospecto revela que la empresa ha pasado años estableciendo un sistema de programación de potencia que abarca GPU, GPU de AMD, TPU de Google y Trainium de Amazon, permitiendo elegir diferentes chips según el precio y el rendimiento.

En julio de este año, también se llegó a un acuerdo de colaboración con AMD, planeando desplegar la nueva generación de GPUs de AMD a partir del primer semestre de 2027, con una escala de hasta 2 GW. Ambas partes también utilizarán Claude para acelerar el desarrollo de ROCm y la optimización del rendimiento de GPU, comprometiéndose a invertir hasta 5 mil millones de dólares en el futuro.

El inversionista Marcelo P. Lima considera que la muralla de CUDA ha desaparecido. Sin embargo, el analista Ben Pouladian tiene una opinión diferente: hacer que parte de los cálculos del modelo se ejecuten en AMD es muy diferente de lograr que todo el sistema alcance un rendimiento estable, rentable y competitivo en un despliegue a gran escala.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.