Las startups de IA comienzan a desarrollar sus propios chips de compra

Un grupo de startups en rápido ascenso ha adoptado un modelo de negocio que consiste en alquilar potencia de cálculo a proveedores de nube y luego revenderla a sus clientes, sin haber invertido un solo centavo en sus propios chips de IA. Ahora se encuentran en una encrucijada: cada vez es más difícil obtener suficiente potencia de cálculo para atender a sus clientes, y algunas empresas han comenzado a adquirir chips por su cuenta, lo que podría reescribir completamente su estructura de costos comerciales.

La escasez de potencia de cálculo también ha obligado a estas startups a buscar recursos en decenas de pequeños nuevos proveedores de nube (neocloud). En comparación con gigantes de la nube como Microsoft Azure, AWS y Google Cloud, los nuevos proveedores de nube suelen tener más capacidad de cálculo disponible. El reciente ataque cibernético a la conocida empresa de servicios de inferencia Fireworks también ha puesto de manifiesto los riesgos ocultos de esta ruta. {#quote_GOOG}

Fuentes informadas han indicado que el ataque cibernético se debió a la débil seguridad de un pequeño proveedor de nube utilizado por Fireworks. Tras el incidente, algunos clientes de Fireworks han comenzado a considerar cambiar de proveedor.

Empresas como Fireworks son conocidas como proveedores de servicios de inferencia: ofrecen servicios a clientes que necesitan chips para ejecutar modelos de IA, y este proceso se llama inferencia. Originalmente, no poseen chips ni operan centros de datos, y su enfoque está en desarrollar software que ayude a los clientes a optimizar la eficiencia de ejecución de sus modelos de IA.

Estas empresas están creciendo rápidamente. Fireworks informó que sus ingresos anuales alcanzaron más de 1,000 millones de dólares en julio, un aumento de cinco veces en comparación con el año anterior. The Information informó en septiembre que los ingresos de competidores como Fal se duplicaron en solo unos meses. Fireworks tiene una valoración actual de 17,500 millones de dólares, la más alta entre los proveedores de servicios de inferencia.

Sin embargo, la creciente dificultad para obtener potencia de cálculo podría frenar el rápido crecimiento de toda la industria.

Algunos proveedores de nube ya son reacios a alquilar potencia de cálculo a sus competidores. Fuentes han revelado que CoreWeave decidió a principios de este año dejar de vender potencia de cálculo a Baseten. Se dice que CoreWeave lanzó su propio servicio de inferencia en marzo de este año y no desea proporcionar recursos de cálculo a un competidor. Sin embargo, una persona cercana a Baseten negó que CoreWeave hubiera reducido su suministro de potencia de cálculo a Baseten.

Un portavoz de CoreWeave declaró: "Mantenemos una buena colaboración con varios proveedores de servicios de inferencia, muchos de los cuales son nuestros socios. Siempre que se adapten a su modelo de negocio, adquirirán los servicios de CoreWeave, y estamos encantados de apoyarlos."

El CEO de la nube digtalOcean, Paddy Srinivasan, dijo que prioriza atender a clientes con necesidades reales de terminal en lugar de empresas que revenden potencia de cálculo: "Honestamente, hay una gran cantidad de clientes desarrollando software en nuestra plataforma, y la demanda es alta." digtalOcean opera su propio centro de datos.

Algunos proveedores de servicios de inferencia están respondiendo conectándose ampliamente con muchos pequeños proveedores de nube. Erik Bernhardsson, CEO de Modal, explicó en una entrevista que, en los primeros cuatro años de la empresa, sus socios eran principalmente grandes proveedores de nube y algunos nuevos; luego, al no poder obtener la cantidad y el precio deseados de los chips Nvidia Blackwell de los grandes proveedores, en el último año se unieron a 30 nuevos socios de nube. Modal sigue colaborando con grandes proveedores de nube, pero generalmente adquiere otros modelos de chips de ellos.

Algunos ejecutivos de la industria de la computación en la nube creen que si la demanda de potencia de cálculo disminuye o si los grandes proveedores cortan el suministro, los proveedores de servicios de inferencia sin hardware propio se verán en una situación pasiva.

Kent Draper, director comercial de Iren (que opera su propio centro de datos), comentó: "Los proveedores de servicios de inferencia son como WeWork en el mundo de las GPU. WeWork firma contratos de arrendamiento de oficinas a largo plazo y luego subarrienda a corto plazo. Cuando el mercado es bueno, todo fluye sin problemas, pero una vez que la demanda se agota o la financiación se detiene, el modelo se vuelve insostenible. Todos ahora ven el valor de la integración vertical." {#quote_WEWKQ}

Sin opciones

Algunos proveedores de servicios de inferencia creen que solo pueden invertir en la construcción de su propio hardware. Fal, que se especializa en la gestión de modelos de IA de video e imagen, anunció en julio que había comenzado a adquirir chips Nvidia para desplegarlos en centros de datos alquilados. A principios de este mes, Fal completó una financiación de 1,650 millones de dólares, que se utilizará para expandir su potencia de cálculo, incluyendo la compra de GPU y el alquiler de recursos de sala de servidores de AWS. Rao dijo que Fal también está ampliando su equipo relacionado con los centros de datos. Los planes de adquisición de hardware de Fal no se habían informado anteriormente.

"A medida que el negocio crece rápidamente, necesitamos alquilar potencia de cálculo y también debemos tener nuestro propio hardware", dijo Rao.

Fuentes informadas revelaron que Fal también ha indicado a los inversores su intención de financiar la adquisición de hardware mediante deuda. Rao se negó a comentar sobre la posibilidad de financiamiento de deuda.

En los últimos meses, varias empresas de servicios de inferencia han estado negociando préstamos con instituciones financieras y intermediarios para firmar contratos de adquisición de potencia de cálculo con nuevos proveedores de nube. Se dice que estas empresas esperan utilizar fondos de deuda en lugar de agotar los fondos de capital de riesgo para asegurar recursos de cálculo.

Por otro lado, Together ha comenzado a adquirir hardware propio desde el año pasado. The Information informó en marzo que planea tener una capacidad de centro de datos propio de 250 megavatios para finales de 2026. Fuentes informadas han indicado que Baseten también planea adquirir GPU de Nvidia para desplegarlas en su propio centro de datos.

CoreWeave también ha experimentado una transformación similar: anteriormente operaba principalmente centros de datos de terceros, pero el año pasado anunció la construcción de su propio parque, creyendo que es la mejor manera de controlar los recursos de hardware.

Sin embargo, no todos los proveedores de servicios de inferencia creen que es necesario poseer hardware. Fuentes informadas han indicado que la dirección de Fireworks ha expresado a los inversores que la adquisición de chips físicos y la construcción y operación de centros de datos son negocios de productos homogéneos; la ventaja competitiva de Fireworks radica en desarrollar software que puede ejecutar modelos a alta velocidad, lo cual es más difícil de replicar. Otra fuente cercana ha indicado que Fireworks no tiene planes de adquirir hardware en este momento.

Se ha informado que Modal también ha expresado a los inversores su intención de adquirir más hardware propio para invertir en centros de datos. Bernhardsson, en la entrevista, dijo que la empresa hará todo lo posible para obtener la potencia de cálculo necesaria, pero no cree que la diferenciación provenga de poseer hardware, lo que coincide con las críticas de Iren y otros sobre proveedores de servicios de inferencia como Modal.

"La capa de hardware no es donde se crea mucho valor. Al final del día, solo estás comprando chips y revendiéndolos para proporcionar potencia de cálculo", dijo Bernhardsson. "Por lo tanto, nos enfocamos en la capa de software, que es donde seguimos creando el mayor valor."

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.