Entrevista com o CEO da Cerebras: Com 25 bilhões em pedidos acumulados, a demanda por poder de computação em IA já está cheia

Título original: Open Source Wins, AGI Is Here, and Scorsese's AI Toolkit---Cerebras & Black Forest Labs CEOs
Fonte original: All-In Podcast
Tradução original: Deep Tide TechFlow

Resumo dos pontos principais

Neste episódio, foram convidados dois CEOs de empresas de infraestrutura de IA. Andrew Feldman é o fundador da Cerebras, que se especializa em chips de inferência e acaba de concluir seu IPO, segurando 25 bilhões de dólares em pedidos acumulados. Ele enfatiza repetidamente uma coisa: a demanda por poder de computação em IA já está cheia, não existe a situação de "construir e esperar que alguém venha"; a fome da OpenAI, Anthropic, SpaceX e Google supera em muito a oferta. A emergência da inferência fez com que a intensidade computacional disparasse novamente, o que é exatamente o campo de batalha das máquinas rápidas. Robin Rombach é o fundador da Black Forest Labs, que desenvolve modelos de geração de imagens e vídeos (série Flux); ele inventou o algoritmo de difusão latente, que é a base de todos os modelos de geração de imagens e vídeos atualmente. Ele recentemente colaborou com Martin Scorsese, permitindo que o diretor visualizasse as imagens em sua mente usando IA; mas ele está ainda mais animado com a direção em que a mesma estrutura de modelo multimodal pode ser usada para fazer filmes e ser implantada em robôs como um cérebro. O objetivo do vídeo gerado não está na tela, mas no mundo físico.

Resumo de pontos de vista interessantes

A inferência é o próximo buraco negro de poder computacional

· "O interessante é que esta onda é diferente das anteriores; eles não estão apostando em 'construir e alguém virá', a demanda já reservou toda a capacidade de produção. Temos 25 bilhões de dólares em pedidos acumulados."

· "Inferência é raciocínio, e raciocínio consome uma quantidade enorme de tokens, o que é exatamente o campo de batalha das máquinas rápidas."

· "Se a Cerebras for 15 vezes mais rápida, você rodando 24 horas equivale a semanas ou até meses de reflexão."

Código aberto e soberania: as empresas querem controle

· "Ninguém gosta de ser dependente. As grandes empresas aprenderam com a era x86 que foram amarradas à Intel."

· "Você não precisa fazer o chip mais rápido, você só precisa não depender completamente dos chips de outras pessoas."

· "Se você quiser rodar modelos de código aberto agora, ou é o OSS 12B da OpenAI, ou é um modelo chinês; os EUA precisam de mais opções de código aberto locais."

AGI, conforme definido há vinte anos, já chegou

· "Qualquer definição de AGI que apresentamos há 20, 30 ou 40 anos, já ultrapassamos de longe."

· "Teste de Turing? Já foi superado há muito tempo."

· "A questão não é mais que não sabemos como perguntar; a IA pode nos dizer: 'Ei, vocês, humanos estúpidos, não consideraram isso'."

Vídeo gerado não substitui a criação humana

· "Esses modelos de IA são um meio; não queremos impor como usá-los, especialmente para pessoas como Martin Scorsese."

· "A linguagem é uma forma de comunicação um pouco prejudicial; os sinais de informação visual são muito ricos. Transformar as imagens em sua mente em imagens visíveis é o ponto mais poderoso da tecnologia."

· "Os resultados mais interessantes quase sempre aparecem quando as pessoas estão em um ciclo de iteração contínua."

Do cinema aos robôs: o mesmo modelo

· "Você pode usar o mesmo modelo multimodal para fazer um filme e depois implantá-lo como o cérebro de um robô."

· "O vídeo pré-treinado implicitamente ensinou ao modelo as leis de interação física, e então você obtém previsões de movimento do mesmo modelo, ou seja, controle de robô."

· "O objetivo é que você possa usar um comando in-context para instruir o robô: 'traga aquele copo de suco de laranja', ainda não conseguimos fazer isso, mas essa é a direção."

A onda de infraestrutura de IA: data centers maiores que cidades

Apresentador: Nunca vimos uma escala de construção como esta. Desde a Grande Muralha e as pirâmides, a humanidade não investiu tanto capital, tempo e mentes brilhantes na construção de algo. Você está realmente fazendo isso, seus clientes estão construindo data centers, você é uma parte crucial. O que a Cerebras estará fazendo em 2026? Como estão aqueles enormes projetos no Texas?

Resposta: Estamos falando de data centers, a eletricidade consumida nos próximos anos superará a quantidade total consumida na Terra nos últimos 50 anos. Um único edifício é do tamanho de um campo de futebol, com energia conectada que supera a de uma cidade de médio porte. Estão sendo construídos em todo os EUA, no Canadá, na Escandinávia, em Paris e em toda a França, no Oriente Médio, até no Cazaquistão, Tajiquistão e Geórgia, onde grandes data centers estão sendo construídos. Cada país e cada estado quer participar.

Quem está pagando? OpenAI, Anthropic, SpaceX AI, Google, com uma fome assustadora. O interessante é que esta onda é diferente de muitas outras ondas tecnológicas: eles não estão apostando em 'construir e alguém virá', a demanda já reservou toda a capacidade de produção. Temos 25 bilhões de dólares em pedidos acumulados. A OpenAI quer mais data centers, a Microsoft quer mais, a AWS quer mais. A demanda não está esperando os clientes chegarem; os clientes já estão na fila.

Apresentador: Isso também gerou um termo chamado 'token maxing', um uso infinito de tokens. Algumas pessoas questionam se essa demanda tão grande realmente cria valor real.

Resposta: Claro que há um enorme valor sendo gerado. E também há uma quantidade enorme de tentativas sem sentido. Eu comparo isso ao início da AWS, quando era tão fácil contornar o departamento de TI; cada engenheiro apenas registrava com um cartão de crédito. Muitas coisas eram realmente úteis, mas algumas você pensa depois: 'Ei, não deveria ter feito isso'. Mas, no geral, ainda é lucrativo, apenas algumas direções não deram certo.

Lembro-me de 1988, quando a Costco abriu em Palo Alto, as pessoas a visitavam como se fosse um Safeway, passando por cada prateleira. Era uma maneira muito ruim de fazer compras, porque você comprava quatro coisas que não precisava, cada uma custando 22 dólares. Depois, as pessoas aprenderam a estratégia: ir para trás pegar frango, pegar 18 cupcakes para a festa de aniversário da criança, de forma rápida e eficiente. O consumo de tokens de IA é semelhante; no começo, todos usavam livremente, agora as empresas estão começando a pensar estrategicamente: quais tarefas podem ser feitas com modelos de código aberto e quais precisam de modelos de ponta. Estamos começando a gerenciar a IA como um negócio.

A inferência substitui o treinamento: por que as máquinas rápidas são os protagonistas desta onda?

Apresentador: Sam Altman disse no AllIn que o próximo passo é o raciocínio, entender intenções, formular estratégias e validar com outros agentes. Nós percorremos um longo caminho desde 'adivinhar a próxima palavra', e agora a Cerebras está bem no centro, porque o raciocínio é inferência, e a quantidade de computação é enorme.

Resposta: A inferência consome uma quantidade enorme de tokens, o que cria um campo de batalha para as máquinas rápidas. O raciocínio consome tokens internamente a cada passo; você normalmente gastaria muito tempo para obter uma boa resposta. A Cerebras sendo 15 vezes mais rápida significa que rodar 24 horas de inferência equivale ao que outros levariam semanas ou até meses para pensar.

Esta manhã, experimentei o modelo GLM-52 no ZAI do BitTensor, dando-lhe poder computacional infinito, pedindo que me dissesse todas as tendências do mundo que ainda não foram identificadas a cada hora. Ele começou a debater: deveria procurar no Hacker News e Reddit? Ou as tendências aparecem primeiro no Instagram? Eu assisti a um modelo de inferência debatendo consigo mesmo em segundo plano; ele estava fazendo inferência. Tokens infinitos equivalem a inferência infinita; com a Cerebras sendo 15 vezes mais rápida, 24 horas equivalem a semanas para outros.

Apresentador: A Cerebras tem sua própria Lei de Moore? Quanto tempo leva para dobrar?

Resposta: Todos os chips anteriores seguiram a Lei de Moore, dobrando a cada 18 meses. Nós quebramos essa linha com este chip, criando uma nova trajetória. Minha previsão é que nos próximos 18 meses, será muito mais do que o dobro. A nova arquitetura ainda tem muito espaço para otimização. GPUs são uma arquitetura antiga de 20 anos, que só consegue se sustentar diminuindo o nó de processo, mas a nova arquitetura ainda tem muito a aprender e ajustar.

Apresentador: Com 25 bilhões de pedidos acumulados, você ainda precisa acompanhar o ritmo da OpenAI, que pode ser um concorrente potencial no futuro. Como você opera a empresa?

Resposta: Agora, os chips não ficarão ociosos, a demanda é muito grande. Mas você está certo, a OpenAI também está fazendo seus próprios chips, a Amazon também está fazendo. Ninguém gosta de ser dependente. As grandes empresas aprenderam com a era x86 que foram amarradas à Intel; os fabricantes de GPU aprenderam que foram amarrados a poucos clientes de grande escala, então financiaram novas nuvens. Fazer seus próprios chips não é sobre ser o mais rápido, mas sobre não depender completamente dos outros, pelo menos controlando uma parte importante do seu próprio destino.

Código aberto e soberania: as empresas querem controle

Apresentador: O código aberto está chegando a um momento. Eu usei o OpenClaude no início, depois o Kimmy, e percebi que os tokens do Claude estavam explodindo, mas não consegui distinguir a diferença com o Kimmy. Os modelos de código aberto começaram a fazer raciocínio, e a diferença de repente se fechou este ano.

Resposta: Você não quer dirigir uma Ferrari para o supermercado. Às vezes você dirige um carro esportivo, às vezes um minivan, e não se importa se as crianças derrubam Cheerios. As empresas são iguais: tarefas difíceis são entregues a modelos de ponta (OpenAI, Anthropic, Gemini), mas muitos problemas diários só precisam de uma capacidade sólida de código aberto. Pense em quanto tempo uma empresa gasta copiando e colando de um Excel para outro no Workday? Isso não precisa de um matemático de ouro, apenas uma boa solução de código aberto é suficiente.

Recentemente, uma nova carta foi virada: setores regulados como finanças e saúde (HIPAA, FINRA) temem vazamentos de dados e a soberania da inteligência sendo controlada por terceiros, optando por manter modelos localmente e usando versões de código aberto para ter mais controle. A OpenAI lançou há alguns meses o OSS 12B, que é razoável. No entanto, os EUA estão agora se afastando do código aberto, seja o OSS 12B ou modelos chineses, as opções de código aberto locais são muito limitadas. A NVIDIA também percebeu essa oportunidade e está promovendo seus próprios modelos de código aberto, mas Jensen está hesitante, pois seus clientes são Sam, Dario, Elon e Sergey; será que promover o código aberto não irá competir com seus negócios?

Cerebras ocupa uma posição mais neutra, rodando GLM, Kimmy, a série Qwen e também os modelos fechados da OpenAI. Eles também estão utilizando modelos desenvolvidos pela GSK, UAE G42 e MBZUAI. A questão da soberania é uma tendência.

AGI já chegou, o paradigma não morrerá, mas as pessoas sim

Moderador: Quando o Fable 5 e o o-56 foram lançados, o governo disse "pare um pouco antes de lançar". A relação entre a Anthropic e o governo estava tensa, mas agora começou a se acalmar. Você acha que o lançamento em etapas é razoável? Os modelos realmente são perigosos?

Resposta: Nunca vi algo assim antes. Mas pensando bem: quando um modelo se torna poderoso em pensamento criativo, e o governo diz "por favor, lance em etapas", eu acho que isso não é um pedido irracional. Nós também controlamos medicamentos potentes assim, claro que não encorajamos a burocracia de sete anos da FDA, mas dizer "pelo menos deixe o governo fazer alguns testes de equipe vermelha para garantir que nossas defesas funcionem", e dar duas ou três semanas para corrigir falhas óbvias, isso não é um pedido sem sentido.

Mas agora estamos no momento mais polarizado. Se isso não tivesse sido feito por Trump, qualquer outro presidente teria uma reação completamente diferente. A polarização prejudica o pensamento claro. Ambos os lados cometem erros, mas também fazem coisas inteligentes. Os funcionários de base do governo estão realmente trabalhando duro, mas as coisas estão acontecendo muito rapidamente.

Nikesh da Palo Alto Networks me contou: eles testaram o modelo em seu próprio software e descobriram dezenas de vulnerabilidades críticas em uma hora, tendo que interromper tudo e gastar seis semanas corrigindo. Você percebe que isso é uma ferramenta poderosa, talvez seja melhor mostrar primeiro a um pequeno grupo, ou fazer testes de equipe vermelha.

Moderador: De acordo com qualquer definição de 20 anos atrás, a AGI já chegou. Você concorda?

Resposta: Sim. O teste de Turing? Já foi superado. Qualquer definição proposta há 10, 15, 20, 30, 40, 50 anos, nós a ultrapassamos amplamente. As questões levantadas pelos escritores de ficção científica já foram respondidas, e eles diriam: "Eu não tenho mais perguntas, desculpe". É por isso que as vozes que parecem estar na margem são dignas de atenção; Ilya falou sobre segurança há oito anos, e você disse "o quê?" No final, ele estava certo. Elon falou sobre reduzir o custo dos foguetes para quase zero, e você disse "o quê?" No final, ele conseguiu.

Moderador: Aprendizado recursivo, você faz uma pergunta, aprende a resposta, pergunta novamente, a resposta melhora, cobre mais material, essas respostas geradas em ciclos, saltam de "um pouco melhor" para "muito melhor". A inclinação da curva exponencial é muito íngreme.

Resposta: O ganho recursivo é exponencial; você melhora, faz novamente, continua a ganhar, a inclinação é muito íngreme. Estamos apenas começando a ver isso. Continuar investindo em poder computacional, as respostas vão melhorar? Quando você esgota tokens ou orçamento, isso para, mas quando essa curva exponencial chega ao fim? Ou ela continua subindo indefinidamente? Essa questão é extremamente interessante agora.

A velocidade de aprendizado humano está presa entre gerações; elefantes e grandes mamíferos levam de 15 a 20 anos para uma geração. Para acelerar, você precisa ser como uma mosca da fruta, que tem duas gerações por dia. A IA está alcançando essa velocidade de aprendizado que atravessa milhares de gerações. Quando eu estudava psicologia, meu professor disse: "O paradigma não morrerá, mas as pessoas sim". Os alunos de Freud, Skinner e Jung ocupam posições de liderança por 20 a 40 anos antes que a próxima geração questione. A IA está comprimindo o intervalo entre gerações na velocidade de uma mosca da fruta.

Eu aposto que nossos filhos e todas as pessoas que conhecem não morrerão de câncer. A economia terá oscilações; a chegada dos carros tornou a vida difícil para quem fazia ferraduras em cavalos. Mas se você listar os ganhos e perdas: energia infinita, comida infinita, conhecimento infinito, educação infinita, habitação infinita. Sabemos há mil anos que o tutoria um-a-um é melhor do que a sala de aula; Aristóteles tutorou Alexandre, Sócrates tutorou seus alunos, mas escolhemos o ensino em massa. Agora a IA pode dar a cada criança um tutor que ensina do seu jeito.

A Caixa de Ferramentas de IA de Scorsese: Transformando Imagens Mentais em Realidade

Moderador: Robin Rombach é cofundador e CEO da Black Forest Labs, com sede na região da Floresta Negra em Freiburg e São Francisco. Você trabalhou anteriormente no Stable Diffusion, inventou o algoritmo de difusão latente. Qual é o negócio da Black Forest Labs? Qual é o objetivo?

Resposta: Eu e meus parceiros fundamos esta empresa há dois anos. Antes, trabalhamos no Stable Diffusion e, mais cedo, inventamos a difusão latente, que é o algoritmo base por trás de todos os modelos de geração de imagens, vídeos e até mesmo IA física. O princípio é comprimir dados naturais (imagens, vídeos, áudio) em um espaço de representação eficiente e, em seguida, treinar um transformer sobre isso, assim como o princípio do JPEG e do MP3, mas implementado com algoritmos de redes neurais. Nós desenvolvemos isso durante nosso doutorado em Munique.

Agora estamos focando em modelos visuais multimodais, pré-treinando simultaneamente em dados de imagem e áudio, entrando em um novo paradigma: combinando previsão de ação, permitindo que o mesmo modelo faça imagens, vídeos, áudio e também preveja ações, podendo ser finalmente implantado em robôs do mundo real.

Moderador: De imagens a vídeos, de áudio a robôs, se o modelo pode gerar vídeos, isso significa que ele entende o mundo.

Resposta: Inteligência intuitiva e raciocínio profundo são duas formas complementares de inteligência. Estamos abordando isso pela intuição; a imagem é o ponto de entrada mais natural, pois a carga computacional não é tão grande quanto a de vídeos. Mas agora estamos convergindo para modelos multimodais. O pré-treinamento de vídeos ensina implicitamente ao modelo as leis de interação física, obtendo previsões de ações do mesmo modelo, ou seja, controle de robôs.

Moderador: Você colaborou com Martin Scorsese? Você estava ao lado dele enquanto ele usava suas ferramentas?

Resposta: Sim, eu estava na mesma sala que ele, explorando nosso modelo, como um dos principais pesquisadores ao lado dele, foi uma sensação incrível. Ao mesmo tempo, sou um grande fã dele.

O que ele queria era visualizar as cenas em sua mente, de uma aldeia na Europa Oriental, ele descreveu, nós vimos a saída e ele iterou. No final, ele disse: transformar as imagens em sua mente em expressões visuais, essa eficiência de comunicação é muito maior do que a linguagem. A linguagem é uma forma de comunicação um pouco danificada; a informação visual é muito rica, a quantidade de informação em uma imagem ou vídeo é enorme, é um canal de comunicação diferente.

Não queremos ditar como usar esses modelos, especialmente não diríamos a Martin Scorsese: "você deve usá-los assim". Os modelos de IA são um meio. As coisas mais interessantes surgem quando as pessoas estão iterando continuamente no loop.

Do Cinema aos Robôs: O Fim dos Modelos Gerativos Não Está na Tela

Moderador: Startups agora usam Flux e seus modelos para fazer vídeos de lançamento; antes, gastavam 250 mil dólares para fazer um vídeo de lançamento, agora conseguem em uma ou duas semanas. Gal Gadot fez um filme sobre Bitcoin, os atores atuaram em um estúdio de som sem tela verde, todos os fundos foram feitos com IA generativa, e com um orçamento de 30 milhões de dólares, conseguiram o que antes custaria 150 milhões. Você já viu isso sendo usado na produção?

Resposta: Vi algumas coisas. A produção de filmes de alto nível é um dos casos de uso mais exigentes. Estou feliz que alguém esteja explorando, mas também quero deixar claro: a tecnologia ainda está em trajetória, evoluindo rapidamente. Alguns anos atrás, quando estávamos fazendo nosso doutorado, só podíamos gerar imagens de 64×64 pixels, agora estamos fazendo vídeos de alta resolução com múltiplas entradas, mas isso não vai parar por aqui.

O que mais me entusiasma é que você pode pegar o mesmo modelo multimodal para fazer um filme e depois implantá-lo como o cérebro de um robô. Isso é fascinante. Se o uso de computadores realmente funcionará ainda não está claro, mas a tecnologia está se movendo em direção ao mundo físico, modelos de mundo, modelos de ação, que, em termos simples, são a mesma coisa.

Moderador: De onde vêm os dados de treinamento? Fazemos humanos usarem óculos e luvas para gravar em primeira pessoa? Ou é suficiente assistir a mil vídeos de pessoas servindo bebidas no YouTube?

Resposta: O objetivo é usar comandos in-context para instruir o robô: "traga aquele copo de suco de laranja". Isso ainda não é possível. O que fazemos atualmente é: o modelo já possui uma grande quantidade de compreensão visual, e apenas algumas horas de dados de ajuste fino são necessárias para se adaptar a hardware específico. A direção é minimizar o ajuste fino e depender o máximo possível de comandos in-context, mas isso ainda é uma questão de pesquisa.

Moderador: O código aberto está tendo seu momento, as empresas querem soberania. Como as grandes bibliotecas de IP como a Disney devem agir? Devem treinar seus próprios modelos com seu código aberto ou colaborar com você para treinar modelos exclusivos?

Resposta: O caso de uso mais interessante é gerar coisas que não existiam antes, essa é a parte mais interessante da tecnologia. Nossos ferramentas públicas não podem gerar IP específico, o que é razoável. Nós realmente colaboramos com alguns detentores de IP para desenvolver modelos, alguns baseados em nossos modelos de código aberto, outros em nossos modelos proprietários mais robustos.

A perspectiva mais interessante é: a tecnologia está se tornando mais rápida e interativa. Você pode imaginar ferramentas de criação de conteúdo interativo disponíveis no Disney+.

Moderador: O fenômeno mais interessante agora são os fan films. Antes, havia fan fiction escrevendo suas próprias histórias de Star Wars, depois alguém vestiu roupas de Jedi para fazer fan films. George Lucas disse que desde que não haja uso comercial, está tudo bem. Agora as pessoas usam IA para reinterpretar histórias de Star Wars que nunca foram contadas, Star Wars Stories Untold, cada vídeo tem milhões de visualizações. Este é o futuro: permitir que os consumidores paguem por autorizações e criem suas próprias histórias com os personagens.

Resposta: Se encontrarmos um modelo de negócios viável para os detentores de IP que também permita essa personalização super criativa, isso seria incrível. Sempre que leio um livro ou assisto a um filme, fico pensando "como seria se isso se desenvolvesse assim", e agora finalmente podemos visualizar essas ideias.