Liberando um torrent de código aberto em CPUs e motores de IA

Quando você combina as forças do código aberto e a ampla e profunda experiência em semicondutores do lendário arquiteto de chips Jim Keller, algo interessante certamente acontecerá. E esse é precisamente o plano da startup de IA e agora do fabricante de CPU Tenstorrent.

A Tenstorrent foi fundada em 2016 por Ljubisa Bajic, Milos Trajkovic e Ivan Hamer e está sediada em Toronto. Keller foi um investidor anjo e consultor da empresa desde o início, e foi contratado como diretor de tecnologia em janeiro de 2021, após uma passagem pelo negócio de servidores da Intel, onde limpou algumas bagunças arquitetônicas e de processos como fez sob um trabalho anterior na AMD. Em janeiro deste ano, Keller foi escolhido para substituir Bajic como CEO, e a empresa anuncia hoje que arrecadará algo entre US$ 120 milhões e US$ 150 milhões em seu financiamento da Série D, com Hyundai Motor Group e Samsung Catalyst Fund liderando a rodada e com investidores anteriores Fidelity Ventures, Eclipse Ventures, Epiq Capital, Maverick Capital e outros ganhando dinheiro. Até o momento, esse será o valor do investimento para algo em torno de US$ 384,5 milhões e provavelmente aumentará sua avaliação acima de US$ 1,4 bilhão.

Todo esse dinheiro é interessante e necessário para pagar a quantidade substancial de trabalho de engenharia que a equipe Tenstorrent precisa fazer para criar uma linha de processadores de servidor RISC-V de nível comercial e aceleradores de IA para combiná-los e, mais importante, para levar sobre a hegemonia da GPU Nvidia no treinamento de IA. Será necessário dinheiro – e talvez muito mais dinheiro, ou talvez não – para ajudar as empresas a reduzir os custos da formação em IA. O que sabemos é que Keller acha que tem a equipe certa para fazer isso, e conversamos com ele sobre a missão Tenstorrent, pela qual estávamos ansiosos.

Faremos um mergulho profundo nas arquiteturas de CPU e mecanismo de IA da Tenstorent em uma continuação.

Timothy Prickett Morgan: Vamos direto para a cena da perseguição. Estou morrendo de vontade de fazer essa pergunta porque sua resposta é importante. Por que diabos precisamos de outro acelerador de IA?

Jim Keller:Bem, o mundo abomina o monopólio.

TPM: Sim, mas já temos tantas empresas diferentes no jogo. Nada disso funcionou para minha satisfação. Não é como se os caras do Groq pegassem a ideia da TPU, comercializassem, pronto. Não é como MapReduce e Yahoo Hadoop. Nirvana Systems e Habana Labs tinham o que considero boas arquiteturas, e a Intel não teve grande sucesso com nenhuma delas. Graphcore e SambaNova são razoáveis, Cerebras tem waferscale e isso é interessante. O esperanto também está presente, com o RISC-V. E todo mundo, até onde posso ver, tem um problema de bilhões de dólares para chegar ao próximo nível. Eu sei que o RISC-V é importante, que é o Linux do hardware e esperamos muito por esse momento. Usar o RISC-V para construir um acelerador é a parte fácil de fazer uma escolha arquitetônica.

O que o Tenstorrent está fazendo pode fazer de diferente, melhor? Não espero que você conte tudo sobre arquitetura hoje, mas o que está motivando você e por quê?

Jim Keller: Há um monte de coisas. Primeiro, sempre que há um grande ciclo de hype, mais pessoas obtêm investimentos do que os que são adequadamente suportados pela indústria. Ljubisa Bajic, uma das cofundadoras do Tenstorrent, e eu tivemos longas conversas porque quando SambaNova e Cerebras tinham avaliações altíssimas. Então eles arrecadaram muito dinheiro e começaram a gastar muito dinheiro, e nós fizemos o oposto. Tivemos uma avaliação pós-financiamento de US$ 1 bilhão da última vez e nos ofereceram mais dinheiro com avaliações mais altas. E então pensamos: e daí? Rodadas baixas como todo mundo? Isso é muito difícil para sua empresa. Como se isso colocasse seus funcionários e investidores em uma situação ruim. Portanto, levantamos menos dinheiro com uma avaliação mais baixa porque estamos nisso no longo prazo.

Agora analisamos o que Cerebras, Graphcore, SambaNova, Groq e outros estão fazendo, e todos eles têm algo interessante ou não seriam financiados.