O CEO da Nvidia, Jensen Huang, tem um talento para o teatral. Durante uma apresentação recente, ele retirou um computador de IA de US$ 249 de um forno de cozinha, porque, aparentemente, é assim que se lança hardware quando se vale mais de US$ 100 bilhões. O dispositivo, chamado Jetson Orin Nano Super Developer Kit, foi projetado para executar modelos de linguagem grandes localmente, sem necessidade de assinatura em nuvem.
A proposta é simples: execute modelos de IA como Llama 3, Mistral, Gemma e DeepSeek em uma caixa compacta sobre sua mesa. Sem taxas de API recorrentes. Sem enviar seus dados para o servidor de outra pessoa. Basta conectar e começar.
O que realmente está dentro disso
O Jetson Orin Nano Super oferece de 67 a 70 TOPS, ou trilhões de operações por segundo, consumindo apenas 25 watts de energia. Para contextualizar, isso equivale aproximadamente ao consumo de uma lâmpada padrão. O dispositivo possui 8 GB de memória com largura de banda de 1.023 GB/s.
A Nvidia afirma que duplica o desempenho de seu antecessor, o original Jetson Orin Nano, enquanto oferece 50% mais largura de banda de memória. Isso representa uma melhoria significativa para um dispositivo na mesma faixa de preço.
A Nvidia afirma até que o dispositivo pode lidar com fluxos de trabalho que anteriormente eram domínio de seus supercomputadores AI HGX muito maiores.
Por que a IA local importa, especialmente para criptomoedas
Inferência local, ou seja, executar modelos de IA em seu próprio hardware em vez de por meio de um provedor de nuvem, resolve diretamente duas preocupações que a comunidade de criptomoedas valoriza profundamente: privacidade de dados e descentralização. Quando você executa um modelo localmente, seus prompts e dados nunca saem do seu computador. Não há nenhuma API de terceiros registrando suas consultas ou coletando suas entradas para dados de treinamento.
Isso é relevante para projetos descentralizados de IA que constroem em redes como Bittensor, Render ou Akash. Esses protocolos estão tentando criar mercados de computação distribuída onde indivíduos contribuem com poder de GPU em troca de recompensas em tokens. Um ponto de entrada de US$ 249 para hardware de IA capaz pode expandir drasticamente o número de participantes nesses redes.
A eliminação das taxas recorrentes de API é outro aspecto digno de atenção. OpenAI, Anthropic e Google cobram por token para seus modelos baseados em nuvem. Para projetos de criptomoeda que integram funcionalidades de IA, seja para bots de negociação, auditoria de contratos inteligentes ou análise on-chain, esses custos se acumulam rapidamente. Um investimento único de US$ 249 que permite executar modelos de código aberto comparáveis localmente é uma proposta econômica fundamentalmente diferente.
O que isso significa para os investidores
Para o mercado mais amplo de hardware de IA, isso estabelece um novo padrão. Os concorrentes agora precisam responder a uma pergunta direta: conseguem igualar 67 a 70 TOPS em 25 watts por US$ 249?
O risco a observar é se os modelos locais conseguem realmente acompanhar os modelos de ponta hospedados na nuvem em termos de capacidade. Executar o Llama 3 em um dispositivo de $249 é impressionante, mas não é o GPT-4. Para muitos casos de uso, especialmente em DeFi e negociação, a diferença de qualidade entre modelos locais de código aberto e modelos de ponta na nuvem ainda importa.