Unsloth Desktop passa a usar a NPU AMD XDNA 2 para rodar IA local

Unsloth Desktop passa a usar a NPU AMD XDNA 2 para rodar IA local

Durante anos, muitos notebooks foram vendidos com uma unidade de processamento neural integrada que o usuário de Linux mal conseguia colocar para realizar tarefas visíveis. A integração anunciada em 19 de novembro de 2026 pela AMD e pela Unsloth mostra um uso muito mais prático para esse hardware. A arquitetura AMD XDNA 2 passa a ser a primeira NPU oficialmente suportada pelo Unsloth Desktop, oferecendo um caminho direto para manter modelos locais atendendo a agentes de inteligência artificial sem entregar todo o trabalho pesado à CPU ou à GPU.

O que AMD e Unsloth anunciaram?

O projeto Unsloth, inicialmente conhecido pela extrema eficiência no fine-tuning de modelos, expandiu seu escopo com o Unsloth Desktop. O aplicativo permite baixar modelos, conversar com eles e, principalmente, disponibilizar uma API local.

A novidade anunciada agora estabelece a XDNA 2 como a primeira arquitetura de NPU suportada pelo Unsloth Desktop. O fluxo de funcionamento utiliza uma pilha de software específica. O aplicativo envia a requisição para a API do Unsloth Desktop. O Unsloth repassa a demanda para o Lemonade, uma camada de integração que ajuda a servir modelos e coordenar o hardware. O Lemonade, por sua vez, aciona o FastFlowLM, um runtime leve otimizado para NPUs da AMD, que finalmente executa a inferência no hardware físico.

Mais de 100 aplicativos não foram portados individualmente

A AMD afirma que mais de 100 aplicações e workflows focados em IA agêntica são compatíveis com a novidade. É essencial compreender que a fabricante não reescreveu o código de 100 programas diferentes para rodarem nativamente em arquitetura XDNA 2.

O segredo dessa compatibilidade ampla é uma API local oferecida pelo Unsloth Desktop em formato compatível com o padrão da OpenAI. Diversas ferramentas atuais já foram desenvolvidas para se conectar a esse padrão. Ao apontar o endpoint de um aplicativo para o servidor local do Unsloth, a aplicação passa a utilizar o modelo servido pela NPU, sem precisar conhecer as especificidades do hardware da AMD.

Exemplos oficiais citados na integração incluem Hermes Agent, OpenClaw, Open WebUI, Cline e LangChain. A lista também menciona o GitHub Copilot, mas isso exige cautela técnica. A compatibilidade significa que determinados workflows podem ser conectados ao endpoint local, e não que todos os serviços complexos de telemetria e predição do Copilot subitamente se tornaram offline e exclusivos da NPU.

O que a NPU faz e o que continua na CPU e na GPU?

A NPU executa a inferência suportada. O restante das atividades do computador permanece sob responsabilidade dos componentes tradicionais.

A própria AMD esclarece que a CPU e a GPU não ficam completamente ociosas. A CPU continua gerenciando o sistema operacional, a orquestração do próprio Unsloth Desktop e a execução das aplicações conectadas. A GPU, livre da carga constante de manter um modelo de linguagem carregado na memória de vídeo, permanece disponível para tarefas gráficas, renderização ou aceleração de outras ferramentas.

A NPU não precisa ser mais rápida que a GPU para fazer sentido

O anúncio da AMD não traz benchmarks comparando a quantidade de tokens gerados por segundo entre a NPU e uma placa de vídeo dedicada, e há um motivo técnico para isso. Dependendo do modelo e da operação, uma GPU de alta potência pode ser significativamente mais rápida. O foco da NPU, no entanto, é a eficiência energética durante a inferência persistente.

Uma inteligência artificial agêntica não apenas responde a um chat, mas interage repetidamente com ferramentas, lê arquivos, avalia passos e gera múltiplas requisições de inferência ao longo do tempo. Se um agente de código como o Cline ficar trabalhando por horas em segundo plano, manter a inferência na NPU pode reduzir o consumo de energia e a geração de calor no notebook, algo particularmente útil quando o equipamento está fora da tomada.

Nem todo Ryzen AI é compatível

A presença do selo “Ryzen AI” na carcaça de um notebook não garante compatibilidade com o recurso anunciado hoje. O suporte do FastFlowLM exige especificamente a arquitetura XDNA 2.

Isso abrange as famílias Ryzen AI Max 300 Series (Strix Halo), Ryzen AI 300 Series (Strix Point e Kraken Point), Ryzen AI 400 Series (Gorgon Point) e processadores de dispositivos portáteis como o Ryzen Z2 Extreme.

XDNA 1 fica de fora por enquanto

A documentação técnica do FastFlowLM é explícita ao deixar de fora o hardware mais antigo. Processadores das linhas Ryzen AI 7000, Ryzen AI 8000 e Ryzen AI 200, que utilizam a arquitetura XDNA 1, não são suportados atualmente por esse backend de NPU. Usuários dessas gerações anteriores ainda podem usar o Unsloth Desktop, mas a execução dos modelos continuará sendo roteada para a CPU ou GPU, conforme a configuração.

E no Linux? O backend XDNA 2 já funciona

desktop npu amd xdna 2 linux 1
Unsloth Desktop passa a usar a NPU AMD XDNA 2 para rodar IA local 2

O tutorial divulgado hoje pela AMD demonstra a ativação do recurso por meio da interface gráfica do Unsloth Desktop no Windows. No entanto, a infraestrutura necessária para rodar LLMs na NPU XDNA 2 no Linux já existe e está documentada no ecossistema do FastFlowLM e do Lemonade, além do próprio Unsloth Desktop já possuir compilações para Linux (em pacotes .deb e AppImage).

No ambiente Linux, o acesso ao hardware ocorre pelo driver amdxdna (que não deve ser confundido com o amd-ai-engine usado nas linhas Versal). Esse driver já encontra caminho upstream a partir do kernel Linux 7.0, existindo também suporte via DKMS e backports para determinados kernels da série 6.x. O funcionamento também exige o firmware da NPU na versão 1.1.0.0 ou superior e o compilador AMD IRON, que prepara as operações matemáticas para o acelerador.

A demonstração oficial focou no Windows, e a configuração no Linux pode exigir ajustes manuais de limites de memória travada (memlock) para o runtime da NPU. Embora a fundação técnica no pinguim já permita a inferência XDNA 2 através dessas ferramentas de backend, o detalhamento da interface gráfica anunciada hoje requer acompanhamento da documentação para o sistema aberto.

Modelos grandes continuam precisando de muita RAM

Um erro comum é presumir que a transferência do processamento para a NPU reduz drasticamente a necessidade de memória RAM. A NPU processa as matrizes e tensores, mas o sistema ainda precisa armazenar os pesos do modelo, os buffers e o KV cache (o contexto da conversa).

A AMD demonstrou o recurso utilizando o Qwen3.6 35B A3B, um modelo de mistura de especialistas (MoE) que, apesar de ter 35 bilhões de parâmetros totais, ativa apenas uma fração deles por token gerado. Com o contexto completo, esse modelo exige aproximadamente 28 GB de memória disponível exclusivamente para a NPU.

Os 64 GB de RAM citados nos exemplos da fabricante derivam de uma particularidade do Windows. Por padrão, o sistema operacional da Microsoft reserva um limite de 50% da memória do sistema para alocação compartilhada. Portanto, para garantir que 28 GB fiquem disponíveis para o uso do FastFlowLM, o notebook precisava ter 64 GB totais instalados. A gestão de memória e o memlock no Linux operam de maneira distinta, mas a exigência base de quase 30 GB para um modelo desse porte permanece uma barreira física.

Isso é inferência, não treinamento na NPU

O histórico do Unsloth com otimização de fine-tuning exige uma distinção cuidadosa. A novidade anunciada abrange apenas a inferência (a execução de modelos já prontos). Treinar novos dados ou ajustar pesos de redes neurais continuam sendo processos que o Unsloth Desktop direciona para backends tradicionais, não para a arquitetura XDNA 2 neste momento.

Executar localmente significa necessariamente ficar offline?

Apontar um framework como o LangChain ou uma interface como o Open WebUI para o Unsloth Desktop garante que o processamento do texto (o prompt e a resposta do modelo de linguagem) aconteça integralmente no notebook, o que pode melhorar significativamente o controle sobre os dados do usuário.

Contudo, isso não torna os fluxos de trabalho completamente offline. Um agente inteligente executando código ou pesquisando dados continuará acessando a internet, clonando repositórios no GitHub ou chamando APIs externas, dependendo das ferramentas habilitadas para o workflow. A privacidade se aplica ao motor de inferência, não necessariamente a todas as ramificações do aplicativo conectado.

Vamos descomplicar para iniciantes

Imagine que o seu notebook é um escritório com três funcionários.

A CPU é o gerente geral. Ela sabe fazer de tudo um pouco, organiza o sistema operacional e garante que todos os aplicativos abram corretamente. A GPU (sua placa de vídeo) é o funcionário braçal extremo. Ela é incrivelmente rápida para carregar caixas pesadas (como renderizar jogos 3D ou IA de altíssimo desempenho), mas gasta muita energia e aquece rapidamente o escritório.

A NPU é um funcionário altamente especializado. Ele não serve para jogos, mas é excelente e focado em inteligência artificial.

Antes desse anúncio, se você rodasse um assistente virtual localmente o dia inteiro, esse trabalho acabava caindo no colo da CPU ou da GPU, o que consumia sua bateria ou deixava o sistema pesado. Agora, com a atualização do Unsloth, o aplicativo consegue entregar essa tarefa diretamente para a NPU.

O funcionário especializado faz o trabalho gastando muito pouca energia. Enquanto isso, o gerente (CPU) continua livre para organizar o computador e o funcionário braçal (GPU) fica livre para rodar seus jogos ou programas de edição de vídeo. A única exigência é que o funcionário especializado precisa de uma mesa de trabalho fisicamente grande o suficiente para abrir todos os seus documentos. Essa “mesa” é a sua memória RAM. É por isso que modelos avançados continuam exigindo dezenas de gigabytes, mesmo rodando na NPU.