Uma startup dos EUA afirma ter criado o menor supercomputador de Inteligência Artificial (IA) do mundo. O equipamento reúne alto poder de processamento e grande quantidade de memória em um dispositivo compacto, pequeno o suficiente para caber no bolso.
Segundo os desenvolvedores, a máquina consegue executar modelos avançados de IA capazes de analisar informações complexas, planejar tarefas e resolver problemas de forma autônoma.
Em resumo:
- Startup cria supercomputador de IA que cabe no bolso;
- Dispositivo roda modelos gigantes localmente;
- Memória é bem superior à da maioria dos notebooks atuais;
- Tecnologias otimizam cálculos e reduzem consumo;
- IA local amplia privacidade e uso remoto.
Desenvolvido pela empresa Tiiny AI, o supercomputador recebeu o nome de AI Pocket Lab. Ele consegue rodar localmente um grande modelo de linguagem com cerca de 120 bilhões de parâmetros. Normalmente, sistemas desse porte dependem de grandes centros de dados cheios de servidores e placas gráficas. Nesse caso, porém, o processamento ocorre diretamente no dispositivo, sem necessidade de conexão com a internet.
O AI Pocket Lab utiliza um processador ARM de 12 núcleos, tecnologia comum em smartphones e tablets. Apesar do tamanho reduzido – cerca de 14 centímetros de comprimento – o equipamento possui 80 GB de memória RAM do tipo LPDDR5X. Para comparação, a maioria dos notebooks atuais possui entre 8 GB e 32 GB de memória.
Cerca de 48 GB dessa memória são reservados para a unidade de processamento neural (NPU). Esse tipo de chip é otimizado para executar operações relacionadas à inteligência artificial com maior eficiência. Tecnologias semelhantes já aparecem em processadores modernos de empresas como Intel e AMD, criadas justamente para acelerar aplicações baseadas em IA.
Por que “supercomputador”?
O dispositivo é considerado um supercomputador porque consegue executar modelos de linguagem com mais de 100 bilhões de parâmetros. Em geral, esse tipo de processamento exige vários computadores com placas gráficas avançadas trabalhando juntos em centros de dados especializados.
Mesmo não rivalizando com os maiores supercomputadores do mundo, o AI Pocket Lab alcança cerca de 190 trilhões de operações por segundo. Esse desempenho resulta da combinação entre CPU e NPU trabalhando juntas para executar cálculos complexos.
Para atingir essa potência em um aparelho pequeno, os engenheiros utilizaram tecnologias de otimização. Uma delas é o sistema TurboSparse, que faz o modelo de IA usar apenas partes específicas de seus parâmetros durante cada etapa do processamento, reduzindo cálculos desnecessários.
Outra tecnologia, chamada PowerInfer, distribui as tarefas entre diferentes processadores do dispositivo. Dessa forma, cada componente executa apenas as operações para as quais é mais eficiente. Isso melhora o desempenho, reduz o consumo de energia e permite usar IA avançada mesmo em locais sem acesso à internet.
Leia mais:
- Conheça Harpia, o supercomputador da Petrobras com poder de 10 milhões de celulares
- O próximo salto da ciência: simular um cérebro humano num supercomputador
- México anuncia supercomputador mais potente da América Latina
Elon Musk investe bilhões para construir maior supercomputador de IA do mundo
No outro extremo está um projeto do bilionário Elon Musk, que ele chama de “maior supercomputador de IA do mundo”: o Colossus, que abriga mais de 200 mil chips da Nvidia e alimenta o chatbot Grok.
Agora, a empresa está perto de finalizar um segundo centro, batizado de Colossus 2, ainda maior e mais potente. Estima-se que o novo projeto abrigará inicialmente 550 mil chips, podendo chegar futuramente a um milhão, com investimento total que pode atingir dezenas de bilhões de dólares. Saiba mais aqui.
O post Menor supercomputador de IA do mundo cabe no bolso apareceu primeiro em Olhar Digital.