Executivo explica como a Apple preparou seus produtos para a era da IA

Executivo explica como a Apple preparou seus produtos para a era da IA

Em uma entrevista realizada pelo The Deep View ainda antes da , em junho, o gerente de produto do Apple Silicon, , falou sobre como os investimentos de longo prazo da Apple em processamento neural, memória unificada, eficiência energética e integração entre hardware e software posicionaram seus dispositivos para a era da IA.

Ele comentou que a Apple já trabalhava com aprendizado de máquina muito antes da era dos chatbots, a exemplo do , e muito antes de os modelos transformer e os LLMs 1Large language models, ou grandes modelos de linguagem. se tornarem populares.

Quando lançamos o Neural Engine, ele foi projetado para atender a necessidades computacionais muito específicas do aprendizado de máquina. Ele realiza operações matemáticas matriciais de alto desempenho e grande eficiência energética para solucionar esses problemas de forma inteligente. Também introduzimos aceleradores dedicados onde isso fazia sentido. Não falamos muito sobre isso, mas a CPU 2Central processing unit, ou unidade central de processamento. possui aceleradores neurais dedicados — originalmente chamados de aceleradores de ML 3Machine learning, ou aprendizado de máquina. — que aceleram tarefas de IA dentro do domínio da CPU. A CPU é, na verdade, muito eficiente em certos tipos de cargas de trabalho de IA, especialmente aquelas que exigem baixa latência. Mais recentemente, levamos aceleradores neurais para a GPU 4Graphics processing unit, ou unidade de processamento gráfico., o que proporciona um enorme ganho de desempenho, já que a GPU é o nosso motor mais escalável. Ela oferece capacidade computacional e largura de banda de memória escaláveis, além de aproveitar a arquitetura de memória unificada.

Ele também explicou por que os Macs mini e Studio estão surgindo como as máquinas preferidas para agentes de IA e como a Apple enxerga o futuro da IA ​​executada diretamente no dispositivo (on-device) no iPhone, iPad e Mac.

Estamos observando um grande impulso na forma como as pessoas utilizam os produtos e o Apple Silicon, especialmente em fluxos de trabalho de IA executados diretamente no dispositivo. Temos muito orgulho disso e da maneira como o Apple Silicon oferece uma base sólida para a IA. É uma arquitetura muito equilibrada, na qual CPU, GPU, memória unificada e o Neural Engine contribuem para o desempenho de todo o chip. Isso é particularmente importante para esses fluxos de trabalho de agentes de IA em evolução. Não se trata mais apenas da GPU processando um LLM. Trata-se de todo o chip contribuindo para diferentes partes da tarefa […] e os processos que ocorrem em torno desses fluxos de trabalho. Isso realmente tira proveito dos pontos fortes do Apple Silicon.

Tanto é que o entrevistador Jason Hiner afirmou que, ao visitar laboratórios de IA de ponta, como o da , quase todo mundo parece usar Macs — e o executivo da Apple atribuiu isso à histórica parceria com a comunidade de desenvolvedores e à priorização das máquinas da Maçã em alguns segmentos.

Bem, espero sinceramente que seja porque fabricamos ótimos produtos. Acredito que sempre tivemos uma posição de força junto à comunidade de desenvolvedores — não apenas aqueles focados em aplicativos, mas profissionais de todas as áreas. Seja um desenvolvedor front-end, back-end ou alguém que atue em uma área completamente diferente, o Mac tem sido uma plataforma sólida para desenvolvedores há muitos anos.

Agora, ao focarmos especificamente em IA, vemos que muitas das ferramentas do setor são exclusivas para Mac ou priorizam o Mac. Acredito que isso realmente nos colocou na vanguarda dessa comunidade de desenvolvedores.

O executivo abordou ainda a tendência dos desenvolvedores de executar mais processos de IA localmente — motivados por preocupações com privacidade, segurança e o aumento dos custos de inferência.

As pessoas estão percebendo que têm dispositivos incrivelmente poderosos em suas mesas, capazes de lidar com uma ampla variedade de cargas de trabalho. O que realmente empolga é o que as técnicas modernas de otimização e quantização tornaram possível. A capacidade atual de acomodar modelos de 70 bilhões ou até 120 bilhões de parâmetros é impressionante.

Há pessoas executando esses modelos em laptops. Vemos relatos de desenvolvedores trabalhando em softwares a 35 mil pés de altitude, em um avião e totalmente desconectados da internet, justamente porque estão executando modelos poderosos localmente.

Logo na sequência, ele comentou como vê o futuro da IA ​​executada diretamente no dispositivo.

Algo que realmente me empolga é o trabalho que realizamos com nossos modelos de base e as APIs 5Application programming interfaces, ou interfaces de programação de aplicações. da Apple Intelligence, bem como a forma como os desenvolvedores os adotaram. Às vezes, penso nisso como uma “IA transparente”. Existem tantos recursos de IA integrados ao sistema operacional e aos aplicativos que não saltam aos olhos imediatamente como sendo IA. Eles são impulsionados por IA “nos bastidores”, mas servem simplesmente para ajudar as pessoas a realizar tarefas.

Brooks finalizou dizendo que se sente “constantemente impressionado” com o que os desenvolvedores estão realizando com o Apple Silicon e com a maneira como utilizam a IA para ajudar as pessoas a economizar tempo, aumentar a produtividade e exercer a criatividade.

Ele afirmou, ainda, que o ritmo atual de desenvolvimento da IA ​​é “simplesmente impressionante” e que é impossível imaginar “onde estaremos daqui a um ano, três meses ou até mesmo um mês”.

“Estamos muito satisfeitos por ver o Apple Silicon na vanguarda desse movimento, ajudando desenvolvedores e clientes a concretizar essas experiências em toda a nossa linha de dispositivos”, concluiu.

Notas de rodapé

  • 1Large language models, ou grandes modelos de linguagem.
  • 2Central processing unit, ou unidade central de processamento.
  • 3Machine learning, ou aprendizado de máquina.
  • 4Graphics processing unit, ou unidade de processamento gráfico.
  • 5Application programming interfaces, ou interfaces de programação de aplicações.