Apple apela para Google para não usar GPUs NVIDIA para IAs

por | |

A Apple revelou que não usa as GPUs aceleradoras de inteligência artificial da NVIDIA para o seu próprio modelo de IA. Um documento divulgado pela própria fabricante revela que eles se apoiam nas TPUs (Tensor Processing Unit) da Google para treinar seus dados.

Os Apple Foundation Models (AFMs) utilizam os chips TPUv4 e TPUv5, tanto os vistos em servidores quanto os modelos alojados em dispositivos – com design de funcionamento online e offline, como foi apresentado durante o WWDC 2024 no mês de junho.

Confira todo o documento divulgado pela Apple relacionado às IAs
Divulgação/Google

O AFM para servidores é a maior LLM da fabricante e permanece sempre online. Os documentos revelam que ela é treinada com 8.192 chips TPUv4 – separados em oito divisões de 1.024 cada, todos conectados através de uma rede de data center.

De acordo com a Apple, suas AFMs reúnem dados de treinamento para inteligência artificial através do web crawler Applebot além de vários conjuntos de “alta-qualidade” licenciados. Eles também afirmam utilizar códigos, matemática e conjunto de dados públicos escolhidos cuidadosamente.

Veja mais:

Reprodução/Apple

Inteligência artificial nos dispositivos Apple

Já nos dispositivos com Arm, clusters do Google com TPUv5 são utilizados pela Apple – sendo treinados por 2.048 chips em apenas uma divisão.

Obviamente que o modelo não atingirá a escala de aprendizado e conhecimento visto nos servidores, mas a fabricante aponta que técnicas de destilação de conhecimento foram otimizadas para o desempenho em modelos menores – garantindo sua eficiência.

Testes de benchmark foram realizados, mostrando que em alguns aspectos a escolha é acertada – já que seus AFMs (tanto de servidores quanto dos dispositivos) estão entre os melhores em seguir instruções, uso de ferramentas, escrita e mais. Veja o gráfico abaixo, relacionado às técnicas de escrita do modelo da Apple:

Divulgação/Apple

Apple, Google e NVIDIA

Considerando que diversas empresas como a Dell, OpenAI e até milionários como Elon Musk escolheram as GPUs NVIDIA para inteligência artificial, chega a ser curioso que a Apple prefira o uso das TPUs da Google para continuar progredindo com sua LLM.

É importante notar que a AMD também está preparando novos aceleradores da linha Instinct como o MI350 e MI400, assim como a Intel esteve divulgando seu Gaudi 3 – oferecendo mais opções de mercado, talvez até mais econômicas, do que a líder NVIDIA.

Outro detalhe que vale menção é que a própria Microsoft também tem evitado adquirir as GPUs deles, com diversos relatos de que estão produzindo seus próprios chips para lidar com a inteligência artificial e aceleradores em um breve futuro.

Fonte: Tom’s Hardware

Adicionar aos favoritos o Link permanente.