Dentro da Estratégia de IA da Meta: Zuckerberg Enfatiza a Importância do Poder Computacional, Iniciativas de Código Aberto e Dados de Treinamento

As chamadas de resultados desta semana das grandes empresas de tecnologia destacaram os avanços de cada uma em inteligência artificial (IA). O Google focou sua discussão em IA generativa para busca e serviços em nuvem, enquanto a Microsoft detalhou sua integração de IA em toda a sua pilha tecnológica. A Amazon apresentou chips de IA e o Bedrock, além de um novo assistente de compras impulsionado por IA chamado Rufus. No entanto, a Meta se destacou como a líder ao revelar uma estratégia abrangente de IA.

A abordagem da Meta em IA se destaca pela sua dedicação ao código aberto e pela vasta quantidade de dados de treinamento de IA coletados a partir de publicações públicas no Facebook e no Instagram. Durante a chamada de resultados do quarto trimestre de 2023, o CEO Mark Zuckerberg enfatizou a posição vantajosa da empresa no desenvolvimento de IA, especialmente em recursos computacionais.

Infraestrutura de Computação de Classe Mundial da Meta para IA

Zuckerberg delineou uma estratégia de longo prazo para liderar a criação de produtos de IA populares e avançados, sugerindo que atingir a “inteligência geral plena” exige poder computacional substancial. Ele observou que até o final do ano, a Meta implantará aproximadamente 350.000 GPUs H100, com uma capacidade computacional total próxima de 600.000 equivalentes a H100. A demanda por essa infraestrutura surgiu, em grande parte, do Instagram Reels.

Zuckerberg explicou: "Aprendemos lições valiosas com o Reels. Inicialmente, subestimamos nossas necessidades de GPU, o que nos levou a construir capacidade suficiente para suportar tanto o Reels quanto um serviço de IA de tamanho semelhante." Ele afirmou: “A Meta está jogando para ganhar,” prevendo que o treinamento de modelos futuros demandará ainda mais recursos computacionais. “Modelos de linguagem de última geração têm sido treinados usando cerca de 10 vezes a quantidade de computação a cada ano,” acrescentou. A Meta planeja investir pesadamente em datacenters personalizados e silícios especificamente adaptados para suas cargas de trabalho.

Estratégia de IA de Código Aberto da Meta

Zuckerberg reiterou o firme compromisso da Meta com uma estratégia de código aberto, apesar do escrutínio regulatório. Ele explicou: "Nossa estratégia é construir e abrir a infraestrutura geral, mantendo implementações específicas de produtos como proprietárias." Isso inclui os modelos Llama, especialmente o promissor Llama 3, e ferramentas como o PyTorch.

Ele destacou as vantagens estratégicas do código aberto, afirmando que isso melhora a segurança, promove padrões da indústria e atrai desenvolvedores. “O código aberto nos ajuda a recrutar talentos de topo, essenciais para liderar em nova tecnologia,” observou. Fornecer ferramentas como o Llama como código aberto não diminui a vantagem competitiva da Meta.

Dados de Treinamento Abrangentes Que Superam o Common Crawl

Zuckerberg enfatizou os robustos mecanismos de dados e feedback da Meta, afirmando que a riqueza de dados do Facebook e do Instagram, que inclui “centenas de bilhões de imagens compartilhadas publicamente e dezenas de bilhões de vídeos públicos,” provavelmente supera o conjunto de dados do Common Crawl. O Common Crawl inclui vastas quantidades de dados da web coletados desde 2008.

Zuckerberg elaborou: “O que realmente nos diferencia é nossa capacidade de criar loops de feedback eficazes com centenas de milhões de usuários interagindo com nossos serviços de IA. Essa interação aumenta significativamente a melhoria de nossos sistemas de IA, especialmente com Reels e anúncios.”

Compromisso da Meta com a Liderança em IA

Um recente artigo da Bloomberg observou que o sucesso do modelo Llama da Meta transformou lamas reais em mascotes não oficiais de eventos de IA de código aberto. No entanto, segundo o recente relatório de resultados da Meta, a empresa parece pronta para investir de forma significativa—potencialmente bilhões de dólares—em sua busca pela liderança em IA em meio a um cenário competitivo em rápida evolução.