Recentemente, Musk anunciou na plataforma de mídia social X (anteriormente Twitter) que sua empresa, xAI, está treinando seu modelo de IA no cluster de treinamento de IA mais poderoso do mundo — o “Memphis Supercluster”, localizado em Memphis, Tennessee. Este cluster será o maior investimento de capital na história da cidade, atraindo a atenção da mídia.

De acordo com reportagens locais, este supercluster é equipado com 100.000 unidades de processamento gráfico (GPUs) Nvidia H100 resfriadas a líquido. Esses chips, lançados no ano passado, têm uma demanda de mercado muito alta, sendo usados até mesmo pelo seu concorrente, OpenAI. Musk também mencionou que todo o cluster utiliza uma tecnologia chamada “Remote Direct Memory Access” (RDMA), que permite a transferência eficiente de dados entre os nós de computação, reduzindo a carga na unidade central de processamento (CPU).

image.png

O objetivo da xAI é treinar, até dezembro de 2024, uma IA “a mais poderosa em todos os indicadores” usando este supercluster. Musk enfatizou em resposta que o Memphis Supercluster fornecerá uma “vantagem significativa” para seus objetivos. No entanto, considerando os atrasos em vários projetos anteriores de Musk, muitos são cautelosos em relação a essa promessa.

Na verdade, os concorrentes da xAI não estão parados. Empresas como OpenAI, Anthropic, Google, Microsoft e Meta estão competindo para lançar modelos de linguagem grandes (LLMs) e modelos de linguagem pequenos (SLMs) mais poderosos e acessíveis. Portanto, a xAI precisa de novos modelos inovadores e práticos para se manter competitiva nesta corrida de inteligência artificial.

Além disso, fontes disseram que a Microsoft está colaborando com o CEO da OpenAI, Sam Altman, para desenvolver um supercomputador de treinamento de IA de US$ 100 bilhões de dólares, com o codinome “Stargate”. Se este plano for bem-sucedido, o Memphis Supercluster da xAI pode não manter sua posição como o mais poderoso do mundo por muito tempo.

Destaques:

🌟 A xAI anunciou o lançamento do cluster de treinamento de IA mais poderoso do mundo, equipado com 100.000 GPUs Nvidia H100.

⚡ Musk planeja treinar a “IA mais poderosa” até dezembro de 2024 e afirma que o cluster fornecerá uma vantagem significativa.

🚀 A xAI enfrenta pressão de concorrentes como OpenAI e Google e precisa lançar modelos inovadores para manter sua competitividade.