Groq dobra o desempenho de inferência do Llama-2 70B em 3 semanas

A empresa Groq anunciou um aumento de duas vezes no desempenho de inferência para o modelo Llama-2 70B em apenas três semanas. A melhoria foi alcançada por meio da otimização de hardware e software. Agora, o sistema processa mais de 1250 tokens por segundo em um único stream.

Meta Groq

Nvidia em negociações com OpenAI para garantir financiamento de US$ 250 bilhões para data center - WSJ

A Nvidia está em discussões com a OpenAI para fornecer uma garantia de financiamento de US$ 250 bilhões para projetos de data center, de acordo com o Wall Street Journal. O potencial acordo envolveria a Nvidia assegurar os pagamentos de dívidas da OpenAI, garantindo acesso aos chips avançados da Nvidia.

NVIDIA OpenAI