Meta

Últimas notícias, modelos e lançamentos de IA de Meta. ['Astryx', 'Business Agent', 'BYT5', 'CodeLlama', 'expressive voice AI', 'FAIRChem v2 UMA', 'Gemma 4', 'Gemma4:e2b', 'HuBERT', 'llama', 'Llama', 'LLaMA', 'LLaMA2-chat-70B', 'Llama 3', 'Llama 3.1', 'Llama 3.1-405B', 'Llama-3.1-405B', 'LLaMA-3.1 405B', 'Llama 3.1-70B', 'Llama 3.1 8B', 'Llama 3.1-8B', 'Llama-3.1-8B', 'Llama 3.2', 'Llama-3.2-1B-Instruct', 'Llama 3.3', 'llama-3.3-70b', 'Llama 3 8B', 'Llama3-8B-Instruct', 'Llama 4', 'Llama 4 Maverick', 'LLaMA 65B', 'Llama 70B', 'M2M100', 'M**a AI', 'mBART', 'Meta AI', 'Meta AI model (model name not specified)', 'Meta Muse Spark', 'Muse Spark', 'Muse Spark 1.1']

Site oficial ↗

Negócios e Mercado 🇺🇸

Monday.com se junta à lista de empresas de tecnologia que atribuem demissões à IA — mais 20 exemplos

A Monday.com demitirá 20% de sua força de trabalho (mais de 600 pessoas) como parte de uma reestruturação, citando uma transformação em direção a uma estratégia de crescimento impulsionada por IA. De acordo com o Financial Times, as empresas de tecnologia dos EUA cortaram quase 140 mil empregos desde o início do ano, com Amazon, Oracle, Meta e Microsoft respondendo sozinhas por quase 50 mil. No entanto, o mercado está cético em relação a tais explicações: as ações das empresas que citam a IA tiveram desempenho inferior ao Nasdaq em 10%.

monday.com

Microsoft

Oracle

GitLab

Google/DeepMind

Intuit

Escrevendo um Transformer Apenas com Decodificador para LLM do Zero em Python

O autor de uma série de artigos descreve em detalhes a implementação de um bloco transformer para um pequeno LLM apenas com decodificador usando o framework PyTorch. Os componentes abordados incluem: Atenção Multi-Cabeça com mascaramento, Rede Feed Forward com GELU, camada de normalização e conexões residuais. O artigo explica a diferença da arquitetura original: a pré-normalização (Pre-LN) é usada em vez da pós-normalização para estabilidade no treinamento.

Google/DeepMind

OpenAI