Meta

Laatste AI-nieuws, modellen en releases van Meta. ['Astryx', 'Business Agent', 'BYT5', 'CodeLlama', 'expressive voice AI', 'FAIRChem v2 UMA', 'Gemma 4', 'Gemma4:e2b', 'HuBERT', 'llama', 'Llama', 'LLaMA', 'LLaMA2-chat-70B', 'Llama 3', 'Llama 3.1', 'Llama 3.1-405B', 'Llama-3.1-405B', 'LLaMA-3.1 405B', 'Llama 3.1-70B', 'Llama 3.1 8B', 'Llama 3.1-8B', 'Llama-3.1-8B', 'Llama 3.2', 'Llama-3.2-1B-Instruct', 'Llama 3.3', 'llama-3.3-70b', 'Llama 3 8B', 'Llama3-8B-Instruct', 'Llama 4', 'Llama 4 Maverick', 'LLaMA 65B', 'Llama 70B', 'M2M100', 'M**a AI', 'mBART', 'Meta AI', 'Meta AI model (model name not specified)', 'Meta Muse Spark', 'Muse Spark', 'Muse Spark 1.1']

Bedrijf & Markt 🇺🇸

Monday.com Voegt Zich Bij Lijst van Techbedrijven Die AI de Schuld Geven voor Ontslagen — Nog 20 Voorbeelden

Monday.com zal 20% van zijn personeelsbestand ontslaan (meer dan 600 mensen) als onderdeel van een herstructurering, met verwijzing naar een transformatie naar een AI-gedreven groeistrategie. Volgens de Financial Times hebben Amerikaanse IT-bedrijven sinds het begin van het jaar bijna 140.000 banen geschrapt, waarbij Amazon, Oracle, Meta en Microsoft alleen al goed zijn voor bijna 50.000. De markt staat echter sceptisch tegenover dergelijke uitleg: aandelen van bedrijven die AI aanhalen, hebben het Nasdaq met 10% minder goed gedaan.

monday.commonday.com MicrosoftMicrosoft OracleOracle GitLabGitLab Google/DeepMindGoogle/DeepMind IntuitIntuit MetaMeta Cisco SystemsCisco Systems CloudflareCloudflare General MotorsGeneral Motors CoinbaseCoinbase PayPalPayPal SnapSnap IBMIBM AtlassianAtlassian DellDell BlockBlock SalesforceSalesforce Amazon/AWSAmazon/AWS AnthropicAnthropic OpenAIOpenAI
TechCrunch AI27.07 · 21:02
Onderzoek 🇷🇺

Een Decoder-Only Transformer voor LLM helemaal zelf schrijven in Python

De auteur van een reeks artikelen beschrijft in detail de implementatie van een transformerblok voor een kleine decoder-only LLM met behulp van het PyTorch-framework. Onderdelen die aan bod komen zijn: Multi-Head Attention met masking, Feed Forward Network met GELU, normalisatielaag en residuverbindingen. Het artikel legt het verschil met de oorspronkelijke architectuur uit: er wordt pre-normalisatie (Pre-LN) gebruikt in plaats van post-normalisatie voor trainingsstabiliteit.

Google/DeepMindGoogle/DeepMind OpenAIOpenAI MetaMeta
Habr — хаб NLP27.07 · 20:04
Vers nieuws