Meta

Neueste KI-Nachrichten, Modelle und Releases von Meta. ['Astryx', 'Business Agent', 'BYT5', 'CodeLlama', 'expressive voice AI', 'FAIRChem v2 UMA', 'Gemma 4', 'Gemma4:e2b', 'HuBERT', 'llama', 'Llama', 'LLaMA', 'LLaMA2-chat-70B', 'Llama 3', 'Llama 3.1', 'Llama 3.1-405B', 'Llama-3.1-405B', 'LLaMA-3.1 405B', 'Llama 3.1-70B', 'Llama 3.1 8B', 'Llama 3.1-8B', 'Llama-3.1-8B', 'Llama 3.2', 'Llama-3.2-1B-Instruct', 'Llama 3.3', 'llama-3.3-70b', 'Llama 3 8B', 'Llama3-8B-Instruct', 'Llama 4', 'Llama 4 Maverick', 'LLaMA 65B', 'Llama 70B', 'M2M100', 'M**a AI', 'mBART', 'Meta AI', 'Meta AI model (model name not specified)', 'Meta Muse Spark', 'Muse Spark', 'Muse Spark 1.1']

Offizielle Website ↗

Geschäft & Markt 🇺🇸

Monday.com reiht sich in Liste der Tech-Firmen ein, die Entlassungen auf KI schieben – 20 weitere Beispiele

Monday.com wird im Rahmen einer Umstrukturierung 20 % seiner Belegschaft (über 600 Personen) entlassen und begründet dies mit einer Neuausrichtung hin zu einer KI-gesteuerten Wachstumsstrategie. Laut der Financial Times haben US-IT-Unternehmen seit Jahresbeginn fast 140.000 Stellen gestrichen, wobei Amazon, Oracle, Meta und Microsoft allein fast 50.000 ausmachen. Der Markt steht solchen Erklärungen jedoch skeptisch gegenüber: Aktien von Unternehmen, die auf KI verweisen, haben den Nasdaq um 10 % unterboten.

monday.com

Microsoft

Oracle

GitLab

Google/DeepMind

Intuit

Aufbau eines Decoder-Only Transformers für ein LLM von Grund auf in Python

Der Autor einer Artikelreihe beschreibt detailliert die Implementierung eines Transformer-Blocks für ein kleines Decoder-Only LLM mit dem PyTorch-Framework. Behandelte Komponenten sind: Multi-Head Attention mit Maskierung, Feed Forward Network mit GELU, Normalisierungsschicht und Residualverbindungen. Der Artikel erklärt den Unterschied zur ursprünglichen Architektur: Statt Post-Normalisierung wird Pre-Normalisierung (Pre-LN) für die Trainingsstabilität verwendet.

Google/DeepMind

OpenAI