Google/DeepMind

Neueste KI-Nachrichten, Modelle und Releases von Google/DeepMind. ['A2UI v0.9', 'AI Co-Scientist', 'AI Evaluator', 'AI Mode', 'AI Overviews', 'AlphaEvolve', 'AlphaFold', 'AlphaGenome', 'AlphaQubit', 'Antigravity', 'Auto frame', 'BERT', 'Chinchilla', 'Computational Discovery', 'Confidential GKE Nodes', 'Co-Scientist', 'Empirical Research Assistance', 'Era', 'ERA', 'Executive LLM', 'Farmscapes 2020', 'Flood Hub', 'frontier AI', 'Frozen v2', 'FunctionGemma', 'Gemini', 'Gemini 1.5 Flash', 'Gemini-1.5-pro', 'Gemini 1.5 Pro', 'Gemini 2.5', 'Gemini 2.5 Flash', 'Gemini-2.5 Flash', 'Gemini-2.5-Flash', 'Gemini 2.5 Pro', 'Gemini-2.5 Pro', 'Gemini-2.5-Pro', 'Gemini 3.1 Flash', 'Gemini 3.1 Flash-Lite', 'Gemini-3.1-pro', 'Gemini 3.1 Pro']

Offizielle Website ↗

Forschung 🇷🇺

Aufbau eines Decoder-Only Transformers für ein LLM von Grund auf in Python

Der Autor einer Artikelreihe beschreibt detailliert die Implementierung eines Transformer-Blocks für ein kleines Decoder-Only LLM mit dem PyTorch-Framework. Behandelte Komponenten sind: Multi-Head Attention mit Maskierung, Feed Forward Network mit GELU, Normalisierungsschicht und Residualverbindungen. Der Artikel erklärt den Unterschied zur ursprünglichen Architektur: Statt Post-Normalisierung wird Pre-Normalisierung (Pre-LN) für die Trainingsstabilität verwendet.

Google/DeepMind

OpenAI

Anthropic wegen Verweigerung offener Modelle kritisiert – einziges großes KI-Labor ohne diese

Anthropic bleibt das einzige große KI-Labor, das keine offenen Modelle veröffentlicht, und erntet dafür Kritik aus der Community. Anders als OpenAI, Meta, Google und andere verfolgt das Unternehmen eine strikt geschlossene Politik und beruft sich auf Sicherheitsrisiken.

Anthropic

OpenAI