Allen Institute for AI — AI-nieuws en modellen

Agenten 🇺🇸

Wat het bouwen van de Shippy-agent ons leerde: hoe betrouwbare AI-agenten voor operationele taken te bouwen

Het Skylight (Ai2)-team deelde hun ervaring met het ontwikkelen van Shippy, een AI-agent voor maritieme bewustwording. De grootste uitdaging is het waarborgen van betrouwbaarheid onder risicovolle omstandigheden. Shippy's architectuur omvat een 'ziel' (systeemprompt), vaardigheden (markdown-bestanden) en configuratie. Voor determinisme gebruikt de agent een CLI in plaats van directe API-aanroepen. Elke gebruiker werkt in een geïsoleerde sessie via het Mothership-platform. Evaluatie van de agent wordt uitgevoerd op live data met aangepaste scenario's; Shippy is beschikbaar voor testen door vroege gebruikers.

Allen Institute for AI

Anthropic

Hugging Face blog27.07 · 02:03

Open Source 🇺🇸

Gigatoken: BPE Tokenizer in Rust Encodes Text at 24.53 GB/s, Up to 989x Faster Than HuggingFace Tokenizers

Stanford PhD student Marcel Roed released Gigatoken, a BPE tokenizer in Rust with Python bindings, achieving speeds of up to 24.53 GB/s on a 144-core AMD EPYC, 989x faster than HuggingFace Tokenizers and 681x faster than tiktoken. The speedup comes from a handwritten SWAR pre-tokenizer and pre-token caching.

OpenAI

Hugging Face

Google/DeepMind