Allen Institute for AI

Dernières actualités, modèles et sorties d'IA de Allen Institute for AI. ['MolmoAct2', 'OLMo 2', 'OLMo 2 7B', 'OLMo 3', 'OLMo 3 7B', 'Tülu 3']

Agents 🇺🇸

Ce que la construction de l'agent Shippy nous a appris : comment créer des agents IA fiables pour les tâches opérationnelles

L'équipe Skylight (Ai2) a partagé son expérience de développement de Shippy, un agent IA pour la connaissance du domaine maritime. Le principal défi est d'assurer la fiabilité dans des conditions à enjeux élevés. L'architecture de Shippy comprend une « âme » (prompt système), des compétences (fichiers Markdown) et une configuration. Pour le déterminisme, l'agent utilise une interface en ligne de commande au lieu d'appels API directs. Chaque utilisateur travaille dans une session isolée via la plateforme Mothership. L'évaluation de l'agent est réalisée sur des données en direct à l'aide de scénarios personnalisés ; Shippy est ouvert aux tests des premiers utilisateurs.

Allen Institute for AIAllen Institute for AI AnthropicAnthropic
Hugging Face blog27.07 · 02:03
Open Source 🇺🇸

Gigatoken : tokeniseur BPE en Rust encode du texte à 24,53 Go/s, jusqu'à 989 fois plus rapide que les tokeniseurs HuggingFace

Marcel Roed, doctorant à Stanford, a publié Gigatoken, un tokeniseur BPE écrit en Rust avec des liaisons Python, atteignant des vitesses allant jusqu'à 24,53 Go/s sur un AMD EPYC à 144 cœurs, soit 989 fois plus rapide que les tokeniseurs HuggingFace et 681 fois plus rapide que tiktoken. L'accélération provient d'un pré-tokeniseur SWAR écrit à la main et de la mise en cache des pré-tokens.

OpenAIOpenAI Hugging FaceHugging Face Google/DeepMindGoogle/DeepMind MetaMeta Alibaba/QwenAlibaba/Qwen DeepSeekDeepSeek Moonshot AIMoonshot AI NVIDIANVIDIA MicrosoftMicrosoft Allen Institute for AIAllen Institute for AI Answer.AIAnswer.AI MistralMistral
MarkTechPost24.07 · 01:03
Infos fraîches