Allen Institute for AI

Uusimmat tekoälyuutiset, mallit ja julkaisut taholta Allen Institute for AI. ['MolmoAct2', 'OLMo 2', 'OLMo 2 7B', 'OLMo 3', 'OLMo 3 7B', 'Tülu 3']

Virallinen sivusto ↗

Agentit 🇺🇸

Mitä Shippy-agentin rakentaminen opetti meille: Kuinka rakentaa luotettavia tekoälyagentteja operatiivisiin tehtäviin

Skylight (Ai2) -tiimi jakoi kokemuksensa Shippyn, merenkulun tilannekuvaan tarkoitetun tekoälyagentin, kehittämisestä. Päähaasteena on luotettavuuden varmistaminen korkean panoksen olosuhteissa. Shippyn arkkitehtuuriin kuuluu "sielu" (järjestelmäkehote), taidot (Markdown-tiedostot) ja konfiguraatio. Determinismiä varten agentti käyttää CLI:tä suorien API-kutsujen sijaan. Jokainen käyttäjä työskentelee eristetyssä istunnossa Mothership-alustan kautta. Agentin arviointi tehdään tuoreella datalla käyttäen räätälöityjä skenaarioita; Shippy on avoin varhaisten käyttäjien testattavaksi.

Allen Institute for AI

Anthropic

Hugging Face blog27.07 · 02:03

Avoin lähdekoodi 🇺🇸

Gigatoken: Rust-pohjainen BPE-tokenisointi 24,53 Gt/s - jopa 989x nopeampi kuin HuggingFace-tokenisaattorit

Stanfordin tohtorikoulutettava Marcel Roed julkaisi Gigatokenin, Rust-pohjaisen BPE-tokenisaattorin, jossa on Python-sidokset. Se saavuttaa jopa 24,53 Gt/s nopeuden 144-ytimisellä AMD EPYC -suorittimella, ollen 989 kertaa nopeampi kuin HuggingFace-tokenisaattorit ja 681 kertaa nopeampi kuin tiktoken. Nopeuden salaisuus on käsin kirjoitettu SWAR-esitokenisaattori ja esitokenien välimuisti.

OpenAI

Hugging Face

Google/DeepMind