Liquid AI가 LFM2.5-2.6B 출시: 128K 컨텍스트, 도구 호출 및 오픈 가중치를 갖춘 온디바이스 에이전트 모델
Liquid AI
Google/DeepMind
Alibaba/Qwen
Liquid AI가 온디바이스에서 완전히 실행되도록 설계된 에이전트 모델 LFM2.5-2.6B를 공개했습니다. 이 모델은 계획 수립, 도구 사용, 다단계 작업을 지원하며, 26억 9천만 개의 매개변수, 128K 컨텍스트 창, 오픈 가중치를 갖추고 있습니다. 더 큰 모델과 견줄 만한 성능을 제공하면서도 데이터 프라이버시와 낮은 운영 비용을 보장합니다.
Liquid AI가 LFM2.5-2.6B를 출시했습니다. 이 모델은 전적으로 기기 내에서 실행되는 에이전트 모델로, 계획 수립, 도구 호출, 다단계 작업 처리를 스마트폰, 노트북, PC, 로봇에서 수행할 수 있습니다. 이 모델은 총 26억 9천만 개의 파라미터, 131,072 토큰의 컨텍스트 창, 128,000 토큰의 어휘를 갖추고 있으며, 약 34조 개의 토큰으로 사전 학습되었습니다. 파인튜닝용 LFM2.5-2.6B-Base와 에이전트 작업용 사후 학습된 LFM2.5-2.6B 두 가지 체크포인트가 제공됩니다. 추론이 로컬에서 이루어지기 때문에 데이터가 기기를 벗어나지 않으며, 실행당 한계 비용이 거의 0에 가깝습니다. 이 모델은 거의 4배 크기의 모델과 경쟁력 있는 도구 사용 및 지시 따르기 점수를 보고합니다. 두 체크포인트 모두 Hugging Face에 lfm1.0 라이선스로 공개되어 있으며, 네이티브, GGUF, MLX, ONNX 형식의 가중치를 제공하고, llama.cpp, vLLM, SGLang, LM Studio에서 출시 첫날부터 지원됩니다. 아키텍처는 30개의 레이어(22개의 이중 게이트 단일 합성곱 블록과 8개의 그룹 쿼리 어텐션 블록)와 128,000개의 어휘 크기를 특징으로 합니다. 학습에는 감독형 파인튜닝, 강화 학습을 통한 교사 특화, 다중 도메인 온폴리시 증류, GRPO를 사용한 에이전트 강화 학습을 포함한 4단계 사후 학습 과정이 포함되었습니다. 벤치마크에 따르면 이 모델은 보고된 모든 지시 따르기 벤치마크와 거의 모든 도구 사용 벤치마크에서 선두를 달리며, BFCLv4와 코딩 작업에서만 Qwen3.5-9B와 같은 더 큰 모델에 뒤처집니다. 이 모델은 에이전트 작업, 도구 사용, 데이터 추출, RAG(검색 증강 생성), 긴 컨텍스트 워크플로에 권장되지만, 에이전트 코딩이나 지식 집약적 작업에는 적합하지 않습니다.
출처: MarkTechPost —
원문
