모델 출시
LFM2.5-2.6B, 128K 컨텍스트와 에이전틱 사후학습 갖춘 온디바이스 모델 공개
- LFM2.5-2.6B는 128K 컨텍스트와 에이전틱 사후학습을 갖춘 온디바이스 텍스트 전용 모델로, 약 34T 토큰으로 사전학습되고 네 단계 사후학습을 거쳤다.
- LFM2.5-2.6B는 온디바이스 배포를 위해 설계된 하이브리드 모델 계열인 LFM2.5의 일부이다.
- 이는 128K 컨텍스트 윈도우와 에이전틱 사후학습을 갖춘 LFM2 아키텍처를 기반으로 한다.
- LFM2.5-2.6B는 범용 텍스트 전용 모델이다.
- 에이전틱 작업, 도구 사용, 데이터 추출, RAG, 그리고 긴 컨텍스트 워크플로우에 이를 사용하기를 권장한다.
- 반면 이는 에이전틱 코딩과 지식 집약적 작업에는 권장되지 않는다.
- LFM2.5-2.6B는 약 34T 토큰으로 사전학습되었으며, 컨텍스트 윈도우를 128K로 확장하는 중간학습 단계를 거쳤다.
- 이후 사후학습은 네 단계를 거쳐 기본 모델을 에이전트로 전환한다: 감독 미세조정(두 차례), 도메인별 교사 특화, 다중 도메인 온폴리시 증류, 그리고 에이전틱 강화학습이다.
- 특히 에이전틱 강화학습을 통해 널리 쓰이는 에이전틱 하니스 안에서 모델을 직접 학습시킬 수 있다.
회사가 밝힌 수치
| Model |
Parameters |
Description |
| LFM2.5-2.6B-Base |
2.6B |
Pre-trained base model for fine-tuning |
| LFM2.5-2.6B |
2.6B |
Post-trained for agentic workloads |
벤치마크
- 회사가 자기 발표에 실은 값이다.
- 비교 대상과 측정 조건은 회사가 정했다.
Benchmarks
| Benchmark |
LFM2.5-2.6B (2.6B) |
gemma-4-E2B-it (5.1B) |
gemma-4-E4B-it (8B) |
Qwen3.5-4B (4.7B) |
Qwen3.5-9B (9.7B) |
| AA-Omni-Public Index |
-29.50 |
-74.47 |
-49.03 |
-54.30 |
-50.43 |
| AA-Omni-Public Acc |
8.13 |
6.37 |
8.33 |
17.63 |
21.30 |
| AA-Omni-Public Non-hallu |
59.04 |
13.67 |
37.42 |
12.66 |
8.84 |
| AIME25 |
51.87 |
26.33 |
34.27 |
49.33 |
56.07 |
| LiveCodeBenchv6 |
59.41 |
54.92 |
63.77 |
60.85 |
69.86 |
| IFBench |
59.17 |
34.08 |
39.24 |
48.40 |
56.47 |
| Multi-IF |
80.07 |
69.44 |
77.35 |
55.67 |
62.55 |
| IFStruct |
85.49 |
64.85 |
76.65 |
36.25 |
78.50 |
| BFCLv4 |
56.88 |
36.98 |
46.39 |
50.56 |
60.13 |
| ToolSandbox |
77.83 |
52.40 |
65.00 |
75.55 |
76.44 |
| τ³-Bench Banking |
5.67 |
3.35 |
4.12 |
5.45 |
5.15 |
| Claw-Eval average (EN) |
62.85 |
53.14 |
58.02 |
62.28 |
66.53 |
| PinchBench |
68.22 |
44.24 |
55.09 |
71.26 |
71.45 |
| BrowseComp+ (OpenClaw) |
26.89 |
8.31 |
15.90 |
24.46 |
27.23 |