최신 노트
iPhone에서 소형 언어 모델 10종 비교: 4K/8K 메모리와 에이전트 정확도
Llama 3.2, SmolLM, LFM2.5를 포함한 GGUF 모델 10종을 iPhone 4K/8K 리소스와 96개 이중언어 에이전트 테스트로 비교했습니다.
온디바이스 AILLM모바일 추론벤치마크에이전트 라우팅
일반 글
Llama 3.2, SmolLM, LFM2.5를 포함한 GGUF 모델 10종을 iPhone 4K/8K 리소스와 96개 이중언어 에이전트 테스트로 비교했습니다.
iPhone 15 Pro Max에서 Qwen3.5-2B에 3,584/7,680-token Prompt를 입력해 Prefill, TTFT, 생성, 메모리, 열 상태를 측정했습니다.
96개 이중언어 사례와 기대 라우팅 전체를 포함해 구조화 지표, 고정 디코딩, iPhone 측정, 재현 근거와 결론의 한계를 공개합니다.