커뮤니티해외
MACaQ의 2차 헤시안 정제 기법을 패치 없이 GGUF 모델에 적용해 양자화 효율을 13% 개선했다.
원제 · I noticed the 2 Hessian Refinement of MACaQ can be applied to any GGUF without any patches ... and tried it. 13% better quants
r/LocalLLaMA오늘 10위
한눈에 보기
Qwen3.8-27B 모델에 해당 기법을 적용한 결과 기존 방식 대비 KL 발산이 13.23% 감소하고 벤치마크 성능도 일부 향상되었다.
AI 요약 · 원문 제목과 발췌를 한국어로 옮김 — 정확한 내용은 원문에서 확인해 주세요.
- 처음 보도
- r/LocalLLaMA · 11.14 01:03
- 종류
- 커뮤니티 · 해외
- 다룬 곳
- r/LocalLLaMA
TLDR: Qwen3.8-27B UD_4_XL quant with 13.23% less KL divergence than unsloth (on my small testset, I just have a single 5090, feel free to test more).
원문의 저작권은 r/LocalLLaMA에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.