커뮤니티해외
PS4 GPU에서 추측적 디코딩으로 오프라인 구동되는 Qwen3.5-9B
원제 · Qwen3.5-9B running on a PS4’s GPU, offline, using its own MTP head for speculative decoding
r/LocalLLaMA오늘 9위
한눈에 보기
순정 PS4에서 MTP 헤드를 이용해 Qwen3.5-9B 모델을 초당 31~39 토큰 속도로 오프라인 구동하는 오픈소스 프로젝트를 공개했다.
AI 요약 · 원문 제목과 발췌를 한국어로 옮김 — 정확한 내용은 원문에서 확인해 주세요.
- 처음 보도
- r/LocalLLaMA · 11.14 01:00
- 종류
- 커뮤니티 · 해외
- 다룬 곳
- r/LocalLLaMA
I made this, so a quick note: it’s my open-source project. Qwen3.5-9B runs on a stock PS4 at 31–39 tok/s.
원문의 저작권은 r/LocalLLaMA에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.