커뮤니티국내
Show GN: 로컬 AI머신을 구입하기 전에 성능을 미리 예측할 수 있는 웹앱
GeekNews
한눈에 보기
안녕하세요,LLM 에 대해 공부하면서 로컬 인퍼런스를 위해 장비를 구매하고자 했는데, "어느 스펙까지 맞춰야 DeepSeek 를 원활하게 돌릴지" 같은 질문에 매번 손으로 계산하는 것이 귀찮더라고요.
출처 발췌 — 정확한 내용은 원문에서 확인해 주세요.
- 처음 보도
- GeekNews · 11.14 12:15
- 종류
- 커뮤니티 · 국내
- 다룬 곳
- GeekNews
안녕하세요,LLM 에 대해 공부하면서 로컬 인퍼런스를 위해 장비를 구매하고자 했는데, "어느 스펙까지 맞춰야 DeepSeek 를 원활하게 돌릴지" 같은 질문에 매번 손으로 계산하는 것이 귀찮더라고요. 그래서 Claude와 함께 장비의 스펙과 모델을 입력하면 prefill/decode TPS를 예측할 수 있는 시뮬레이션 웹앱을 개발했습니다.
원문의 저작권은 GeekNews에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.