논문해외
샘플 효율적인 NPU 설계 공간 탐색을 위한 메커니즘 크리틱
원제 · Mechanistic Critics for Sample-Efficient NPU Design-Space Exploration
HF Daily Papers
한눈에 보기
LLM 추론을 위한 NPU 설계 공간 탐색은 주로 지연 시간과 전력 등 스칼라 피드백만 반환하는 고비용 시뮬레이터에 의존한다. 이러한 피드백은 설정의 순위는 매길 수 있지만 원인 분석 정보는 거의 제공하지 못한다.
AI 요약 · 원문 제목과 발췌를 한국어로 옮김 — 정확한 내용은 원문에서 확인해 주세요.
- 처음 보도
- HF Daily Papers · 11.18 04:00
- 종류
- 논문 · 해외
- 다룬 곳
- HF Daily Papers
NPU design-space exploration for LLM inference mainly relies on an expensive simulator that often returns only scalar feedback such as latency and power.
원문의 저작권은 HF Daily Papers에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.