논문해외
대형 언어 모델의 기권 방향: 질문 모호성, 지식 한계, 안전 정렬 전반의 기권에 대한 기계론적 해석 가능성
원제 · Abstention Direction in Large Language Models: Mechanistic Interpretability of Abstention Across Query Ambiguity, Knowledge Limits, and Safety Alignment
HF Daily Papers
한눈에 보기
불확실성이나 안전 위험 시 대형 언어 모델(LLM)의 응답 보류(기권)는 신뢰할 수 있는 모델에 필수적이다. 기권 원인은 질문의 모호성, 모델 지식의 한계, 안전 정렬의 세 가지 관점으로 분류된다.
AI 요약 · 원문 제목과 발췌를 한국어로 옮김 — 정확한 내용은 원문에서 확인해 주세요.
- 처음 보도
- HF Daily Papers · 11.16 04:00
- 종류
- 논문 · 해외
- 다룬 곳
- HF Daily Papers
Abstention, the withholding of a response by a large language model (LLM) under uncertainty or safety risks, is essential for trustworthy models.
원문의 저작권은 HF Daily Papers에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.