오픈AI, 아스트라 '노-CoT' 능력 향상 확인…AI 추론 감시 한계 드러나

#OpenAI

오픈AI가 AI 모델이 추론 과정을 외부에 드러내지 않고도 문제를 해결하는 '노-CoT(No-CoT)' 능력이 학습 과정에서 향상된다는 연구 결과를 공개했다. 특히 'GPT-6 아스트라'에서 두드러진 추론 감시 성능 저하와 관련해 모델 구조와 학습 방식이 추론 감시 관련 능력에 미치는 영향을 분석하고, 기존 안전 감시 기술의 한계를 경고했다.

원문의 저작권은 AI타임스에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.