Edge0-145B: 개인 컴퓨터에서 쓰는 프런티어 AI 역량

#AI 에이전트#오픈소스 모델#AI 코딩

Edge0가 145B/120B 모델과 통합 추론 프레임워크, 배포 도구를 오픈소스로 공개함. 코딩, 추론, 에이전트 작업을 개인 컴퓨터에서 실행하고 평가, 미세조정, 제품 통합에 활용할 수 있음 Edge0-145B는 호환 노트북에서 최대 메모리 29GB, 프리필 초당 1,100토큰 이상, 생성 초당 80토큰 이상을 기록했다는 자체 측정 결과를 공개함자체…

원문의 저작권은 GeekNews에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.