연동 키트설치형 오픈소스Rumble-2-Flash
Rumble-2-Flash 음성인식 모델 사내 서버 연동
- 누가 · 어디에
- 사내 개발자가 고객 통화 녹취, 회의록 전사 및 다국어 음성 데이터 텍스트 변환 업무에
- 업무 효과
- 0.5B 경량 모델로 GPU 인프라 부담을 낮추고, 데이터 외부 유출 없이 고속 음성 인식을 구현함
우리 서버 · PC 에 설치해 직접 운영합니다. AI 가 공식 문서를 찾아 정리한 가이드로, mopick 이 직접 따라 해 보지는 않았습니다 · 공식 문서에서 제품을 확인했습니다
준비할 것
- Python 3.10 이상 실행 환경
- CUDA 지원 GPU(또는 호환 가속기) 인프라
- Python 패키지 (torch, transformers, accelerate)
연동 단계
해 본 단계는 번호를 눌러 표시하세요. 표시는 이 브라우저에만 남습니다.
0% 진행
의존성 패키지 설치
터미널에서 pip 또는 uv pip 명령어로 torch, transformers, accelerate 패키지를 설치합니다.
모델 및 프로세서 로드
Python 스크립트에서 Reson8/Rumble-2-Flash 식별자로 AutoProcessor와 AutoModelForMultimodalLM을 불러옵니다.
음성 입력 및 전사 실행
processor.apply_transcription_request로 오디오 경로와 언어(생략 시 자동 감지)를 전달한 뒤 generate()로 추론합니다.
전사 결과 확인
processor.decode를 사용해 생성된 토큰을 문자열로 디코딩하고 콘솔 출력 또는 사내 DB에 저장합니다.
붙여 넣는 설정 · 코드
YOUR_API_KEY 같은 자리에는 내 값을 넣으세요. 키는 코드 · 문서에 그대로 남기지 말고 환경 변수 · 비밀 저장소에 두세요.
Transformers 기반 음성 전사 Python 스크립트 python
from transformers import AutoProcessor, AutoModelForMultimodalLM
model_id = "Reson8/Rumble-2-Flash"
processor = AutoProcessor.from_pretrained(model_id)
model = AutoModelForMultimodalLM.from_pretrained(model_id, device_map="auto")
inputs = processor.apply_transcription_request(
audio="sample.wav",
language="Korean" # 생략 시 자동 감지
).to(model.device, dtype=model.dtype)
output = model.generate(**inputs, max_new_tokens=512)
generated = output[:, inputs["input_ids"].shape[-1]:]
result = processor.decode(generated, return_format="transcription_only")[0]
print("전사 결과:", result)- 잘 연결됐는지 확인
- sample.wav 파일을 전달해 실행했을 때 디코딩된 전사 문자열이 콘솔에 정상 출력되는지 확인
- 비용
- Apache 2.0 라이선스로 모델 가중치 무료 제공 (자체 호스팅 인프라 비용만 발생)
- 주의
- · 화자 분리(Diarization) 기능은 포함되어 있지 않으므로 단순 텍스트 전사 용도로 사용해야 합니다.
- · Qwen3-ASR 아키텍처 호환을 위해 최신 버전의 transformers 라이브러리가 필요합니다.
공식 문서
우리 회사 시스템에 붙여야 한다면 — 업무 앱 · 사내 자료 · 보안 조건에 맞춘 연동을 TPI INSIGHT AX센터가 함께합니다.