오과장입니다. 오늘은 Whisper large-v3-turbo를 Ryzen AI Max+ 395, 그러니까 Strix Halo 계열 미니PC의 NPU에서 자막 작업용으로 믿어도 되는지를 보겠습니다. 결론부터 말하면, 지금은 “NPU가 있으니 무조건 빠르겠지”라고 보고 사면 위험합니다. Whisper 자체는 가볍고 오래 검증된 오픈소스 음성 인식 모델이지만, Windows에서 NPU 경로가 실제로 물리는지는 런타임과 드라이버, 패키지 구성이 같이 맞아야 합니다.
Ryzen AI Max+ 395 미니PC는 Whisper 작업용 장비로 매력적입니다. CPU 코어, 큰 통합 메모리, Radeon 8060S급 내장 GPU가 있어 CPU/GPU fallback까지 포함하면 여유가 큽니다. 다만 2026년 5월 20일 Lemonade 이슈에서는 Strix Halo Windows 11에서 whispercpp_backend=npu를 지정해도 NPU가 0%로 머물고 4스레드 CPU 경로로 조용히 fallback 되는 사례가 올라왔습니다. 그래서 지금 구매 판단은 “NPU 전용 자막 머신”이 아니라 “NPU를 실험하되 CPU/GPU로도 버틸 수 있는 고메모리 미니PC”로 잡아야 합니다.
이 도구가 뭔가요?
Whisper는 OpenAI가 공개한 음성 인식 모델입니다. 음성 파일을 넣으면 문장으로 바꿔주고, 여러 언어 인식과 번역 작업에도 쓰입니다. large-v3-turbo는 large-v3를 더 빠르게 쓰기 위한 버전이라, 회의 녹음·강의·유튜브 초벌 자막처럼 “빨리 텍스트로 바꾸는 작업”에 잘 맞습니다.
용어 먼저 정리
NPU는 AI 계산 전용 보조칩입니다. CPU보다 전기를 덜 쓰는 AI 작업을 노리지만, 프로그램이 그 NPU를 제대로 호출해야만 빨라집니다. whisper.cpp는 Whisper를 C/C++로 가볍게 돌리는 실행기입니다. ONNX Runtime은 모델을 여러 하드웨어에서 실행하게 돕는 엔진이고, VitisAI EP는 AMD NPU 쪽 실행 경로입니다. RTF는 실제 오디오 길이 대비 처리 속도입니다. RTF 1.0이면 10분 음성을 10분에 처리한다는 뜻입니다.
왜 지금 이 조합을 봐야 하나요?
Whisper는 이미 오래된 모델이지만, 2026년에 다시 보는 이유가 있습니다. 요즘 노트북과 미니PC가 “AI PC”, “NPU 탑재”를 전면에 걸고 나오면서 자연스럽게 로컬 자막, 회의록, 강의 요약을 기대하게 됩니다. 특히 Ryzen AI Max+ 395 같은 Strix Halo 장비는 CPU와 GPU, NPU가 한 칩에 묶여 있어 작은 책상 위 로컬 AI 서버처럼 쓰기 좋습니다.
하지만 음성 인식은 LLM 채팅과 병목이 다릅니다. Whisper는 큰 텍스트 모델처럼 64GB RAM을 항상 요구하지 않습니다. OpenAI 모델 카드 기준 turbo는 약 6GB VRAM 요구로 안내되고, whisper.cpp는 large 계열도 메모리 약 3.9GB 수준으로 표기합니다. 문제는 메모리보다 실행 경로입니다. NPU를 쓴다고 표시됐는데 실제로는 CPU만 쓰면, 쓰는 사람은 이유도 모르고 속도만 느리다고 느낍니다.
실사용 사례에서 나온 기준
최근 7일 안의 가장 중요한 신호는 Lemonade #1968입니다. 작성자는 Windows 11 Build 28000, Strix Halo, Ryzen AI Max+ 395 장비에서 Whisper-Large-v3-Turbo를 whispercpp_backend=npu로 불러왔습니다. Lemonade 로그는 “Model loaded successfully”와 “Using backend: npu”를 보여줬지만, 실제 측정에서는 193초 오디오 처리에 약 120초가 걸렸고 NPU 사용률은 0%였습니다. xrt-smi에서도 하드웨어 컨텍스트가 없다고 나왔습니다.
이 사례가 중요한 이유는 하드웨어가 고장났다는 보고가 아니기 때문입니다. 같은 기기에서 FLM whisper는 NPU를 제대로 사용했고, 이슈 작성자는 드라이버와 하드웨어가 괜찮다고 적었습니다. 문제는 whisper.cpp NPU 패키지 쪽에 필요한 런타임 구성 요소나 실행 인자가 빠져 있을 가능성입니다. 즉 Ryzen AI Max+ 395 자체를 피하라는 뜻이 아니라, “Whisper NPU 경로는 아직 직접 확인해야 한다”는 뜻입니다.
반대로 가능성도 보입니다. 2026년 5월 19일 Microsoft의 olive-recipes PR #425는 Whisper small, medium, large-v3-turbo용 VitisAI NPU 레시피를 추가했습니다. ONNX Runtime VitisAI EP와 WinML provider 등록, Windows App SDK, ONNX encoder, VitisAI cache 파일까지 포함한다고 설명합니다. 이건 NPU 자막 작업이 허상이 아니라, 실행 체인이 갖춰지면 실제로 갈 수 있는 방향이라는 신호입니다.
또 WhisperX Studio 공개 이슈는 로컬 Whisper, speaker diarization, WASAPI 녹음, OpenVINO 개선과 NPU 경로를 언급합니다. 실사용 앱들이 “녹음→자막→화자 분리→내보내기”를 한 화면에서 묶으려는 흐름이 생겼다는 점에서, 자막 자동화 수요는 분명합니다.
최소는 16GB RAM 노트북에서도 small/medium 또는 turbo CPU 실행이 가능합니다. 하지만 장시간 영상, 여러 파일 일괄 변환, 로컬 LLM 요약까지 묶으려면 RAM 32GB 이상이 편합니다. Ryzen AI Max+ 395 128GB 미니PC는 Whisper 하나만 보면 과하지만, Whisper와 로컬 LLM, 브라우저, 편집 앱을 동시에 띄우는 작업실 장비로는 여유가 큽니다.
최소 사양과 권장 사양
RAM 16GB, CPU 실행, Whisper small/medium 또는 turbo. 팬 소음과 처리 시간은 감수합니다.
RAM 32GB 이상, 빠른 SSD, GPU/NPU fallback 확인. 영상 편집 앱과 같이 켜도 버팁니다.
Ryzen AI Max+ 395 64~128GB. Whisper, 로컬 LLM 요약, 파일 서버, 편집 보조를 한 기기에서 묶습니다.
병목은 NPU보다 “정말 NPU를 쓰는가”입니다
Whisper 작업에서 저장공간은 모델과 원본 영상 때문에 중요하지만, 1TB SSD면 시작은 충분합니다. RAM은 여러 앱을 같이 켤 때 중요합니다. 그러나 이번 조합의 핵심 병목은 NPU 사용 여부입니다. 로그에 NPU라고 찍히는 것만 믿으면 안 됩니다. 작업 관리자 NPU 열, xrt-smi examine --report aie-partitions, 처리 시간, CPU 사용률을 같이 봐야 합니다.
Ryzen AI Max+ 395는 Radeon 8060S급 그래픽과 큰 통합 메모리가 강점입니다. 그래서 NPU가 막혀도 CPU/GPU 경로로 돌아갈 수 있습니다. 반대로 NPU만 보고 얇은 저전력 노트북을 샀는데 whisper.cpp NPU 경로가 막히면, 결국 CPU로 긴 오디오를 처리하면서 답답해질 수 있습니다.
맥 계열과 NVIDIA 계열은 어떻게 다를까요?
맥 계열은 whisper.cpp가 Apple Silicon, Metal, Core ML 경로를 오래 지원해 왔습니다. 조용한 책상용 자막 장비로는 맥 미니도 여전히 좋습니다. 다만 Apple Neural Engine 경로는 모델 변환과 Core ML 준비가 필요하고, Windows용 NPU 레시피와는 다른 세계입니다.
NVIDIA 계열은 CUDA 생태계가 강합니다. faster-whisper나 PyTorch 기반 도구를 쓰는 사람에게는 RTX GPU가 편합니다. 대신 작은 미니PC 형태로 조용하게 상시 켜두는 용도는 Strix Halo 계열이 끌립니다. 결국 “최고 속도”만 보면 RTX가 쉽고, “책상 위 조용한 로컬 AI 박스”를 원하면 Ryzen AI Max+ 395가 후보가 됩니다. 단, NPU 경로는 반드시 검증해야 합니다.
설치/세팅 흐름
- 먼저 목표를 정합니다. 단순 자막이면 Whisper turbo, 번역 정확도까지 원하면 large 계열을 봅니다.
- OpenAI Whisper 또는 whisper.cpp 기본 CPU 실행으로 샘플 음성을 먼저 성공시킵니다.
- Lemonade를 쓴다면
lemonade backends로 내 PC에서 어떤 backend가 잡히는지 확인합니다. - NPU를 시험할 때는
whispercpp_backend=npu같은 설정만 보지 말고 작업 관리자 NPU 사용률과xrt-smi를 같이 봅니다. - NPU 사용률이 0%이면 CPU/GPU fallback으로 전환하고, 짧은 파일 여러 개로 배치 처리부터 안정화합니다.
- 회의록이나 영상 요약까지 자동화하려면 Whisper 결과를 로컬 LLM으로 넘기는 단계는 나중에 붙입니다. 자막 추출이 먼저 안정돼야 합니다.
되는 것 / 어려운 것
Ryzen AI Max+ 395 미니PC에서 Whisper CPU/GPU fallback, 장시간 파일 저장, 로컬 LLM 요약까지 묶는 작업실 구성은 현실적입니다.
Windows에서 whisper.cpp NPU 경로가 항상 안정적으로 물린다고 단정하기는 어렵습니다. 로그와 실제 사용률을 꼭 대조해야 합니다.
사도 되는 사람 / 보류할 사람
사도 되는 사람은 로컬 자막, 회의록, 녹취 정리, 영상 초벌 편집을 자주 하고, 동시에 로컬 LLM 요약까지 붙이고 싶은 사람입니다. 이런 사람에게 Ryzen AI Max+ 395 128GB급 미니PC는 Whisper만 돌리는 장비가 아니라 작은 로컬 AI 작업실이 됩니다. NPU가 안정화되면 더 좋아지고, 당장 NPU가 흔들려도 CPU/GPU와 큰 메모리로 버틸 수 있습니다.
보류할 사람은 “NPU 자막이 무조건 빠르다”는 한 문장만 보고 사려는 사람입니다. 지금은 NPU 스펙 숫자보다 실행기가 더 중요합니다. 이미 RTX 데스크톱이 있다면 faster-whisper CUDA 경로를 먼저 써보고, 맥 미니를 갖고 있다면 whisper.cpp Metal/Core ML 경로를 먼저 확인하는 편이 돈을 아낍니다.
자주 하는 질문
Q. Whisper large-v3-turbo는 꼭 NPU가 필요합니까?
아닙니다. CPU나 GPU로도 돌릴 수 있습니다. NPU는 전력 효율과 저소음 가능성이 장점이지만, 실행 경로가 제대로 잡혀야 의미가 있습니다.
Q. Ryzen AI Max+ 395 128GB는 Whisper만 하기엔 과한가요?
Whisper 하나만 보면 과합니다. 하지만 자막 생성, 로컬 LLM 요약, 브라우저, 편집 프로그램, 파일 저장을 함께 쓰면 큰 메모리와 강한 내장 GPU가 도움이 됩니다.
Q. NPU가 실제로 도는지 어떻게 보나요?
작업 관리자에서 NPU 사용률을 보고, 가능하면 xrt-smi examine --report aie-partitions 같은 도구로 하드웨어 컨텍스트가 생겼는지 확인합니다. 처리 시간과 CPU 사용률도 같이 봐야 합니다.
Q. 맥 미니 M4와 비교하면 어떤가요?
맥 미니는 whisper.cpp Metal/Core ML 자료가 많고 조용합니다. Ryzen AI Max+ 395는 Windows/Linux에서 로컬 AI 서버처럼 쓰기 좋고, AMD GPU/NPU 실험 폭이 넓습니다.
Q. 저장공간은 얼마나 필요합니까?
모델만 보면 수 GB면 되지만, 원본 영상과 변환 WAV, 자막 파일, 요약 결과를 쌓으면 금방 늘어납니다. 최소 1TB, 영상 작업까지 겸하면 2TB가 편합니다.
구매 판단
이번 글의 결론은 단순합니다. Whisper large-v3-turbo를 위해 NPU만 보고 장비를 고르지 마세요. 대신 CPU/GPU fallback이 강하고, RAM과 SSD 여유가 큰 장비를 고르는 게 안전합니다. Ryzen AI Max+ 395 128GB 미니PC는 이 조건에 잘 맞습니다. 다만 구매 전에는 판매 페이지에서 메모리 용량, SSD 용량, 운영체제, 실제 APU 모델명을 다시 확인해야 합니다.
아래 제품은 Strix Halo 계열 로컬 AI 미니PC로, Whisper 자막 자동화와 로컬 LLM 요약을 한 장비에서 묶고 싶은 사람에게 연결되는 후보입니다. NPU 실험은 덤으로 보고, 당장의 실사용은 전체 하드웨어 여유로 판단하는 쪽이 맞습니다.
출처: OpenAI Whisper, whisper.cpp, Lemonade, Lemonade #1968, Microsoft olive-recipes #425, WhisperX Studio 공개 이슈