AMD NPU 在 Linux 上跑 Whisper 与 LLM 的实际效果
AMD NPU 在 Linux 上跑 Whisper 与 LLM 的实际效果 在 MSI Stealth A16 AI+ 笔记本搭载的 Ryzen AI 9 365 处理器上，XDNA2 NPU 成功驱动了 OpenAI 的 whisper-large-v3-turbo 模型进行语音转录。整个过程没有调用 CPU 或 GPU，实时因子 RTF 达到约 0.18，一段 30 秒的音频在 5.2 秒内完成转录。相比 CPU 执行相同任务，NPU 的能耗大约只有前者的十分之一。同时，同一块 NPU 还能运行大……
