基于 ggml 的纯 C++ 音频推理框架,把 TTS、声音克隆、语音转换、语音识别、说话人分离、VAD、源分离、音频编解码与音乐生成等 110 多个模型族收进同一套原生运行时,后端覆盖 CUDA、HIP、Vulkan、Metal 与纯 CPU,入口有 CLI、OpenAI 风格服务、内嵌 WebUI 与 JSON 流水线;同机对拍 Python 参考实现,多条 TTS 路径快 1.8 到 5 倍,Q8 量化包最高降低 37% 峰值显存。
作为亚马逊联盟会员,我们可能从符合条件的购买中获得佣金。