Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.106 — 2026-10-18
NEWS 约 1 分钟

Drama3在8GB显存内实时生成音频

audio.cpp 接入 Drama3,RTX 5090 上不到 8GB 显存即可接近两倍实时生成音频。

IMAGE — r/LocalLLaMA 日榜

想在自己的电脑上生成一分钟语音,以往常要么等很久,要么准备一张显存很大的显卡。现在,轻量本地运行工具 audio.cpp 接入了音频生成模型 Drama3。贡献者 JarodMica 的实现让它能借助不同电脑硬件执行,重点是把显存门槛进一步压低。

据项目作者在 Reddit 公布的测试,RTX 5090 运行 Q4_k 版本时,采用“CPU 权重卸载”——把部分模型数据放到电脑内存,需要时再交给显卡——并把文本分块设为 256,CUDA 路径的峰值显存为 7,782 MiB,平均 RTF 为 0.521。RTF 可理解为生成耗时与音频时长之比:这个成绩约等于半分钟生成一分钟音频,接近两倍实时。若全部放进显存,速度可超过五倍实时,但峰值显存升至 26,990 MiB。

这仍不是成熟发布版。作者称目前优化主要集中在 CUDA;Vulkan 和 Metal 虽已能运行,但仍有性能、显存效率和正确性问题,包括 Vulkan 请求触及 token 上限,以及多角色生成出现意外静音。


供稿材料 SOURCES — 1

← 返回 2026-10-18 · 开源板块