R
技术求助61 天前发布

批量生成时显存爆了,有什么省显存的办法吗

12G 显存,跑到第 20 张左右就 OOM。分辨率已经降到 768 了。是不是该分批跑?大家一般怎么处理长队列?

全部评论

2
最多 9 张
R
Root User D 级

把 VAE 换成 tiled 的试试。

61 天前
R
Root User D 级

分批 + 每批之间手动清一次缓存,我这边 8G 也能跑。

61 天前