推荐Lovart 中文版 - 一站式 AI 设计平台推荐一人企业Vibe Coding社区!热门AI设计工具新品免费AI编程工具 Trae - 智能编码助手Seedance2.5已上线新用户注册即领免费算力
UIED.CN今天偷学哪一招,朋友

本地实测 Qwen-Image-2.1-Turbo 出图速度比原来快3倍

我在上一篇文章中,介绍了如何把 Qwen-Image-2.1 这个生图模型部署到本地,但是在后面使用的时候发现,它太慢了。在我电脑上(mac m5pro 48g),1024 分辨率的图像,设置25步去噪,生图往往需要150秒左右。昨天看 Qwen 官方发布了这个模型的 Turbo 版本,说只需要8步就能完成图像生成和编辑,十一放假回来之后就迫不及待的去试了下。我在本地部署 Qwen-Image-2.1 使用的是 Comfy 这个软件,模型是从国内的 ModelScope 平台上下载的,具体使用方式在上篇文章中详细介绍过,参考:我终于把 Qwen Image 2.1 部署到本地了这次还是使用 Comfy 提供的量化模型:Comfy-Org/Qwen-Image-2.1,如你之前部署过这次使用 turbo 版本只需要替换一个生图的模型文件就行了。这两个文件任选其一,我用的是 turbo 模型文件,这个是基于 Qwen 官方模型做的量化版本。lora会更省磁盘空间,但它是在原模型上外挂了一个加速器实现的,相当于从原参数中抽出来一个低秩矩阵,感觉会多一层误差。...下载完生图的模型文件,在 Comfy 原来的生图模版里,只需要改变两个参数就可以了。步数由25改成8,生图模型选择刚下载的“qwen_image_2.1_turbo_int8_convrot.safetensors”,同一个生图提示词,turbo 版本时间只有原来的1/3不到,速度提升3倍以上。下一个要测试的case是 turbo 版本在生图质量上有没有下降,Comfy的生图模版给的是一个类似于海报的提示词,这个在细节上很难看出高低。我还用上篇文章中提到的那个 “橘猫测试” 做对比,提示词:一只窗台边的橘猫。因为要画动物毛发,这个很容易分出高低。左边是原模型生成的,右边的是 turbo 版本生成的,在细节上是差了一些。但考虑到它只有8步,整体构图没有乱,我感觉还说得过去。它可能不太适合要求过多细节的图片,我后面尝试了把步数加到12也没见有太大改善。...最后,简单说下 turbo 版本的原理吧,为啥它减少这么多步生图质量整体还算可以,细节上会欠缺。Qwen 在介绍原模型 Qwen-Image-2.1 时,官方示例是40步,这次的 turbo 版本说8步就能生图。从实现效果上看,它应该是用了步数蒸馏的技法,turbo 版本把原来的 Qwen-Image-2.1 当做教师模型,在训练的时候用8步生图去贴近原模型的40步。但是权重大小不变,还是7B,减少了采样步数。但这8步不是均匀切分的,官方的模型文件中的 model_index.json 配置里可以看出来。turbo 版本在切分这8步中,前面的高噪声构图阶段步子很小,后面的低噪声补细节阶段步子很大。所以它在画面整体布局上比较稳定,但有时容易缺失局部细节,整体是抓大放小。

评论 0

最新评论

登录后发布评论并参与互动。

暂无评论,欢迎抢沙发。

推荐阅读

查看更多