2024-08-13 17:04

ai图片生成新王flux怎么这么强?-九游会登录

本文来自微信公众号:,作者:芯芯,编辑:靖宇,原文标题:《midjourney 也得“站着敬酒”,ai 图片生成新王 flux 怎么这么强?》,题图:由ai生成

文章摘要
flux是新晋ai图片生成模型,技术强大,开源,媲美midjourney、dall-e。

• 🚀 flux生成逼真图像,细节接近完美

• 🌍 开源模型,普及性广,支持本地运行

• 📸 计划推出高质量文本生成视频系统

江山代有模型出,一代更比一代强。


就当人们以为ai图片生成领域战争已经基本结束时,又有一个新的模型团队出现,用自家产品将midjourney、dall-e挑落马下。


8月初,初创公司black forest labs横空出世,发布了拥有120亿参数的文本生成图像模型flux,随后迅速走红,被誉为stable diffusion的继承者,并与midjourney直接对打。


从网上曝光的图片能看出,flux在生成人物、尤其是真实人物的场景中,图像已经非常接近真人实拍的效果。无论是人物的表情、皮肤光泽、发型、人物配饰等细节方面,都做到了接近完美。


更重要的是,flux开源其系列的一些模型,可以在一台配置不错的笔记本电脑上运行,这也意味着它会像stable diffusion一样,可以在多模型平台上找到并使用。


black forest labs宣称,其模型在图像质量和对文本提示的遵循度等方面,超过了现有的主流选择,如midjourney和dall-e。


过去两年中,在ai图像生成市场,midjourney、dall-e和stable diffusion和adobe firefly等一直在激烈竞争,flux凭什么一出来就能抢走风头,甚至被认为可能击败现有的其他模型?


一、flux,横空出世即走红


flux来自ai初创公司black forest labs,这家新公司由一些开发了stable diffusion背后技术并发明了潜在扩散技术的研究人员创立,总部位于德国。


今年8月1日,black forest labs才对外正式宣布成立,就迅速打响名声。“我们深深植根于生成式ai研究社区,致力于开发和推进用于图像和视频等媒体的最先进的生成式深度学习模型。”


black forest labs称,其公司“决心建立生成式媒体行业的标准”,作为实现这一目标的第一步,他们发布了flux.1文本生成图像模型套件,称在图像细节、提示响应、风格多样性和场景复杂性方面定义了文本生成图像的新前沿。


flux模型生成的图像|图片来源:black forest labs


网友用flux模型生成的图像|图片来源:reddit


为了在可及性和模型能力之间取得平衡,flux.1目前提供了三个版本:pro、dev和schnell,都是文本生成图像模型,大小依次递减。


其中,flux.1 pro版是通过api提供的闭源版本,也是最强大的版本,提供最先进的图像生成性能。可以通过api注册访问,适用于商业应用,为订阅用户提供生成式ai图像技术的访问权限。


flux.1 dev版是开源版本,具有非商业许可,供社区开发,直接从pro版本“蒸馏”而来,据称有类似的质量和提示响应能力,同时比同尺寸的标准模型更高效,可在huggingface上获取,并可直接在replicate或fal.ai上试用。


最后一个flux.1 schnell版,是速度最快的版本(schnell在德语中意为快速),也是精简版本,据称运行速度最高可提高十倍,开放源代码,采用apache 2许可,适用于本地开发和个人使用,与dev版本类似,也可以在hugging face上获取。


flux部分模型可在ai开源社区获取|图片来源:hugging face


有科技博主测评后认为,两个高端flux.1模型的输出在提示忠实度上与openai的dall-e 3相当,且在真实感上接近midjourney 6


他们还发现,flux.1在生成手部图像方面似乎表现相当出色,这在早期的图像合成模型(如stable diffusion 1.5)中是一个薄弱点。尽管自那时起,像midjourney这样的ai图像生成器也掌握了手部生成,但flux.1的公开权重模型在各种姿势下能够相对准确地渲染手部图像,仍然值得注意。


理论上说,flux.1两个较小的版本可以在性能较好的硬件上运行,例如高性能笔记本电脑,这使得它更容易被更广泛的用户使用,包括业余爱好者、开发人员和小型企业,这也意味着不必依赖互联网或云来运行flux.1。


不过,硬件性能较弱的用户可能会遇到困难。flux.1的开源模型大小约为23gb,这意味着它可能需要接近24gb的vram才能运行,直到出现可能更轻量化的版本。


已经有科技网站在测评中称,在配有rtx 4090的笔记本电脑上运行——它们在对提示的遵从度、图像质量和图像中文字渲染方面都优于midjourney、dall-e甚至ideogram。


据black forest labs称,flux.1模型采用了black forest labs称之为“多模态和平行扩散transformer块的混合架构”,参数规模达120亿,比之前的扩散模型更进一步,融合了流匹配和其他优化技术。


在基准测试中,flux表示其模型在图像合成方面设立了新标准,称在视觉质量、提示跟随度、大小/长宽比多样性、排版和输出多样性方面表现出色,超越了midjourney v6.0、dall-e 3(hd)和sd3 ultra等模型。


black forest labs的图表显示,其pro和dev模型是迄今为止最好的图像生成器,而其相对较弱的schnell版本虽然未超越sd3-ultra和ideogram,但也超越了midjourney v6.0和dall·e 3(hd)。black forest labs称,“flux.1[schnell]是迄今为止最先进的少步模型,不仅在其类别中表现出色,还超越了强大的非蒸馏模型。”


flux模型与其他模型对比|图片来源:black forest labs


所有flux.1模型版本都支持0.1和2.0百万像素的各种纵横比和分辨率。强调这个亮点,是因为市面上不少ai工具仅支持生成“方形”图像。


flux模型支持各种纵横比|图片来源:black forest labs


对于那些有兴趣探索flux的人来说,有几种方法可以访问和使用该模型。如果计算机足够好,可以下载并在本地运行flux.1。此外,目前已经有几个网站提供了flux.1的访问权限。


例如,ai图像平台社区nightcafe已经可以访问flux.1模型,用户可以快速将其与ideogram和stable diffusion 3等其他工具生成的图像进行比较。ai模型平台poe,也可以访问flux.1,允许用户以聊天的形式生成图像。


用户还可以通过更多面向开发者的平台获取访问权限,包括based labs、hugging face和fal.ai等。市场上最大的ai图像平台之一freepik表示,它也正在努力将flux引入其网站。


网上已经有不少实验者,较火的是一些真实感很强的图像,乍一看就像普通照片,甚至引起ai图像被用于实施诈骗或制造假新闻的担忧。


flux模型生成的ai人像|图片来源:reddit


“如果我不知道第一张照片发布在哪里,我100%会相信这是一张真实的照片。这种疯狂的真实感。我实际上还以为我正在浏览一些关于ted演讲之类的reddit广告。”有reddit用户如此评论。还有用户认为,“flux确实超越了midjourney”。


用户利用flux模型生成的ai人像|图片来源:reddit


不过,也有观察者指出,仔细看的话,仍然可以识别出这些图像是ai生成的,比如“文字是最大的亮点,尤其是图中挂绳和麦克风等物品上的小文字。”


二、ai图片江湖:开源vs闭源


black forest labs由robin rombach、andreas blattmann和dominik lorenz领导,他们都是stability ai的前工程师,此外还有其他在扩散式ai模型开发中起重要作用的人物。


flux.1的发布时机对开源ai来说具有一定意义。


stable diffusion背后的公司——stability ai在几个月前经历了一些动荡,该公司的产品因在人体解剖生成方面表现不佳而遭到广泛批评,用户在社交媒体上分享了扭曲的四肢和身体的示例图像。


flux.1的发布距stability ai在6月中旬发布的stable diffusion 3 medium版本仅七周,该问题版本的发布伴随着stability ai三位关键工程师的离职,他们随后与潜在扩散的共同开发者等人一起创立了black forest labs。


black forest labs在成立声明中,强调了其团队在推动媒体生成ai方面的出色记录,称他们的创新包括“创建vqgan和潜在扩散模型、用于图像和视频生成的stable diffusion模型(如stable diffusion xl、stable video diffusion、rectified flow transformers),以及用于超快实时图像生成的对抗性扩散蒸馏技术。”


在对外发布flux之前,black forest labs已经完成了3100万美元的种子轮融资,由a16z创始人andreessen horowitz领投,天使投资者包括前迪士尼总裁michael ovitz等,以及其他在ai研究和公司建设方面的专家,general catalyst和mätchvc进行了追加投资。


有ai社区的创业者认为,在stability崩溃后,开源ai领域一直缺少一家优秀的图像生成公司,而black forest labs发布的flux.1质量看起来可以媲美dall-e,这对于多模态ai来说是一个好消息,向开源agi进军的步伐仍在继续。


ai社区人士支持图像生成模型开源|图片来源:x


目前,通过简单的文本提示生成图像是生成式ai领域最成熟的应用之一,市场上至少已经有几十款ai图像生成器,提供各种选项、功能和风格,各有千秋。


有些主流的ai图像生成工具完全独立,比如midjourney。在不到两年的时间里,midjourney从只能创建低分辨率、几乎无法辨认的人物图像,已经发展到现在可以生成高分辨率的、几乎与相机拍摄的照片无法区分的图像。


不过,midjourney因拒绝讨论其训练数据来源而备受争议。许多人怀疑其数据大部分来自抓取任何可以找到的公开图像,而不考虑是否获得了图像创作者的许可。


leonardo生成的图像几乎可以与midjourney相媲美,今年7月被在线设计独角兽canva宣布收购。


有些图像生成器内置于其他产品中。比如,openai将dall-e 3集成在chatgpt的付费版本中,可以通过对话方式生成和编辑图像。微软也将dall-e 3集成到microsoft的copilot聊天机器人中,推出了copilot designer。


其他巨头方面,谷歌方面基于imagen系列模型,推出了imagefx,但目前仅支持生成方形图像,限制了应用场景,meta的imagine也存在同样的问题。


还有前谷歌工程师出来创立了ideogram,擅长在图像上添加文本,适合生成带有文字的图像,比如电影海报、传单、贺卡等。


adobe推出了ai图像生成工具firefly,最大优势之一是它与photoshop的深度整合,以及据称合规的训练数据集,主要来自adobe stock。


此外还有支持多模型工具的ai图像生成社区,比如nightcafe,支持多种模型选择,包括stable diffusion、dall-e 3、clip-guided diffusion等。像stability ai的图像工具,已经被像nightcafe这样的社区平台公司广泛使用。


black forest labs的flux与市面上的ai图像生成工具的主要不同,可能还是在于开源


该公司称,“我们相信生成式ai将成为所有未来技术的基础构建块。通过向广泛的受众提供我们的模型,我们希望将其好处带给每个人,教育公众,并增强对这些模型安全性的信任。”


black forest labs在成立声明中强调“透明度是建立信任和广泛采用的关键”,希望将技术尽可能广泛地为大众所用,将最先进的ai带给“全球每个人”,据称这是其核心信念。


不过,谈到“信任和安全”时,公司没有提到flux.1模型的训练数据来源。有科技网站测评发现,根据flux.1模型生成的图像,包括九游会登录的版权角色的描绘,black forest labs可能使用了大量未经授权的抓取的互联网图像,主要可能由laion收集。


laion是收集了训练stable diffusion数据集的组织。但目前这也只是猜测。尽管flux.1的技术成就值得注意,但如果团队的做法像stability ai一样对“公平使用”图像抓取的伦理问题有所松懈,这种做法可能会最终引发类似stability ai所面临的诉讼。


此外,文本生成图像模型只是第一步,flux这些模型据称是为black forest labs即将推出的文本生成视频系统套件奠定基础。他们已经在开发一个文本生成视频模型,承诺将提供高质量输出并以开源形式发布,称将是“适用于所有人的最先进文本生成视频技术。”


文本生成视频模型预告|图片来源:black forest labs


“我们的视频模型将以高清晰度和前所未有的速度解锁精确的创建和编辑功能。我们致力于继续引领生成式媒体的未来。”black forest labs称。


这意味着,他们未来可能将与openai的sora、runway的gen-3 alpha等产生竞争。midjourney也有类似的计划,其开发人员正在开发3d和视频模式,想将ai图像、视频、3d和实时生成模型结合在一起,通过文本提示创建完全沉浸式的虚拟环境。

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定
热门标签
网站地图