腾讯混元文生图大模型全面开源
5月14日,腾讯云官方宣布腾讯混元文生图大模型,全面升级并对外开源!
作为业内首个中文原生的DiT架构开源模型,腾讯混元文生图支持中英文双语输入及理解。
除直接用于文生图,也可作为视频等多模态视觉生成的基础。
图源:腾讯云
//DiT架构
优秀的大模型,离不开领先的技术架构。
去年7月,腾讯混元文生图团队就明确了基于DiT架构的模型方向。
(DiT是基于Transformer的扩散模型架构,是Sora、Stable Diffusion 3 也选用的关键技术。)
今年初,腾讯混元文生图完成了模型架构的全面升级,相比上一代整体效果提升超过20%。
//中文原生
此前,Stable Diffusion等主流文生图开源模型,核心数据集以英文为主,基于Stable Diffusion的中文应用本质上是通过中译英的方式处理文本。
碰上古诗词、民间俚语、传统建筑等中国元素,又或者「红烧狮子头」「老婆饼」「鱼香肉丝」等特色词汇,容易出现较大的理解偏差。
中文原生的腾讯混元文生图,母语就是中文:
通过对汉语字符系统、文化内涵的深度学习,对国风元素和中文复杂性有更深刻的理解。
文生图提示词:请将“杞人忧天”的样子画出来
中文输入后,直接中文理解,不会因翻译产生语义分歧。
//表现提升
- 多轮对话:通过自然语言对话不断微调,修改主体、背景、元素及风格,整体画面保持高一致性。
多轮文生图提示词:(1)画一名德国男性;(2)让他再德国一些;(3)让他更德国一些。
多轮文生图提示词:(1)画一朵长在森林中的白色玫瑰;(2)背景换成室内,花插在瓶中;(3)将花改为百合花;(4)花瓣改为粉色;(5)让蝴蝶落在花瓣上;(6)改成动漫风格。
- 人像提升:质感升级,减少畸变,支持不同职业、年龄、身材、视角、景别人像。
- 长文本理解:能分析和理解长篇文本中的信息并生成相应艺术作品。
文生图提示词:一张细致的照片捕捉到了一尊雕像的形象,这尊雕像酷似一位古代法老,头上出人意料地戴着一副青铜蒸汽朋克护目镜。这座雕像穿着复古时髦,一件清爽的白色T恤和一件合身的黑色皮夹克,与传统的头饰形成鲜明对比。背景是简单的纯色,突出了雕像的非传统服装和蒸汽朋克眼镜的复杂细节。
//全面开源
目前,腾讯混元文生图大模型已在 Hugging Face 平台及 Github 上发布,包含模型权重、推理代码、模型算法等完整模型。
不管是企业还是个人开发者,全部免费可用。
2、如对本稿件有异议或投诉,请联系:info@4Anet.com