完美体育·(中国)官方网站

完美体育在线入口 公司介绍 总裁致词 企业风貌 完美体育 完美体育手机APP 媒体聚焦 行业新闻 业务版块 产品服务 荣誉资质 联系我们
网站首页 完美体育在线入口 完美体育 业务版块 产品服务 荣誉资质 联系我们

完美竞技平台官网Salesforce开源统一多模态模型BLIP3-o图像理解与生

作者:完美体育 日期: 人气:
  

  电缆✿◈✿,完美电竞官网首页✿◈✿,电缆工程国际新闻✿◈✿,完美体育手机APP完美体育✿◈✿,今日头条✿◈✿。完美电竞✿◈✿,OpenAI 的 GPT-4o 在图像理解✿◈✿、生成和编辑任务上展现了顶级性能✿◈✿。流行的架构猜想是✿◈✿:

  该混合架构将自回归与扩散模型的优势结合✿◈✿。Salesforce Research完美竞技平台官网✿◈✿、马里兰大学✿◈✿、弗吉尼亚理工✿◈✿、纽约大学✿◈✿、华盛顿大学的研究者在最新的研究(统一多模态模型 BLIP3-o)中也采用了自回归 + 扩散框架✿◈✿。

  在这个框架里✿◈✿,自回归模型先生成连续的中间视觉特征✿◈✿,用以逼近真实图像表示✿◈✿,进而引出两个关键问题✿◈✿:

  真实特征来源 (Ground-truth features)✿◈✿:用 VAE 还是 CLIP 将图像编码为连续特征?特征对齐方式✿◈✿:使用 MSE 损失✿◈✿,还是借助扩散模型(Flow Matching)来对齐预测与真实特征?

  VAE✿◈✿:将图像编码为 low level 像素特征✿◈✿,以获得更好的重建质量✿◈✿。但 VAE 编码器在处理更高分辨率输入时饭岛爱✿◈✿,会生成更长的向量序列✿◈✿,从而增加训练过程中的计算负担✿◈✿。CLIP + Diffusion✿◈✿:先将图像映射到 high level 语义特征✿◈✿,再通过扩散模型重建真实图像✿◈✿。在实际操作过程中✿◈✿,会先用 CLIP 得到图像特征✿◈✿,然后基于 CLIP feature 训练一个扩散模型来重建图像✿◈✿。该方法好处是无论输入图像分辨率如何✿◈✿,每张图像都可编码为固定长度的连续向量 (比如长度为 64 的向量)✿◈✿,这种编码方式能有较好的图像压缩率✿◈✿;但需要额外训练来使扩散模型适配不同的 CLIP 编码器饭岛爱✿◈✿。

  CLIP + MSE✿◈✿:最小化预测表征与 CLIP 真实表征之间的 MSE完美竞技平台官网✿◈✿, 比如 Emu2✿◈✿、SeedX✿◈✿。在生成图片的时候✿◈✿,自回归模型生成视觉特征✿◈✿,基于这个视觉特征✿◈✿,使用一个扩散模型来解码图片✿◈✿。CLIP + Flow Matching✿◈✿:以自回归模型预测的视觉特征为条件饭岛爱✿◈✿,使用流匹配损失来训练 Diffusion Transformer✿◈✿,以预测真实的 CLIP 表征✿◈✿。在生成图片的时候✿◈✿,自回归模型生成视觉特征✿◈✿,基于这个视觉特征饭岛爱✿◈✿,Diffusion Transformer 生成一个 CLIP feature✿◈✿,然后再基于这个 CLIP feature✿◈✿,使用一个轻量的扩散模型来解码图片✿◈✿。整个过程涉及两次扩散过程✿◈✿,第一次生成 CLIP feature✿◈✿,第二次生成真实图片✿◈✿。VAE + Flow Matching✿◈✿:以自回归模型预测的视觉特征为条件饭岛爱✿◈✿,使用流匹配损失来训练 Diffusion Transformer✿◈✿,以预测真实的 VAE 表征✿◈✿。在生成图片的时候✿◈✿,自回归模型生成视觉特征✿◈✿,基于这个视觉特征✿◈✿,Diffusion Transformer 生成一个 VAE feature完美竞技平台官网✿◈✿, 由 VAE 解码器来生成真实图片✿◈✿。

  Caption: 在统一多模态模型中✿◈✿,图像生成有三种设计方案✿◈✿。所有方案均采用自回归 + 扩散框架✿◈✿,但在图像生成组件上各有不同✿◈✿。对于流匹配损失✿◈✿,保持自回归模型冻结✿◈✿,仅微调图像生成模块 (Diffusion Transformer)✿◈✿,以保留模型的语言能力✿◈✿。

  下图对比了这三种方案在相同设置下的表现✿◈✿,证明CLIP + Flow Matching能在提示对齐✿◈✿、图像多样性与视觉质量之间取得最佳平衡✿◈✿。

  研究者发现将图像生成集成到统一模型时✿◈✿,自回归模型对语义级特征(CLIP)的学习比对像素级特征(VAE)的学习更为高效✿◈✿。同时✿◈✿,将流匹配 (Flow Matching)作为训练目标能够更好地捕捉图像分布✿◈✿,从而带来更丰富的样本多样性和更出色的视觉质量✿◈✿。同时有两个阶段的扩散过程✿◈✿,相对于传统的一个阶段的扩散模型✿◈✿,将图像生成分解成了两个阶段✿◈✿,第一阶段自回归模型和 diffusion transformer 只负责生成语义特征✿◈✿,第二阶段再由一个轻量的扩散模型来补全 low-level 特征✿◈✿,从而大幅减轻训练压力✿◈✿。

  研究者采用顺序训练(late fusion)而非联合训练(early fusion)✿◈✿,原因在于✿◈✿:

  可以冻结自回归模型✿◈✿,保留其图像理解能力✿◈✿;把全部训练资源集中在图像生成模块✿◈✿,避免多任务间的相互干扰✿◈✿。

  caption✿◈✿:联合训练(early fusion)同时更新理解和生成模块✿◈✿,顺序训练 (late fusion)先独立调优「理解」✿◈✿,再冻结骨干只训练「生成」✿◈✿。

  预训练数据✿◈✿:25M 开源图文 + 30M 专有图像图像字幕 (caption)✿◈✿:均由 Qwen-2.5-VL-7B-Instruct 生成✿◈✿,平均 120 token✿◈✿;为增强对短提示的适应✿◈✿,还额外混入~10%(6M)的短字幕(20 token)4B 参数开源模型✿◈✿:纯 25M 开源图文对✿◈✿,及~10%(3M)短字幕指令微调✿◈✿:GPT-4o 生成 60K 条高质量示例✿◈✿,显著提升提示对齐和视觉美感

  本文首次系统地探索了结合自回归与扩散架构的统一多模态建模✿◈✿,评估了三个关键维度✿◈✿:图像表示(CLIP 特征 vs. VAE 特征)✿◈✿、训练目标(流匹配 vs. MSE)和训练策略(early fusion vs. 顺 late fusion)✿◈✿。实验结果表明✿◈✿,将 CLIP 嵌入与流匹配损失相结合✿◈✿,不仅加快了训练速度✿◈✿,也提升了生成质量✿◈✿。

  基于这些发现✿◈✿,本文推出了 BLIP3-o, 一系列先进的统一多模态模型完美竞技平台官网✿◈✿,并通过 BLIP3o-60k 6 万条指令微调数据集✿◈✿,大幅改善了提示对齐效果和视觉美感✿◈✿。研究者还正在积极开展该模型的应用研究完美竞技平台官网✿◈✿,包括迭代图像编辑✿◈✿、视觉对话和逐步视觉推理✿◈✿。

  05月15日✿◈✿,三部门✿◈✿:开展工伤保险跨省异地就医直接结算试点工作✿◈✿,新三昇体育✿◈✿,宝博游戏李逵劈鱼✿◈✿,玩球体育平台✿◈✿,两个手机对打AG刷流水

  05月15日✿◈✿,两会好声音✿◈✿,bet8九州体育官网✿◈✿,亚洲第一体育平台饭岛爱✿◈✿,云顶在哪里玩✿◈✿,纬来体育app官网

  05月15日完美竞技平台官网✿◈✿,天津警方2023年破获环食药和知识产权领域刑事案件1055起饭岛爱✿◈✿,皇冠官网买球✿◈✿,jdb三倍金刚下载✿◈✿,千赢国际可靠吗✿◈✿,分分彩平台网站

  05月15日多国外交官考察泰国南部地区手工业华体会娱乐体育首页亚娱买球新利18体育万博手机登陆版

  05月15日江南造船再交一艘世界最大舱容乙烷双燃料运输船凤凰平台注册用户bet365电竞澳门10大贵宾厅中国买球有哪些是正规的

  05月15日石门沟村✿◈✿:60余载让“林进沙退” 欲点“沙”成金火狐体育官网平台开云手机版登录巴黎人网站app博狗体育在线……

  05月15日✿◈✿,柬埔寨执政党人民党重申坚定奉行一个中国政策✿◈✿,360娱乐✿◈✿,yabo22vip体育✿◈✿,盘口娱乐游戏✿◈✿,best365官网体育投注平台

  05月15日饭岛爱✿◈✿,(新春走基层)宁夏特产乘上“云端” 家乡味从直播间里飞往全国✿◈✿,lol比赛外围的网站✿◈✿,ag九游会买球官网✿◈✿,yobo官网体育安卓版✿◈✿,澳门百老汇app怎么下载

  05月15日8名外籍人员涉嫌偷渡在广西边境被抓澳门银银河网址尊龙体育巴黎人正网赌场辉煌国际真人娱乐

  05月15日✿◈✿,最高检✿◈✿:六年来超80%犯罪嫌疑人在检察环节认罪认罚✿◈✿,K8凯发体育APP✿◈✿,手机百家乐网站✿◈✿,现金网赌游戏✿◈✿,津门龙虎榜B

  05月15日✿◈✿,2023年贵州GDP增长4.9% 数字经济增速保持全国前列✿◈✿,注册就送20元✿◈✿,新万博官方网站登陆✿◈✿,香江精选A✿◈✿,快3彩票平台下载

  05月15日✿◈✿,人道援助船只在塞浦路斯港口等待出发 即将前往加沙地带✿◈✿,万博手机网页版网址✿◈✿,天博app下载地址查询✿◈✿,开元棋盘app官方版旧版✿◈✿,云顶国际在线日第一届银耳产业发展大会在福建古田举行AG登录平台beplayer体育官网下载开云体育官网登录可以买球的手机app

  05月15日俄乌进行今年第二轮大规模换俘威斯尼斯人615CC棋牌bbin体育开户澳门人巴黎人网站手机电玩城有哪些

  05月15日从“最不适宜人类生存地区”到全球“自然城市” 六盘山下的华丽蝶变最大体育平台入口网站胜负彩怎么买凯发在线平台凤凰平台开户

  张碧晨发长文回应粉丝完美竞技平台官网✿◈✿,父子扮恐龙去机场接支教妈妈回家海风“吹”来新产业(经济新方位·能源新业态)网站365188体育属于哪个万博maxbextx官网登陆188金博网欢迎您

  Re: 复仇-在欲望的尽头-✿◈✿,跳水世界杯陈芋汐夺冠2025春节机票搜索量暴涨2.2倍 除夕当天多条航线经济舱全价威斯尼斯人官网进入BBIN体育免费计划六合飞鸽威廉官网入口

  广东本周暴雨大暴雨再来袭✿◈✿,全红婵陈芋汐出战10米台决赛间接带动14万亿经济产出✿◈✿!5G商用五年赋能千行百业 成为中国经济增长新引擎tq棋牌球探体育比分app安卓金年会体育平台官网斗牛同是牛牛怎么比大小

  千万不要对抑郁症朋友说✿◈✿,过年觉得没年味的原因找到了(走进中国乡村)“麻糖村”打响新名号申博电子网投2020年欧洲杯比赛时间和记娱乐官方下载体育app

  金价过去7周中涨了6周✿◈✿,乔丹詹皇众星缅怀韦斯特因持续暴雨 玻利维亚首都拉巴斯进入紧急状态✿◈✿!澳门永利官网视讯葡京注册app开元棋盘ky88下载地址老牌银河娱乐场

  NewJeans新立场✿◈✿,李现朱一龙都被湖北文旅摇来了【世界看两会】南非开普敦大学教授✿◈✿:中非之间的信任是宝贵资产电竞比赛竞猜软件yabo22vip电子网投AG九游会官网登录首页2020欧洲杯法国队名单

下一篇 : 完美电竞|人族无敌3|今日头条app如何激活任务中心
全国咨询热线
0512-63878666

手机站

微信公众号