首页
允中 发自 凹非寺量子位 | 公众号 QbitAI
7B量级模子,向来是端侧安排与小我私家开发者的心头好。
轻量化特征让它能无邪适配种种终端场景,而强劲性能又能笼罩图像信息抽取、文档明确、视频剖析、物体定位等高频需求。
刚刚,华为重磅推出开源新玩家openPangu-VL-7B,直接瞄准这一焦点场景精准发力。
昇腾原生的模子结构,让openPangu-VL-7B的推理性能极具性价比:
720P图像在单张Ascend Atlas 800T A2卡上首字模子推理时延(ViT与LLM模子时延和)仅160毫秒,能够举行5FPS的实时推理;训练阶段的MFU更是抵达42.5%。
更值得关注的是,模子在预训练阶段完成了3T+tokens的无突刺集群长稳训练,为开发者使用昇腾集群提供了极具价值的实践参考。
openPangu-VL-7B在通用视觉问答、文档图标明确&OCR、视觉定位、短视频明确等焦点使命上体现突出,在开源榜单中力压同量级模子,展现出强悍的综合实力。
官方提供的cookbook也展现了模子在这些领域的优异能力。
好比我们给模子一张菜品图,让模子找到一共有几多个樱桃番茄,模子能够点出所有的位置并准确计数。
给模子一张年报截图,模子也能将其转变为markdown名堂,省去了人工摘录的痛苦。
除了亮眼的榜单效果和针对昇腾的训推优化,手艺报告中还披露了若干焦点手艺细节,揭秘模子高性能背后的设计巧思:
1)适配昇腾的高性能视觉编码器
业界古板视觉编码器多针对GPU架构设计,没有充分验展昇腾硬件优势。
团队通过大宗先导实验与性能剖析,找到模子结构的最优平衡点——相同参数目下,该视觉编码器在昇腾芯片上的吞吐较使用窗注重力的ViT-H系列编码器提升15%。
同时,接纳多标签比照学习框架,让模子具备更优的细粒度明确能力,为后续VLM训练中的视觉定位数据学习筑牢基础。
2)样本平衡的损失设计
为解决差别长度训练样本的学习平衡问题,openPangu-VL-7B立异接纳 “加权逐样本损失+逐令牌损失” 的混淆训练计划,加权系数由令牌位置和样本主要性动态决议。
这一设计让模子在训练中既能吃透长回复数据,也不忽视短回复信息,阻止 “左支右绌”,消融实验已充分验证其有用性。
3)带填充的定位数据名堂
区别于业界主流的0-999定位计划,openPangu-VL-7B接纳000-999千分位带填充相对坐标完成视觉定位。
整齐的三个token举行位置回归,不但降低了模子学习难度,更显著提升了名堂遵从性,让定位使命的精度和效率同步提升。
别的,手艺报告还深入探索了预训练数据配比、位置编码、模子融合等要害战略,为开发者提供了周全的手艺细节参考。
关于昇腾使用者而言,openPangu-VL-7B 的开源无疑是一大利好。
这款兼具轻量化、高性能与强通用性的多模态模子,既为端侧开发和小我私家使用提供了新选择,也将进一步富厚昇腾生态的应用场景,为立异注入新动力。
模子链接:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B手艺报告:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B/blob/main/doc/technical_report.pdf
《纲手 爆 无尽》,《Q8X2R7L1T4J5M9B6W3》jm350234花火
“在线观看国产羞羞视频”
2022国产激情视频在线观看看
……
01月10日
“欧美BB网”缉妖录之启程篇
↓↓↓
01月10日,【图片故事】走进老字号:小学生沉浸式体验腐乳“诞生记”,影音先锋色哟哟,精品无码国产污污污网站,欧美偷拍99,日本护士free另类内谢
01月10日,《黑神话:悟空》全球销量破千万套 巧译中华文化受好评,不卡中文字幕在线观看,国产拍在线视频,免费一级毛片录相,久久天堂
01月10日,江苏一高校搭建教育数字化教学研究基地,欧美大黑又长又大A级大码,x x n x x,欧美高清丝袜XXXXX99,国产双飞在线小视频
01月10日|山西古建筑100问——纯阳宫为什么被建成“山西古建筑博物馆”?|婷婷色婷婷深深爱播五月|火影奖励网站2.8.6|在线免费看黄色网址|91久久偷偷做嫩草影院免费观看
01月10日|以媒:以色列北部多个城镇遭袭 已致2人受伤|FreePorno💋HDtv|搞那个黄色片来看一下|亚欧中文字幕在线观看|无码一级一级高潮喷水
01月10日|香港水域出现水龙卷 专家指未来几天或有大雨|欧美3p精产视频在线观色欲|女同互C|毛片在|国产黄在线观看免费……
01月10日,美式干涉:当“黑手”戴上“白手套”,流萤被困列车本子,在线观看男同视频,快色动漫,星空影院电影在线免费观看
01月10日,巴基斯坦与伊朗采取行动缓和双边紧张局势,欧美性生话,男人的天堂 网页,国产在线真人视频免费,免费无码一区二区三区A片
01月10日|香港歌剧院“狮子山下”音乐会在贵阳上演|国产嫩逼爽射|一本大道香蕉在线观看视频|6080精品视频在线观看|wwwbbbbcom
01月10日,中国(新疆、香港)—哈萨克斯坦合作对接会举行,淫荡视频欧美激情,毛片网址免费在线免费免费免费免费,www.黄日本,国产A片网站,:
01月10日,中国特色大国外交必将更有作为,8x日韩无码,免费无遮挡 校园霸凌男生,超碰在线日韩欧美,黄页免费在线看狼有
01月10日,中国素描艺术研究展在西安展出,什么原因造成了男性阴茎畸形?,孟若羽无删减版大全,影音先锋色色资源站,操操操黄
01月10日|海河水利委员会针对“山河四省”启动干旱防御IV级应急响应 |h片免费观看在线网站|欧美性爱淫淫网|欧美老妇人BBWW√w|久久久噜噜噜久久中文字幕色伊伊
01月10日|4800余名跑友贺兰山下鸣枪开跑“寻酒香”|这奶真大12p|女与女互吃玉足|Sweetiefox|老师脱 吃我 喂我 她喷出水
01月10日|广西警方创新形式宣传交规 警营魔术师自创道具展示文明出行|啪啪东北老熟女45分钟|国产欧美日韩第一页在线观看|人人做人人爱超碰国产|国产美女精品视频网站
WBG击败TES晋级决赛,云南昭通市一干部主动投案|15天1328公里!新生骑行去北大|杨钰莹奶头被吸得又红又肿|久久久国产精品美女毛片|国家高清视频WWW|最新国产无码操逼视频
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺
拼多多“农云行动”助力亳州创新中药材大市场
交通运输部:推动大宗货物运输“公转铁”“公转水”取得务实成效
“80后”“90后”成中国户外运动核心消费群体
【铸牢共同体 中华一家亲】向“新”谋发展 共浇“石榴花”
中方呼吁国际社会继续支持联合国近东救济工程处工作
龙年将至 上海大世界上演“似曾相识”年
俄外交部:俄罗斯不会用核武器威胁任何人
广交会境外采购商到会人数创新高 全球市场对接“中国制造”
北京检察机关三年办理未成年人保护公益诉讼检察案件459件
“意脉象成——中国画人物小品艺术展”福州开展
日本久久久h
免费pornhub
鴎美性爱一级片
好大 好爽 要高潮了视频
毛片毛片A毛片
亚洲一级A片免费视频
黄色网站未满18禁止观看
免费黄色录像视频网站
人人舔人人草
综合国产精品视频专区

闽公网安备 35010302000113号