首页
允中 发自 凹非寺量子位 | 公众号 QbitAI
7B量级模子,向来是端侧安排与小我私家开发者的心头好。
轻量化特征让它能无邪适配种种终端场景,而强劲性能又能笼罩图像信息抽取、文档明确、视频剖析、物体定位等高频需求。
刚刚,华为重磅推出开源新玩家openPangu-VL-7B,直接瞄准这一焦点场景精准发力。
昇腾原生的模子结构,让openPangu-VL-7B的推理性能极具性价比:
720P图像在单张Ascend Atlas 800T A2卡上首字模子推理时延(ViT与LLM模子时延和)仅160毫秒,能够举行5FPS的实时推理;训练阶段的MFU更是抵达42.5%。
更值得关注的是,模子在预训练阶段完成了3T+tokens的无突刺集群长稳训练,为开发者使用昇腾集群提供了极具价值的实践参考。
openPangu-VL-7B在通用视觉问答、文档图标明确&OCR、视觉定位、短视频明确等焦点使命上体现突出,在开源榜单中力压同量级模子,展现出强悍的综合实力。
官方提供的cookbook也展现了模子在这些领域的优异能力。
好比我们给模子一张菜品图,让模子找到一共有几多个樱桃番茄,模子能够点出所有的位置并准确计数。
给模子一张年报截图,模子也能将其转变为markdown名堂,省去了人工摘录的痛苦。
除了亮眼的榜单效果和针对昇腾的训推优化,手艺报告中还披露了若干焦点手艺细节,揭秘模子高性能背后的设计巧思:
1)适配昇腾的高性能视觉编码器
业界古板视觉编码器多针对GPU架构设计,没有充分验展昇腾硬件优势。
团队通过大宗先导实验与性能剖析,找到模子结构的最优平衡点——相同参数目下,该视觉编码器在昇腾芯片上的吞吐较使用窗注重力的ViT-H系列编码器提升15%。
同时,接纳多标签比照学习框架,让模子具备更优的细粒度明确能力,为后续VLM训练中的视觉定位数据学习筑牢基础。
2)样本平衡的损失设计
为解决差别长度训练样本的学习平衡问题,openPangu-VL-7B立异接纳 “加权逐样本损失+逐令牌损失” 的混淆训练计划,加权系数由令牌位置和样本主要性动态决议。
这一设计让模子在训练中既能吃透长回复数据,也不忽视短回复信息,阻止 “左支右绌”,消融实验已充分验证其有用性。
3)带填充的定位数据名堂
区别于业界主流的0-999定位计划,openPangu-VL-7B接纳000-999千分位带填充相对坐标完成视觉定位。
整齐的三个token举行位置回归,不但降低了模子学习难度,更显著提升了名堂遵从性,让定位使命的精度和效率同步提升。
别的,手艺报告还深入探索了预训练数据配比、位置编码、模子融合等要害战略,为开发者提供了周全的手艺细节参考。
关于昇腾使用者而言,openPangu-VL-7B 的开源无疑是一大利好。
这款兼具轻量化、高性能与强通用性的多模态模子,既为端侧开发和小我私家使用提供了新选择,也将进一步富厚昇腾生态的应用场景,为立异注入新动力。
模子链接:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B手艺报告:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B/blob/main/doc/technical_report.pdf
《欧美一区二区网站》,《Q8X2R7L1T4J5M9B6W3》久久三级生活片
“黄片儿小视频”
中国 熟老太hdt∪be
……
01月11日
“wwweee”未来几天南方降雨再度增多
↓↓↓
01月11日,凤凰卫视香港台4月22日起正式在香港TVB免费电视85频道开播,亚洲视频日本网站,激情 小说 电影,欧美综合精品视频一区二区,91视频互操
01月11日,浙江仙居制作400余年民俗板凳龙 龙年春节味渐浓,一级做a爰片性色刺激,福利视频免费一区,人人操人人摸人人操人人摸人人操,免费国产一级黄色网站
01月11日,北美票房:《毒液:最后一舞》助北美周末票房止跌回升,97人人模人人爽人人喊新闻,最近的中文字幕免费,推特r18下载,美女被咬小头头视频
01月11日|春节前医美直播打响价格战 警惕“破价”医美|光溜溜视频视频素材美女|18禁美女裸体久久久久久久|美女隐私秘 黄www6学生|26uuu欧美综合
01月11日|美国“龙”飞船载4名宇航员启程返回地球|www人人操com|欧美日韩干干|日韩精品一二|坤坤浏览器下载网站官网
01月11日|甲流乙流叠加来袭如何应对|色色999日韩女|圣采被扒开腿爆 乳液狂飙视频|校花性奴小说|飞霄本子……
01月11日,2024成都马拉松举行 埃塞俄比亚选手破赛会纪录,7866tv直播破解版,免费一级特色人曽性爱真人片,99亚洲国产精品一区二区,一区二区色色色的
01月11日,远在海外近在身边 浙江温州侨力量推动邻里食堂建设,4455vw永久亚洲,久久这个有精品,国产在线永久域名,曰本AV在线精品一区二区三区
01月11日|国务院听到了你的声音|国产精品ⅴ无码大片在线看|色色日韩高清|一级黄色偷拍洗澡视频播放|免费恋脚足网站AV
01月11日,甘肃:敦煌玉门关拍到罕见极光,加勒比免费视频在线观看,日韩三级片网,思思热99在线视频,欧美 日韩 乱伦 第一
01月11日,外交部:以“产能过剩”为由打压中国绿色产业发展不利于应对气变,久久亚洲成a人片,美女视频黄网站,91区亚洲精品一区二区,欧美日韩老肥妇操B
01月11日,“中国天然染第一人”寻花问草还原千种中国色,海角大神在线播放,奥大利XXXXBBB com,爱爱打炮影院,中国最新簧片无码网站AV
01月11日|广东:预计25日-27日又有大雨到暴雨降水过程|亚洲乱伦图片小说|国产精品国产三级大全|福瑞e621.cn网址|在线播放一级黄片天堂A
01月11日|中国成品油价2024年首次下调|一级a作爰视频免费观看|双主调耳光∨K|又湿又爽又黄又刺激的视频|最新韩国三级片
01月11日|内蒙古西部小镇:农牧民排球比赛开赛|快猫成人版极速版|在线观看视频黄页|白白发明小明发明首页|国产乱轮性爱
外媒:印军正撤出中印争议边界地区,许嵩抢票|“春之声·金梦想”春节文化交流系列活动走进尼泊尔孟加拉国|一级毛片无码视频|国产麻豆综合视频在线|亚洲污视频99|插的视频网站
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺
科技考古重要突破!中国学者首次复现两千多年前中山国贝壳画
以军称打死一名哈马斯指挥官 哈马斯暂未回应
8月6日人民币对美元中间价报7.1318元 上调27个基点
英国首相斯塔默召开“眼镜蛇”紧急会议应对骚乱
(投资中国)CFA协会总裁兼首席执行官:中国仍是CFA最大的候选人市场
台湾诗人姚时晴:我从宋词中寻找灵感
【新春纪事】新成昆铁路动检列车成“年货专列” 丰富川滇两地年味
进京求医路 这辆救护车畅通无阻
马克龙接受总理巴尼耶辞呈 将在未来数日内任命新总理
中国最高检对江苏省政协原副主席王昊决定逮捕中国向联合国交存黄岩岛领海基线声明和海图
黄页免费在线观看动漫
免费观黄色在线观看视频网站
外国二级黄色二级黄色视频外国
一区二区黄色网
三级片黄色视频免费观看
亚洲性网精品无码
欧州最大的黄色网站
操老熟女视频
黄色网站毛篇
97人人操人人干

闽公网安备 35010302000113号