华为开源7B多模态模子，视觉定位和OCR能力精彩，昇腾端侧新甜点

允中发自凹非寺量子位 | 公众号 QbitAI

7B量级模子，向来是端侧安排与小我私家开发者的心头好。

轻量化特征让它能无邪适配种种终端场景，而强劲性能又能笼罩图像信息抽取、文档明确、视频剖析、物体定位等高频需求。

刚刚，华为重磅推出开源新玩家openPangu-VL-7B，直接瞄准这一焦点场景精准发力。

昇腾原生的模子结构，让openPangu-VL-7B的推理性能极具性价比：

720P图像在单张Ascend Atlas 800T A2卡上首字模子推理时延（ViT与LLM模子时延和）仅160毫秒，能够举行5FPS的实时推理；训练阶段的MFU更是抵达42.5%。

更值得关注的是，模子在预训练阶段完成了3T+tokens的无突刺集群长稳训练，为开发者使用昇腾集群提供了极具价值的实践参考。

openPangu-VL-7B在通用视觉问答、文档图标明确&OCR、视觉定位、短视频明确等焦点使命上体现突出，在开源榜单中力压同量级模子，展现出强悍的综合实力。

官方提供的cookbook也展现了模子在这些领域的优异能力。

好比我们给模子一张菜品图，让模子找到一共有几多个樱桃番茄，模子能够点出所有的位置并准确计数。

给模子一张年报截图，模子也能将其转变为markdown名堂，省去了人工摘录的痛苦。

除了亮眼的榜单效果和针对昇腾的训推优化，手艺报告中还披露了若干焦点手艺细节，揭秘模子高性能背后的设计巧思：

1）适配昇腾的高性能视觉编码器

业界古板视觉编码器多针对GPU架构设计，没有充分验展昇腾硬件优势。

团队通过大宗先导实验与性能剖析，找到模子结构的最优平衡点——相同参数目下，该视觉编码器在昇腾芯片上的吞吐较使用窗注重力的ViT-H系列编码器提升15%。

同时，接纳多标签比照学习框架，让模子具备更优的细粒度明确能力，为后续VLM训练中的视觉定位数据学习筑牢基础。

2）样本平衡的损失设计

为解决差别长度训练样本的学习平衡问题，openPangu-VL-7B立异接纳 “加权逐样本损失+逐令牌损失” 的混淆训练计划，加权系数由令牌位置和样本主要性动态决议。

这一设计让模子在训练中既能吃透长回复数据，也不忽视短回复信息，阻止 “左支右绌”，消融实验已充分验证其有用性。

3）带填充的定位数据名堂

区别于业界主流的0-999定位计划，openPangu-VL-7B接纳000-999千分位带填充相对坐标完成视觉定位。

整齐的三个token举行位置回归，不但降低了模子学习难度，更显著提升了名堂遵从性，让定位使命的精度和效率同步提升。

别的，手艺报告还深入探索了预训练数据配比、位置编码、模子融合等要害战略，为开发者提供了周全的手艺细节参考。

关于昇腾使用者而言，openPangu-VL-7B 的开源无疑是一大利好。

这款兼具轻量化、高性能与强通用性的多模态模子，既为端侧开发和小我私家使用提供了新选择，也将进一步富厚昇腾生态的应用场景，为立异注入新动力。

模子链接：https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B手艺报告：https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B/blob/main/doc/technical_report.pdf

《人人艹在线免费》，《Q8X2R7L1T4J5M9B6W3》

欧美一级视频在线免费播放

“无码AAA片毛片观看”

99热精品在线观看

……

01月09日

“一级特级黄片”黑神话年度最佳有希望吗？

↓↓↓

崩铁椒丘有必要抽吗？，是我发中游队伍，你说队内短板

01月09日，广东多地气温跌破0℃ 广州山区出现冰挂，女警察被到爽流尿，350234去看吧孩子美女半夜拉稀，A级做受片免费看，性色欧片一级毛片Av

01月09日，中国（宁夏）—中亚青年友谊营在银川开营，久久麻豆视频，亚洲日韩色图网站最新，国产在线水插区，欧美老妇女乱熟

01月09日，坚持创新在现代化建设全局中的核心地位，郭雄丽仪新娘的小说，http://jkjksp.cn，亚洲高清乱码午夜电影网制服，欧洲女人性开放视频-国产亚洲日韩欧美视频-播放观看在线视频-2020亚洲国产欧

01月09日，精彩！两场七局大战，孙颖莎、马龙世界杯夺冠，欧美性爱污视频，女人日逼，fee性满足HB牲BBW，一级免费黄片2019

01月09日，春运前5天广东累计发送旅客超1700万人次同比增长逾45%，在线永久免费观看国产黄网站，人人大香草av淘宝av线路一，云缨巡街救公孙离漫画免费入口在线观看，欧美69视频

01月09日，2023年度个税汇算3月1日开始，91人妻论区论坛，免费超碰在这，性色生活毛片免费无码，今日同人宝库

01月09日，习近平对民政工作作出重要指示强调加强普惠性基础性兜底性民生建设积极主动为人民群众做好事办实事解难事李强出席第十五次全国民政会议并讲话，火影忍者脱内衣内裤，欧美性爱禁免费网站，88黄色视频在线观看，俄罗斯甜心狐狸全集

01月09日，2024年春运全国跨区域人员流动量预计达90亿人次或创历史新高，毛片毛片毛片毛，蜜桃传媒糖茜，肉h 在线，国产原创中文国产Aⅴ

监制：邓金木

策划：赖晗

主创：唐征宇林箴贺陈佛烘颜亦阳陈林韵

编辑：王家菁、段圣祺

k1体育麻将胡了

下载APP

所有

华为开源7B多模态模子，视觉定位和OCR能力精彩，昇腾端侧新甜点

热门视频

k1体育麻将胡了

下载APP

所有

华为开源7B多模态模子 ，视觉定位和OCR能力精彩 ，昇腾端侧新甜点

热门视频

华为开源7B多模态模子，视觉定位和OCR能力精彩，昇腾端侧新甜点