首页
允中 发自 凹非寺量子位 | 公众号 QbitAI
7B量级模子,向来是端侧安排与小我私家开发者的心头好。
轻量化特征让它能无邪适配种种终端场景,而强劲性能又能笼罩图像信息抽取、文档明确、视频剖析、物体定位等高频需求。
刚刚,华为重磅推出开源新玩家openPangu-VL-7B,直接瞄准这一焦点场景精准发力。
昇腾原生的模子结构,让openPangu-VL-7B的推理性能极具性价比:
720P图像在单张Ascend Atlas 800T A2卡上首字模子推理时延(ViT与LLM模子时延和)仅160毫秒,能够举行5FPS的实时推理;训练阶段的MFU更是抵达42.5%。
更值得关注的是,模子在预训练阶段完成了3T+tokens的无突刺集群长稳训练,为开发者使用昇腾集群提供了极具价值的实践参考。
openPangu-VL-7B在通用视觉问答、文档图标明确&OCR、视觉定位、短视频明确等焦点使命上体现突出,在开源榜单中力压同量级模子,展现出强悍的综合实力。
官方提供的cookbook也展现了模子在这些领域的优异能力。
好比我们给模子一张菜品图,让模子找到一共有几多个樱桃番茄,模子能够点出所有的位置并准确计数。
给模子一张年报截图,模子也能将其转变为markdown名堂,省去了人工摘录的痛苦。
除了亮眼的榜单效果和针对昇腾的训推优化,手艺报告中还披露了若干焦点手艺细节,揭秘模子高性能背后的设计巧思:
1)适配昇腾的高性能视觉编码器
业界古板视觉编码器多针对GPU架构设计,没有充分验展昇腾硬件优势。
团队通过大宗先导实验与性能剖析,找到模子结构的最优平衡点——相同参数目下,该视觉编码器在昇腾芯片上的吞吐较使用窗注重力的ViT-H系列编码器提升15%。
同时,接纳多标签比照学习框架,让模子具备更优的细粒度明确能力,为后续VLM训练中的视觉定位数据学习筑牢基础。
2)样本平衡的损失设计
为解决差别长度训练样本的学习平衡问题,openPangu-VL-7B立异接纳 “加权逐样本损失+逐令牌损失” 的混淆训练计划,加权系数由令牌位置和样本主要性动态决议。
这一设计让模子在训练中既能吃透长回复数据,也不忽视短回复信息,阻止 “左支右绌”,消融实验已充分验证其有用性。
3)带填充的定位数据名堂
区别于业界主流的0-999定位计划,openPangu-VL-7B接纳000-999千分位带填充相对坐标完成视觉定位。
整齐的三个token举行位置回归,不但降低了模子学习难度,更显著提升了名堂遵从性,让定位使命的精度和效率同步提升。
别的,手艺报告还深入探索了预训练数据配比、位置编码、模子融合等要害战略,为开发者提供了周全的手艺细节参考。
关于昇腾使用者而言,openPangu-VL-7B 的开源无疑是一大利好。
这款兼具轻量化、高性能与强通用性的多模态模子,既为端侧开发和小我私家使用提供了新选择,也将进一步富厚昇腾生态的应用场景,为立异注入新动力。
模子链接:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B手艺报告:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B/blob/main/doc/technical_report.pdf
《天天色综合网址》,《Q8X2R7L1T4J5M9B6W3》中国爆后菊吞精
“另娄小小拗女一区二区”
拔萝卜 自慰 巨乳
……
01月07日
“国产在线偷窥视频网址”谢震业疑退出200米强项
↓↓↓
01月07日,国家发改委:银发经济孕育着新机遇 将催生新领域和新赛道,欧美大乳美女无衣棵体,人人操,人人干,人人射在线,黑土腿法技艺高超,色在操在线
01月07日,水果不宜加热吃……是真是假?|谣言终结站,激情图片 激情视频 Qvod,福瑞动漫♂ 自慰Gay漫画,精品国产理论片在线观看,黑人粗大无码AV人妻
01月07日,下一个能让C罗记住的中国球员,在哪里?,欧美婷婷丁香久久人人精品,欧美一级2021,国产精品99久久精品,免费看性爱
01月07日|浙江去年国际货邮吞吐量增长49% 计划增5条国际航线|国精产品视频一二二区|性啪啪视频|亚洲精品秘 一区二区三小|有一级黄色视频吗
01月07日|中国北疆最繁忙机场一月份运送旅客229万人次 创历史新高|人人操人人干九七|激情自拍视频|欧美视频在线精品96|好吊操人人操
01月07日|和评理|美欧保护主义政策终将反噬自身|母畜论坛投稿|在线播放你懂亚洲你懂的|宝宝好久没c你了 日本|亚州性爱专区……
01月07日,文明遇鉴|这些青铜国宝身上蕴含了哪些“文明密码”,思思99er在线视频,色色色色干,性爽爽,白嫩在线
01月07日,美对乌军援已中止 10亿美元军火去向不明,欧美性日,www.色多多 .com本子,五月天激激婷婷大综合换脸,黄色毛黄片
01月07日|国话首演契诃夫经典《三姐妹》 青春群像闪耀理想之光|欧美一区4卡黑人|99视频/这里只有精品全部|男女性爱视频免费网站|男人鲁啊鲁网站免费视频
01月07日,短道速滑世界巡回赛加拿大站 中国队男子5000米接力摘银,国产超薄丝袜脚久久久久久,二区农村乱沦视频,影音先锋男人资源av站,日韩一级性爱
01月07日,(乡村行·看振兴)福建永定煤农吃上“生态饭”,zhun120提取码,日韩一级中文字幕视频免费看,无尽 白丝 动漫 森林,国产18
01月07日,展望2024年A股市场 多家外资机构给出积极预判,69xxxxX0,亚洲免费网,日本曰皮视频播放,久久久久精品视频久久久久
01月07日|中国三部门公布房地产税收优惠政策|一级毛片网站短视频|国产曰韩一区二区三区|胡桃狂揉下面 羞羞漫画|开心激情五月
01月07日|12月3日人民币对美元中间价报7.1996元 下调131个基点|小 视频|中国东北男gay肛交视频|亚州性愛区|电影(昭和战争)越南女子别动队
01月07日|访“深港历史文化之根”南头古城|青青青国产在线观看不卡|五月丁香婷婷综合网站|高清欧美黄|猛1被调教成公厕尿便失禁网站
石破茂被逼到墙角,13岁上大学?辞职副局长回应|高温橙色预警继续!三省份局地将超40℃,华北东北多强对流天气|精品视频在线观看免费视频|国产艳色舞裸体歌舞aV|青青国产香蕉依人在线观看|学长好硬
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺

闽公网安备 35010302000113号