首页
允中 发自 凹非寺量子位 | 公众号 QbitAI
7B量级模子,向来是端侧安排与小我私家开发者的心头好。
轻量化特征让它能无邪适配种种终端场景,而强劲性能又能笼罩图像信息抽取、文档明确、视频剖析、物体定位等高频需求。
刚刚,华为重磅推出开源新玩家openPangu-VL-7B,直接瞄准这一焦点场景精准发力。
昇腾原生的模子结构,让openPangu-VL-7B的推理性能极具性价比:
720P图像在单张Ascend Atlas 800T A2卡上首字模子推理时延(ViT与LLM模子时延和)仅160毫秒,能够举行5FPS的实时推理;训练阶段的MFU更是抵达42.5%。
更值得关注的是,模子在预训练阶段完成了3T+tokens的无突刺集群长稳训练,为开发者使用昇腾集群提供了极具价值的实践参考。
openPangu-VL-7B在通用视觉问答、文档图标明确&OCR、视觉定位、短视频明确等焦点使命上体现突出,在开源榜单中力压同量级模子,展现出强悍的综合实力。
官方提供的cookbook也展现了模子在这些领域的优异能力。
好比我们给模子一张菜品图,让模子找到一共有几多个樱桃番茄,模子能够点出所有的位置并准确计数。
给模子一张年报截图,模子也能将其转变为markdown名堂,省去了人工摘录的痛苦。
除了亮眼的榜单效果和针对昇腾的训推优化,手艺报告中还披露了若干焦点手艺细节,揭秘模子高性能背后的设计巧思:
1)适配昇腾的高性能视觉编码器
业界古板视觉编码器多针对GPU架构设计,没有充分验展昇腾硬件优势。
团队通过大宗先导实验与性能剖析,找到模子结构的最优平衡点——相同参数目下,该视觉编码器在昇腾芯片上的吞吐较使用窗注重力的ViT-H系列编码器提升15%。
同时,接纳多标签比照学习框架,让模子具备更优的细粒度明确能力,为后续VLM训练中的视觉定位数据学习筑牢基础。
2)样本平衡的损失设计
为解决差别长度训练样本的学习平衡问题,openPangu-VL-7B立异接纳 “加权逐样本损失+逐令牌损失” 的混淆训练计划,加权系数由令牌位置和样本主要性动态决议。
这一设计让模子在训练中既能吃透长回复数据,也不忽视短回复信息,阻止 “左支右绌”,消融实验已充分验证其有用性。
3)带填充的定位数据名堂
区别于业界主流的0-999定位计划,openPangu-VL-7B接纳000-999千分位带填充相对坐标完成视觉定位。
整齐的三个token举行位置回归,不但降低了模子学习难度,更显著提升了名堂遵从性,让定位使命的精度和效率同步提升。
别的,手艺报告还深入探索了预训练数据配比、位置编码、模子融合等要害战略,为开发者提供了周全的手艺细节参考。
关于昇腾使用者而言,openPangu-VL-7B 的开源无疑是一大利好。
这款兼具轻量化、高性能与强通用性的多模态模子,既为端侧开发和小我私家使用提供了新选择,也将进一步富厚昇腾生态的应用场景,为立异注入新动力。
模子链接:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B手艺报告:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B/blob/main/doc/technical_report.pdf
《亚洲色无码一区二区三区》,《Q8X2R7L1T4J5M9B6W3》手淫VK
“国产自产在线视频一区2021”
自拍偷拍 色综合
……
01月09日
“91在线视频com”央视曝光开盒挂人案例
↓↓↓
01月09日,北江下游将现近百年一遇洪水,欧美综合精品视频一区二区,久久人人妻人人做人人爽,AV自拍偷拍亚洲,国产在线91精品免费一区
01月09日,中国成功发射遥感四十二号02星,美国人叼黑片,欧美久久免费,99视频在线免费播放,欧洲在线A片高潮
01月09日,中新健康丨专家:不同呼吸道病原体可同时或交替感染,欧洲wwwAVco m,高清无码专区色综合,国产8x人视频免费,91精品在线作爱视频
01月09日|长沙“最美水上游步道”进入最佳观赏期|黄会赢性爱|7788亚洲精品无码专区同性|99精品久久99久久久久|又硬又粗又黄视频免费在线观看
01月09日|西南岩溶国家公园创建区发现5个植物新种|a级毛午夜免费日本|在线招和人人操人人看|狼友视频www在线观看|_机二机黄色片色费看
01月09日|重庆轨道交通15号线二期工程全面进入铺轨阶段|精品女厕偷拍一区二区|十八禁黄网站网址免费|黄色视频国产一区二区三区|后入赵露思……
01月09日,新疆阿克苏地区乌什县地震未对通信用户造成影响,国产精品免费久久久久长长,啪啪黄色一级视频,A久久国产视频,黄黄网站免费视频
01月09日,斯诺克世界大奖赛:中国军团2胜2负 已有3人晋级16强,近親国产亂伦ⅩⅩ,精品传媒卡一卡二传媒,玖玖有精品视频,国产一区二区三区精品久久久
01月09日|【澜湄印象】湄公河畔传统村 特色舞蹈迎客来|99偷拍三级片|亚洲国产综合网|欧美亚洲性爱视频|欧洲欧美黑白配黄色高清免费一级视频
01月09日,俄军战略轰炸机巡航日本海,Av三级一区二区永久在线观看,摸摸大扔子,黄色网日韩中文视频一,欧美一级亚洲一级
01月09日,福建漳州平和县迁台记忆展示中心揭牌,曰批全过程免费视频观看网址,免费 无码 国产变态在线观看,综合久久,国产一级在线手机免费看视频
01月09日,时政Vlog丨现场见证!多位驻华大使递交国书,欧美淫淫网站,可西西人体大胆午夜啪啪,99re观看视频在线,一级毛片一级毛片一级毛片 下载
01月09日|日本大学生中国“探亲”大熊猫:把心留在了四川|日本一区二区三区色视频|中文字幕在线爱|女人一级A级免费视频|欧美黄片三区
01月09日|今天起 这些新规将影响你我生活|mosfos05|尤妮丝和土豪酒店的故事|小萝w社w少w妇w入口视频在线|在线黄色小视频
01月09日|武汉市获批开通18条低空试点航线|男女猛烈|免费看美女隐私的软件下载|欧美激情三级在线观看|欧美性狂猛深喉白人精品
汪苏泷为歌手提前准备歌单,国足战巴林26人名单确定|国足主帅扬科维奇:我们不能逃避问题|91最新光胸女生视频|国产又大又粗又长又爽免费视频|爻賶乇賶賯賰賶賳賵987|免费一级A片在线观看
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺
拉萨市残联开展主题活动:增强健康意识 远离致残风险
乡村全面振兴扎实推进(年中经济观察)
三年种质资源普查 北京找回786份老种子
商务部:希望世贸组织成员不要把贸易救济措施当成贸易保护工具探访高原药学实验室:“最强大脑”如何运作?
俄称对乌军工企业实施集群打击 乌称拦截多枚俄军导弹
广西法院加大打击治理电信网络诈骗犯罪力度
陈行水库挖潜工程开工 提升抵御咸潮保障供水能力
菲律宾侨领施恭旗返乡捐赠950万元 助力晋江公益事业
奥运冠军“雅思”组合广西行 沉浸式感受苗族风情
暖民心、惠民生、解民忧 八部门印发通知进一步加强职业健康管理
欧美性交在线免费
亚洲视频理论在线
www女被 喷水噜噜噜软件
日本性感国模美女视频
美丽姑娘在线观看费免
欧美黑人又粗又长精品
日本字幕在线观看
洛琪希被 裸露18
云英拿枪奖励自己核心
野花av

闽公网安备 35010302000113号