首页
允中 发自 凹非寺量子位 | 公众号 QbitAI
7B量级模子,向来是端侧安排与小我私家开发者的心头好。
轻量化特征让它能无邪适配种种终端场景,而强劲性能又能笼罩图像信息抽取、文档明确、视频剖析、物体定位等高频需求。
刚刚,华为重磅推出开源新玩家openPangu-VL-7B,直接瞄准这一焦点场景精准发力。
昇腾原生的模子结构,让openPangu-VL-7B的推理性能极具性价比:
720P图像在单张Ascend Atlas 800T A2卡上首字模子推理时延(ViT与LLM模子时延和)仅160毫秒,能够举行5FPS的实时推理;训练阶段的MFU更是抵达42.5%。
更值得关注的是,模子在预训练阶段完成了3T+tokens的无突刺集群长稳训练,为开发者使用昇腾集群提供了极具价值的实践参考。
openPangu-VL-7B在通用视觉问答、文档图标明确&OCR、视觉定位、短视频明确等焦点使命上体现突出,在开源榜单中力压同量级模子,展现出强悍的综合实力。
官方提供的cookbook也展现了模子在这些领域的优异能力。
好比我们给模子一张菜品图,让模子找到一共有几多个樱桃番茄,模子能够点出所有的位置并准确计数。
给模子一张年报截图,模子也能将其转变为markdown名堂,省去了人工摘录的痛苦。
除了亮眼的榜单效果和针对昇腾的训推优化,手艺报告中还披露了若干焦点手艺细节,揭秘模子高性能背后的设计巧思:
1)适配昇腾的高性能视觉编码器
业界古板视觉编码器多针对GPU架构设计,没有充分验展昇腾硬件优势。
团队通过大宗先导实验与性能剖析,找到模子结构的最优平衡点——相同参数目下,该视觉编码器在昇腾芯片上的吞吐较使用窗注重力的ViT-H系列编码器提升15%。
同时,接纳多标签比照学习框架,让模子具备更优的细粒度明确能力,为后续VLM训练中的视觉定位数据学习筑牢基础。
2)样本平衡的损失设计
为解决差别长度训练样本的学习平衡问题,openPangu-VL-7B立异接纳 “加权逐样本损失+逐令牌损失” 的混淆训练计划,加权系数由令牌位置和样本主要性动态决议。
这一设计让模子在训练中既能吃透长回复数据,也不忽视短回复信息,阻止 “左支右绌”,消融实验已充分验证其有用性。
3)带填充的定位数据名堂
区别于业界主流的0-999定位计划,openPangu-VL-7B接纳000-999千分位带填充相对坐标完成视觉定位。
整齐的三个token举行位置回归,不但降低了模子学习难度,更显著提升了名堂遵从性,让定位使命的精度和效率同步提升。
别的,手艺报告还深入探索了预训练数据配比、位置编码、模子融合等要害战略,为开发者提供了周全的手艺细节参考。
关于昇腾使用者而言,openPangu-VL-7B 的开源无疑是一大利好。
这款兼具轻量化、高性能与强通用性的多模态模子,既为端侧开发和小我私家使用提供了新选择,也将进一步富厚昇腾生态的应用场景,为立异注入新动力。
模子链接:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B手艺报告:https://ai.gitcode.com/ascend-tribe/openPangu-VL-7B/blob/main/doc/technical_report.pdf
《国内精品 在线》,《Q8X2R7L1T4J5M9B6W3》五月亚洲综合
“男女做爱大片”
国产 中文 制服丝袜 另类
……
01月09日
“插进去爽视频”因蛋糕放鲜花20多家店被同一人举报
↓↓↓
01月09日,纪念西南剧展80周年主题研讨会在桂林举行 赓续剧展传统,小 伸进 无码,进 里 片国,欧美熟妇xx,国产黄页在线观看黄A∨
01月09日,斯诺克冠军联赛:白雨露首秀推迟 威廉姆斯顺利晋级,久久 免费视频精品,在线国产1,精工厂久久XX,😀500购彩大厅~welcome凤凰彩票通用app
01月09日,8月以来 民航华东区域日均保障航班超7500架次,韩国限制级2022,亚洲中文字幕日产精品一区,欧洲美女一级牲交不卡,色哟哟自拍一区二区
01月09日|大运河上练“水上漂”当事人被杭州交通部门约谈|欧美男女一级性生活视频|欧美一级在线精品|欧美亚洲性爱|人人妻人人澡人人爱碰
01月09日|俄国防部:乌军凌晨发动袭击 俄摧毁多枚火箭弹及无人机|日韩三级中文字幕|当年懵懂无知陈嘉全套|熟女性生活视频|黑桃滴滴群网站免费观看
01月09日|五部门:加强金融支持乡村全面振兴专项行动|99re国产嫩草|亚洲最大的三级片网站|张婉莹手笔紫薇免费全集|欧洲精品免费精品AA片在线播放 www.exitmultimedia.com……
01月09日,广州今年将建设百个高质量就业社区(村),成 人 h 在线视频,不知火舞裸体自慰,国产真实老女人,riricao欧美视频在线
01月09日,上海医疗援青:先进技术“带土移植” 提高受援方“造血”功能,亚洲最大A片,久久小视频黄色A片,撒尿BBWBBWBBW毛黑vido,又黄又爽又大高潮毛片
01月09日|民进党胜选后大陆方面将加速统一进程?国台办回应|一级a免一级a做免费线|www成人 色情美女在线九色|哑剧猫无和谐18+|欧美亚洲一级香
01月09日,香港警方打击诈骗和洗黑钱拘219人 涉逾5亿港元骗款,色色色射射射婷婷五月天热热热热色色,欧美一级AAA片,国产在线观看精品免费你懂,馃悿馃悿馃悿馃悿馃悿
01月09日,海南三亚深耕入境游市场 与韩国旅企开展联合营销,高效监控小狐导航,狠狠躁夜夜躁av网站动态图,亚洲免费色视频,美国式第19集桥矿影院
01月09日,“顺德新港——海南洋浦港”内外贸同船班轮航线开通,性欧美HDXXXX精品,黄色网站com,www日韩网站视频,黄色视频官网免费
01月09日|国产大型民用直升机AC313A开启高寒试飞|jalap sikix kino直播免费|爱看A∨视频网站|日韩免费裸体福利网站在线网址|wwwxx在线
01月09日|2024天门山跑酷大赛启幕 逾70名选手“云纵天梯”|精品黄色福利|超碰国产免费|你懂影院|女子裸体变态网站秘 秘 秘
01月09日|(走进中国乡村)中国史前村落现激增客流 大地湾文化迎“新面貌”|东北老熟妇爱456视频|furry漫画网站18|jsgame星穹茵道下载地址|在线视频自拍网
C罗敬酒?其实是银耳雪梨汤,美媒诬称中国开展间谍活动 中方驳斥|百所高校教师走进雄安 助推“雄安实践”融入思政课|乱伦视频一区二区|きれいは汚いただしオレ以外歌词|揉我奶头 啊 cao我先生|夏目春彩在办公室被躁
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺

闽公网安备 35010302000113号