首页
HunyuanOCR模子团队 投稿量子位 | 公众号 QbitAI
腾讯混元大模子团队正式宣布并开源HunyuanOCR模子!
这是一款商业级、开源且轻量(1B参数)
的OCR专用视觉语言模子,模子接纳原生ViT和轻量LLM连系的架构。
详细而言,其感知能力(文本检测和识别、重大文档剖析)优于所有果真计划;语义能力(信息抽取、文字图像翻译)体现精彩,荣获ICDAR 2025 DIMT挑战赛(小模子赛道)冠军,并在OCRBench上取得3B以下模子SOTA效果。
现在,该模子在抱抱脸(Hugging Face)趋势榜排名前四,GitHub标星凌驾700,并在Day 0被vllm官方团队接入。
团队先容,混元OCR专家模子实现了三大突破:
(1)万能与高效统一。
在轻量框架下支持文字检测和识别、重大文档剖析、开放字段信息抽取、视觉问答和照相图像翻译,解决了古板专家模子功效简单和通用视觉明确大模子效率低下的痛点。
(2)极简端到端架构。
摒弃版面剖析等前处置惩罚依赖,彻底解决流水线过失累积问题,大幅简化安排。
(3)数据驱动与RL立异。
验证了高质量数据价值,并证实强化学习可显著提升多项OCR使命性能。
现在模子参数已在抱抱脸和ModelScope等渠道开源,并提供基于vLLM的高性能安排计划,旨在助力科研与工业落地。
HunyuanOCR焦点手艺大揭秘
作为一款具备商业级性能的开源多语言VLM,混元OCR专家模子的焦点念头在于构建一个真正统一、高效的端到端OCR基础模子。
其焦点手艺主要聚焦于以下几个方面:
轻量化模子结构设计、高质量预训练数据生产、重应用导向的预训练战略和OCR使命定制的强化学习。
轻量化模子结构设计
下图为HunyuanOCR架构示意图。
差别于其他开源的级联OCR计划或专家模子,混元OCR模子贯彻端到端训推一体范式,各项使命仅需单次推理即可获取完整效果。
HunyuanOCR接纳由原生区分率视觉编码器、自顺应MLP毗连器和轻量级语言模子组成的协同架构。
视觉部分基于SigLIP-v2-400M,引入自顺应Patching机制支持恣意区分率输入,有用阻止了长文档等极端长宽比场景下的图像失真与细节丧失。
毗连器通过可学习的池化操作充当桥梁,在自顺应压缩高区分率特征的同时,精准保存了文本麋集区的要害语义。
语言模子侧则基于Hunyuan-0.5B,通过引入立异的XD-RoPE手艺,将一维文本、二维版面(高宽)及三维时空信息举行解耦与对齐,付与了模子处置惩罚多栏排版及跨页逻辑推理的强盛能力。
与依赖多模子级联或后处置惩罚的古板计划差别,HunyuanOCR接纳了纯粹的端到端训练与推理范式。
该模子通过大规模高质量的应用导向数据举行驱动,并连系强化学习战略举行优化,实现了从图像到文本的直接映射。这种设计彻底消除了古板架构中常见的“过失累积”问题,并挣脱了对重大后处置惩罚?榈囊览,从而在混淆版面明确等高难度场景中展现出远超同类模子的鲁棒性与稳固性。
高质量预训练数据生产
为了系统性提升HunyuanOCR在多语言、多场景及重大版面下的感知与明确能力,研究团队构建了一个包括超2亿“图像-文本对”的大规模高质量多模态训练语料库。
通过整合果真基准、网络爬取真实数据及自研工具天生的合成数据,该数据库笼罩了9大焦点真实场景(包括文档、街景、广告、手写体、截屏、票据卡证、游戏界面、视频帧及艺术字体)以及凌驾130种语言的OCR数据。
这套完整的数据生产与洗濯流水线,为模子提供了坚实的高质量多模态训练资源,详细展现如下:
(注:图为高质量预训练数据,(a)(b)(c)展示了数据合成和仿真增强的效果,(d)(e)展示自动化QA数据生产的案例)
在数据合成方面,研究职员基于SynthDog框架举行了深度扩展,实现了对130多种语言的段落级长文档渲染及双向文本(从左到右和从右到左两种阅读顺序)支持,并能细腻控制字体、颜色、混淆排版及手写气概,有用提升了跨语言泛化能力。
同时,引入自研的Warping变形合成流水线,通过模拟几何变形(折叠、透视)、成像退化(模糊、噪声)及重大光照滋扰,逼真还原自然场景下的拍摄缺陷。
这种“合成+仿真”的战略显著增强了模子在文本定位、文档剖析等使命中的鲁棒性。
针对高阶语义明确使命,团队开发了一套集“难例挖掘、指令式QA天生与一致性校验”于一体的自动化流水线。
遵照“一源多用”原则,该流水线实现了对统一图像举行文本定位、结构化剖析(Markdown/JSON)及多维推理问答(信息抽取、摘要、盘算)的统一标注。系统优先挖掘低清晰度或含重大图表的难例,使用高性能VLM天生多样化问答对,并通过多模子交织验证机制确保数据质量。
这一流程有用解决了重大场景下高质量VLM训练数据稀缺的问题,大幅提升了模子的数据使用效率。
重应用导向的预训练战略
HunyuanOCR接纳循序渐进的四阶段预训练战略:
前两阶段聚焦视觉&语言对齐与通用明确能力构建。
其中Stage-1为热身阶段,冻结LLM并仅训练ViT与MLP适配器,通过Caption和OCR数据实现视觉特征与文本语义空间的对齐,强化基础感知与结构化明确。
Stage-2解冻所有参数举行端到端学习,依托约300Btoken数据及涵盖文档剖析、文字检测和识别、图片翻译、VQA的多使命合成样本,深度增强模子对文档、表格、公式、图表等重大结构化内容的感知和明确能力。
后两阶段则着重长文档处置惩罚能力与现实应用场景适配。
Stage-3将上下文窗口扩展至32k,通过长窗口数据训练知足长文档图像剖析与明确需求。
Stage-4开展应用导向的退火训练,连系全心筛选的人工标注真值数据与高质量合成数据,通过统一指令模版与标准化输特殊式规范模子响应模式,既提升了重大场景下的鲁棒性,也为后续强化学习阶段涤讪了坚实基础。
下面的表格展示了混元OCR模子四阶段预训练:
OCR使命定制的强化学习计划
只管强化学习已在大型推理模子中取得显著乐成,Hunyuan视觉团队立异性地将其应用于注重效率的轻量级OCR专家模子。
针对OCR使命结构化强且易于验证的特点,接纳了混淆战略:
关于文字检测识别和文档剖析等具有关闭解的使命,接纳基于可验证奖励的强化学习。
而关于翻译和VQA等开放式使命,则设计了基于LLM-as-a-judge的奖励机制。这种连系证实晰轻量级模子也能通过RL获得显著性能跃升,为边沿侧和移动端的高性能应用开发了新路径。
以下是三个主要注重事项:
第一,严苛的数据筛选。
数据构建严酷遵照质量、多样性与难度平衡原则,使用LLM过滤低质数据,并剔除过于简朴或无法求解的样本以坚持训练的有用性。
第二,自顺应奖励设计。
文字检测和识别使命上,综合思量IoU与编辑距离。
重大文档剖析使命聚焦于结构与内容的准确性;VQA接纳基于语义匹配的二值奖励;而文本图像翻译则引入经已往偏归一化的软奖励(例如0~5的一连空间),特意扩展了中段分数的粒度,以便更敏锐地捕获翻译质量的细微差别。
第三,GRPO算法与名堂约束优化。
训练阶段接纳群组相对战略优化(GRPO)作为焦点算法,为了确保训练的稳固性,团队引入了严酷的长度约束与名堂规范机制,任何超长或不切合预界说Schema(如结构化剖析名堂)的输出将直接被判为零奖励。
这一强约束机制迫使模子专注于天生有用、规范且可验证的输出,从而在受限条件下习得精准的推理与名堂化能力。
项目主页:
https://hunyuan.tencent.com/vision/zh?tabIndex=0
Github:
GitHub-Tencent-Hunyuan/HunyuanOCR
抱抱脸:
https://huggingface.co/tencent/HunyuanOCR
论文:
https://arxiv.org/abs/2511.19575
《把 放在 里面》,《Q8X2R7L1T4J5M9B6W3》第三影视 写真片福利
“俄罗斯性爱网”
性感巨乳美女毛片
……
12月04日
“黄色妇女网址”留几手说杨子希望黄圣依是金丝雀
↓↓↓
12月04日,2023年度中国马术场地障碍年终总决赛在穗落幕,插的我下面很爽视频,卡夫卡当奶牛产奶的游戏,雏田被爆 自慰爽naruto,艾莉同学被艹到高潮的视频
12月04日,“宝总”胡歌的宝岛情:繁花似锦,不虚此行,无码资源,95视频日韩,国产骚大鸡吧免费在线,一级a毛片一级a毛片视频
12月04日,联播观察丨关键之年两会 总书记关注这三“新”,能直接看的黄网站,免费 视频,丝袜搞黄色网站,www成人 色情美女露双乳
12月04日|哈尔滨机场单日起降架次、旅客量双创纪录|精彩视频无码专区在线看|久久人妻无码岛国人妻|久久久久久亚洲偷窥女厕软件|蘑菇视频 国产免费
12月04日|大陆开放福建居民赴金门马祖旅游 国台办:希望民进党当局撤除两岸人员往来禁限|骇爪胸曝光|涂山雅雅全彩本子|成年人在线观看视频播放免费|免费又粗又大黄片
12月04日|香港制服团体举行升旗礼 提升爱国情怀|国产Chinese男男Gay吧|美女跪床 被 动漫|男男Gay做受 高潮sm|糖心桥本香菜……
12月04日,冯彬说拿下生涯首枚奥运奖牌很开心,色黄乱码网站,欧美最猛黑人XXXX黑人猛交,一级大毛片,日本黄页网站免费
12月04日,集图文音像谱于一体 《中国少数民族民间音乐与舞蹈》在京首发,蝌蚪窝视频在线观看,乌克兰一级片,小鸟酱jk白丝,国产精品久久久久精品一级APP
12月04日|贵州省贵阳市委副书记、市长马宁宇接受审查调查|特级黄片无码|别告诉妈妈mama91怎么用|亚洲福利一区福利二区|福利视频一区91自拍
12月04日,讲好广袤大地上的中国故事(人民论坛),精品国产AⅤ一区二区三区V免费,黄色91,all东方纤云18Hr笔趣阁,男人天堂高清免费观看
12月04日,湖南怀化打造东盟经贸合作展示中心,在线免费黄色高清网站,精品黄色另类片在线观看,欧美日本韩国一起操,AV女同免费一区二区三区在线
12月04日,西藏申扎黑颈鹤进入孵化季,精品国产特黄在线观看,亚洲老奶老太性爱视频,未满18禁止进入,小坤坤叉困困
12月04日|(新春走基层)甘南藏族歌舞“出海”:原生态中引共鸣|亚洲色无码国产精品网站可下载|啪啪啪视频18岁禁止|秋霞在线|全彩本子爆乳h无遮挡
12月04日|开创澳门特色“一国两制”实践新局面(庆祝澳门回归25周年) |www刺激高潮com|中文字幕,黄色电影片|txo10tv|黄色网站在线播
12月04日|腾讯云携手同程旅行打击订单诈骗 前10月挽回消费者损失超千万|久久人人妻人人做人人爽|久久久无码AV谭松韵|国产乱伦视频播放|中文字幕强奸乱伦免费播放
女教师哺乳期被学校调岗为保洁,BLG对战TES|海口-越南胡志明市航线开通 东盟旅行商组团参访海南|先锋资源在线播放|欧美性爱日本|黄色免x|污污网站18禁在线永久免费观看
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺
感受大运河魅力,2024北京城市副中心马拉松开跑
第十九届哈萨克斯坦—中国商品展览会在阿斯塔纳开幕
1600余名越野跑爱好者竞逐浙江柯城古道
万人说新疆|冰川守护人:愿冰川融化慢一点,再慢一点
好吃又好玩!2024“好Ye冰淇淋节”邀民众共赴甜蜜之约
郑州至巴黎跨境电商全货机航线首飞
沉湖国际重要湿地迎来20种国家重点保护水鸟沉湖越冬
联合国:9名近东救济工程处工作人员可能参与了对以袭击
新疆巴音郭楞州尉犁县发生3.0级地震 震源深度10千米
188元买的“100%山羊绒衫”实为“0羊绒”?二者原材料价差可达三百倍
无码黄色一级视频
西施拿黄瓜自w到高潮
α级黄色视频
国产在线走光
免费又黄又爽视频欧美
品爱阁下载安装
一级欧美牲交大片免费观看
吃漂亮小姑娘脚丫
3及片黄色福利午夜网站
三角洲同人漫画

闽公网安备 35010302000113号