v9.625.9242.107406 安卓漢化版
v7.273.9738.382859 PC版
v4.690.6739.617207 PC版
v4.666 IOS版
v8.935.2370.485463 最新版
v9.163.9221.208675 PC版
v4.162.6852.246276 安卓版
v4.399.2118 IOS版
v7.385 安卓漢化版
v8.71.8389 PC版
v3.306.9366.699540 安卓免費版
v4.173 安卓免費版
v3.900.8215.698882 安卓版
v2.285 安卓最新版
v7.736 PC版
v6.612.4443.922181 安卓版
v5.98.2755.888492 安卓免費版
v2.653 最新版
v1.551.9761 最新版
v8.606.8601 PC版
v6.710.1218.504831 安卓免費版
v8.987.7394.535556 最新版
v6.332.5441.509174 安卓漢化版
v4.222 安卓最新版
v5.427.6117.403271 IOS版
v3.914.755.636615 IOS版
v1.984.1569 最新版
v2.642 安卓版
v4.774 安卓免費版
v8.485.8415 安卓版
v7.344.7427.438907 安卓免費版
v5.98.6323.753968 安卓免費版
v1.486.6283.423114 IOS版
v6.489 安卓版
v4.433.9596.914375 安卓免費版
v1.585 安卓漢化版
v1.957 PC版
v8.391.7892.671964 安卓漢化版
v5.511 安卓版
v9.468 安卓免費版
v8.182 PC版
v9.138.3872.298428 安卓免費版
v3.486.2085 最新版
v5.17.4895.25889 安卓最新版
v8.175 最新版
v2.461 最新版
v6.151.1106 安卓免費版
v1.910.1986.241787 安卓最新版
v6.90.1223.516102 安卓版
v8.16.8939.413923 安卓版
v5.307 安卓漢化版
v1.434.3623 安卓版
v6.457 IOS版
v3.335.1623.911454 安卓版
v3.543.492 安卓免費版
v1.112 IOS版
v5.25.6127.881764 安卓漢化版
v6.359.7300.775688 安卓版
v1.168.782 安卓版
v5.347.872 PC版
v6.180.2721.771 安卓最新版
v2.106.6731.829281 PC版
v8.601.9312.94061 安卓最新版
v4.28.2067.322341 安卓漢化版
v4.229 安卓免費版
v9.392.169.463829 最新版
v3.458.1934.161686 安卓免費版
v9.630.4131.176149 PC版
v8.943.8946.601939 安卓最新版
v8.690 IOS版
v4.244.2313.519794 安卓免費版
v4.42.5647 安卓最新版
v8.991.9392.144929 PC版
v6.864.5774.559402 安卓漢化版
v9.92.6059.725636 安卓版
v7.168.5910.402065 安卓最新版
v1.231.2800.149751 IOS版
v3.318.4316 安卓最新版
v3.509.3156 PC版
v1.551.137.766714 IOS版
欧美精品高清在线XXXX
henry 发自 凹非寺量子位 | 公众号 QbitAI
刚刚,DeepSeek开源了全新的OCR模子——
DeepSeek-OCR 2,主打将PDF文档精准转换Markdown。
相较于去年10月20日宣布的初代模子,DeepSeek-OCR 2的焦点突破在于突破了古板模子死板的“光栅扫描”逻辑,实现了凭证图像语义动态重排视觉标记(Visual Tokens)
为此,DeepSeek-OCR 2弃用了前作中的CLIP组件,转而使用轻量化的语言模子(Qwen2-0.5B)构建DeepEncoder V2,在视觉编码阶段就引入了“因果推理”能力。
这一调解模拟了人类阅读文档时的因果视觉流,使LLM在举行内容解读之前,智能地重排视觉标记。
性能上,DeepSeek-OCR 2在仅接纳轻量模子的条件下,抵达了媲美Gemini-3 Pro的效果。
在OmniDocBench v1.5基准上,DeepSeek-OCR 2提升了3.73%,并在视觉阅读逻辑方面取得了显著希望。
值得一提的是,这次最新论文的作者依然是:魏浩然,孙耀峰和李宇琨三人组。
接下来,我们一起来看。
焦点更新:DeepEncoder V2
DeepSeek-OCR 2延续了前代OCR模子的经典架构,由编码器息争码器协同事情。
编码器认真将图像离散化为视觉标记(Visual Tokens),解码器则连系这些标记与用户指令天生最终文本输出。
如论文所说,DeepSeek-OCR 2此次焦点的升级在于编码器——
DeepEncoder V2
古板的视觉编码器通常凭证牢靠的“光栅扫描”(从左到右、从上到下)顺序处置惩罚图像,这在面临重大版面(如双栏文档、狼籍的表格)时,往往会切断语义的逻辑连贯性。
而DeepEncoder V2这次的更新解决的正是这一问题。
将此前的CLIP组件替换为轻量化的LLM架构(Qwen2-0.5B),这一转变付与了编码器因果推理能力
信息进入主解码器之前,编码器就先对视觉标记举行“智能重排”,使其更切合人类阅读逻辑。
为了实现这种智能重排,DeepEncoder V2引入了一种全新的双流注重力机制,其底层逻辑通过一个定制的注重力掩码(Attention Mask)来约束:
视觉标记(Visual Tokens):对应掩码左侧的全1区域,接纳双向注重力,保存全局建模能力,确保每一个标记都能“看”到整幅图。因果流盘问(Causal Flow Queries):对应掩码右边的三角区域(LowerTri)。这是附加在视觉标记后的可学习盘问向量。它们接纳因果注重力(即每个盘问只能关注之前的盘问及所有视觉标记)。
这种设计使得视觉标记之间互不滋扰(坚持原始特征),但每一个盘问标记却被强制要求只能“看到”它之前的标记以及所有的视觉标记。
相比古板的交织注重力结构,这确保视觉信息在所有层中都坚持“活跃”,从而与因果盘问举行深度信息交流。
别的,这现实上还建设了两阶段级联推理,乐成弥合了2D空间结构与1D语言建模之间的鸿沟:
第一阶段(编码器):通过盘问举行语义重排。第二阶段(解码器):对有序序枚举行自回归推理。
换句话说,在V1中,图像进入LLM时,顺序是写死的。
而在V2中,通过盘问标记(Learnable Query)的重排,模子在进入主解码器之前,就已经在编码器内部完成了一次“逻辑理顺”
其他组件
先容完DeepEncoder V2的焦点升级后,我们来串一下DeepSeek-OCR 2的整体架构:
首先是一开头的视觉分词器(SAM),其沿用了此前的架构,接纳了80M参数的SAM-base架构,并连系两层卷积层。
输出维度以前代的1024优化缩减至896,以对齐后续管线,这套分词器的设置实现了16倍的标记压缩
这种基于压缩的设计,以极小的参数开销,极大地释放了后续全局注重力?榈呐趟阊沽,让模子运行更轻快。
别的,为了在处置惩罚差别区分率图像时“不丢细节”,DeepSeek-OCR 2在编码阶段还引入了无邪的裁剪计划:
全局视图(Global View): 在1024×1024区分率下,天生256个盘问标记。局部裁剪(Local Crops): 针对768×768的细部,每个裁剪块对应144个盘问标记。
最终输入LLM的标记总数稳固在256到1120之间,与Gemini-1.5 Pro的视觉预算相匹配。
最后,在后端解码器部分,DeepSeek-OCR 2保存了3B参数的MoE结构(现实激活参数仅约 500M)。
训练流程与实验验证
在数据战略上,DeepSeek-OCR 2延续了与前代相同的数据源,OCR相关数据占比达80%。
其要害优化点有二:一是采样平衡化,将正文、公式与表格按3:1:1比例划分;
二是标签精简化,合并了如“图片说明”与“问题”等语义相似的结构标签。这种极小的底层差别,确保了其与基准测试之间具备高度的一致性与可比性。
在训练流程方面,DeepSeek-OCR 2接纳了三阶段的训练Pipelines:
编码器预训练:通过下一标记展望(Next Token Prediction)使命,使编码器掌握特征提取、压缩和重排序能力。盘问增强:冻结视觉分词器,联合优化LLM编码器息争码器,增强盘问体现。解码器微调:冻结编码器,仅优化解码器,从而在相同的算力(FLOPs)下实现更高的数据吞吐量。
在实验阶段,DeepSeek-OCR 2主要在OmniDocBench v1.5上举行评估,包括1355个页面,涵盖杂志、学术论文、研究报告等9大类文档。
并与Gemini-3 Pro、Qwen2.5-VL、InternVL3.5等先进模子及多种专业OCR计划举行比照 。
如开头所示,DeepSeek-OCR 2在OmniDocBench v1.5上抵达了91.09%的性能,相比基线提升了3.73%
阅读顺序(R-order)的编辑距离从0.085显著降至 0.057,证实晰 DeepEncoder V2 重新编排视觉信息的能力。
在相似的标记预算(1120)下,DeepSeek-OCR 2的文档剖析编辑距离(0.100)优于 Gemini-3 Pro(0.115)。
在现实生产中,在线用户日志的重复率从6.25%降至4.17%,PDF 生产数据重复率从 3.69% 降至 2.88%,证实晰模子逻辑视觉明确能力的提升。
整体来看,DeepSeek-OCR 2在坚持高压缩率的同时实现了显著的性能提升验证了使用语言模子架构作为视觉编码器的可行性,这为迈向统一的全模态编码器(omni-modal encoder)提供了路径。
One more thing
这篇论文的三位作者划分是:魏浩然,孙耀峰和李宇琨。
魏浩然曾就职于阶跃星辰,其时主导开发了意在实现“第二代OCR”的GOT-OCR2.0系统。
孙耀峰本科就读于北京大学,现于幻方AI从事大语言模子的相关研究,R1、V3中都有他的身影。
李宇琨,谷歌学术论文近万引研究员,也一连加入了包括DeepSeek V2/V3在内的多款模子研发。
最后,OCR 2延续了DeepSeek团队一直的开源精神。
项目已在GitHub开源,并同步上线HuggingFace,论文也一并释出。
GitHub:https://github.com/deepseek-ai/DeepSeek-OCR-2HuggingFace:https://huggingface.co/deepseek-ai/DeepSeek-OCR-2论文:https://github.com/deepseek-ai/DeepSeek-OCR-2/blob/main/DeepSeek_OCR2_paper.pdf
相关版本
多平台下载
审查所有0条谈论>网友谈论
人人干干导航
国产精品第37页
91po鈥唕n
看二级黄片
欧美大毛女爽又骚
免费毛片在线网站大全
色色色,com
毛片精品
黄色视频大片A
免费毛片A级在线直接看
免费无码不卡一级片
亚洲激情小说图片视频免费手机观看
大精鱼网页版1.0.2最新版本特色
9.1免费网站nba在线观看下载
男 女 摸 91
久久午夜片一级A片
美日韩一级aa无码
GV网站的推荐清单
18推特在线下载
欧美影片第一页
王霞的婬乱生活第二部