猫眼影戏
 |
|
猫眼影戏
吕冲
手机审查
猫眼影戏记者 黄艺 报道Q8X2R7L1T4J5M9B6W3
henry 发自 凹非寺量子位 | 公众号 QbitAI
刚刚 ，DeepSeek开源了全新的OCR模子——
DeepSeek-OCR 2 ，主打将PDF文档精准转换Markdown。
相较于去年10月20日宣布的初代模子 ，DeepSeek-OCR 2的焦点突破在于突破了古板模子死板的“光栅扫描”逻辑 ，实现了凭证图像语义动态重排视觉标记（Visual Tokens）
为此 ，DeepSeek-OCR 2弃用了前作中的CLIP组件 ，转而使用轻量化的语言模子（Qwen2-0.5B）构建DeepEncoder V2 ，在视觉编码阶段就引入了“因果推理”能力。
这一调解模拟了人类阅读文档时的因果视觉流 ，使LLM在举行内容解读之前 ，智能地重排视觉标记。
性能上 ，DeepSeek-OCR 2在仅接纳轻量模子的条件下 ，抵达了媲美Gemini-3 Pro的效果。
在OmniDocBench v1.5基准上 ，DeepSeek-OCR 2提升了3.73% ，并在视觉阅读逻辑方面取得了显著希望。
值得一提的是 ，这次最新论文的作者依然是：魏浩然 ，孙耀峰和李宇琨三人组。
接下来 ，我们一起来看。
焦点更新：DeepEncoder V2
DeepSeek-OCR 2延续了前代OCR模子的经典架构 ，由编码器息争码器协同事情。
编码器认真将图像离散化为视觉标记（Visual Tokens） ，解码器则连系这些标记与用户指令天生最终文本输出。
如论文所说 ，DeepSeek-OCR 2此次焦点的升级在于编码器——
DeepEncoder V2
古板的视觉编码器通常凭证牢靠的“光栅扫描”（从左到右、从上到下）顺序处置惩罚图像 ，这在面临重大版面（如双栏文档、狼籍的表格）时 ，往往会切断语义的逻辑连贯性。
而DeepEncoder V2这次的更新解决的正是这一问题。
将此前的CLIP组件替换为轻量化的LLM架构（Qwen2-0.5B） ，这一转变付与了编码器因果推理能力
信息进入主解码器之前 ，编码器就先对视觉标记举行“智能重排” ，使其更切合人类阅读逻辑。
为了实现这种智能重排 ，DeepEncoder V2引入了一种全新的双流注重力机制 ，其底层逻辑通过一个定制的注重力掩码（Attention Mask）来约束：
视觉标记（Visual Tokens）：对应掩码左侧的全1区域 ，接纳双向注重力 ，保存全局建模能力 ，确保每一个标记都能“看”到整幅图。因果流盘问（Causal Flow Queries）：对应掩码右边的三角区域（LowerTri）。这是附加在视觉标记后的可学习盘问向量。它们接纳因果注重力（即每个盘问只能关注之前的盘问及所有视觉标记）。
这种设计使得视觉标记之间互不滋扰（坚持原始特征） ，但每一个盘问标记却被强制要求只能“看到”它之前的标记以及所有的视觉标记。
相比古板的交织注重力结构 ，这确保视觉信息在所有层中都坚持“活跃” ，从而与因果盘问举行深度信息交流。
别的 ，这现实上还建设了两阶段级联推理 ，乐成弥合了2D空间结构与1D语言建模之间的鸿沟：
第一阶段（编码器）：通过盘问举行语义重排。第二阶段（解码器）：对有序序枚举行自回归推理。
换句话说 ，在V1中 ，图像进入LLM时 ，顺序是写死的。
而在V2中 ，通过盘问标记（Learnable Query）的重排 ，模子在进入主解码器之前 ，就已经在编码器内部完成了一次“逻辑理顺”
其他组件
先容完DeepEncoder V2的焦点升级后 ，我们来串一下DeepSeek-OCR 2的整体架构：
首先是一开头的视觉分词器（SAM） ，其沿用了此前的架构 ，接纳了80M参数的SAM-base架构 ，并连系两层卷积层。
输出维度以前代的1024优化缩减至896 ，以对齐后续管线 ，这套分词器的设置实现了16倍的标记压缩
这种基于压缩的设计 ，以极小的参数开销 ，极大地释放了后续全局注重力 ？榈呐趟阊沽 ，让模子运行更轻快。
别的 ，为了在处置惩罚差别区分率图像时“不丢细节” ，DeepSeek-OCR 2在编码阶段还引入了无邪的裁剪计划：
全局视图（Global View）： 在1024×1024区分率下 ，天生256个盘问标记。局部裁剪（Local Crops）： 针对768×768的细部 ，每个裁剪块对应144个盘问标记。
最终输入LLM的标记总数稳固在256到1120之间 ，与Gemini-1.5 Pro的视觉预算相匹配。
最后 ，在后端解码器部分 ，DeepSeek-OCR 2保存了3B参数的MoE结构（现实激活参数仅约 500M）。
训练流程与实验验证
在数据战略上 ，DeepSeek-OCR 2延续了与前代相同的数据源 ，OCR相关数据占比达80%。
其要害优化点有二：一是采样平衡化 ，将正文、公式与表格按3:1:1比例划分 ；
二是标签精简化 ，合并了如“图片说明”与“问题”等语义相似的结构标签。这种极小的底层差别 ，确保了其与基准测试之间具备高度的一致性与可比性。
在训练流程方面 ，DeepSeek-OCR 2接纳了三阶段的训练Pipelines：
编码器预训练：通过下一标记展望（Next Token Prediction）使命 ，使编码器掌握特征提取、压缩和重排序能力。盘问增强：冻结视觉分词器 ，联合优化LLM编码器息争码器 ，增强盘问体现。解码器微调：冻结编码器 ，仅优化解码器 ，从而在相同的算力（FLOPs）下实现更高的数据吞吐量。
在实验阶段 ，DeepSeek-OCR 2主要在OmniDocBench v1.5上举行评估 ，包括1355个页面 ，涵盖杂志、学术论文、研究报告等9大类文档。
并与Gemini-3 Pro、Qwen2.5-VL、InternVL3.5等先进模子及多种专业OCR计划举行比照 。
如开头所示 ，DeepSeek-OCR 2在OmniDocBench v1.5上抵达了91.09%的性能 ，相比基线提升了3.73%
阅读顺序（R-order）的编辑距离从0.085显著降至 0.057 ，证实晰 DeepEncoder V2 重新编排视觉信息的能力。
在相似的标记预算（1120）下 ，DeepSeek-OCR 2的文档剖析编辑距离（0.100）优于 Gemini-3 Pro（0.115）。
在现实生产中 ，在线用户日志的重复率从6.25%降至4.17% ，PDF 生产数据重复率从 3.69% 降至 2.88% ，证实晰模子逻辑视觉明确能力的提升。
整体来看 ，DeepSeek-OCR 2在坚持高压缩率的同时实现了显著的性能提升验证了使用语言模子架构作为视觉编码器的可行性 ，这为迈向统一的全模态编码器（omni-modal encoder）提供了路径。
One more thing
这篇论文的三位作者划分是：魏浩然 ，孙耀峰和李宇琨。
魏浩然曾就职于阶跃星辰 ，其时主导开发了意在实现“第二代OCR”的GOT-OCR2.0系统。
孙耀峰本科就读于北京大学 ，现于幻方AI从事大语言模子的相关研究 ，R1、V3中都有他的身影。
李宇琨 ，谷歌学术论文近万引研究员 ，也一连加入了包括DeepSeek V2/V3在内的多款模子研发。
最后 ，OCR 2延续了DeepSeek团队一直的开源精神。
项目已在GitHub开源 ，并同步上线HuggingFace ，论文也一并释出。
GitHub：https://github.com/deepseek-ai/DeepSeek-OCR-2HuggingFace：https://huggingface.co/deepseek-ai/DeepSeek-OCR-2论文：https://github.com/deepseek-ai/DeepSeek-OCR-2/blob/main/DeepSeek_OCR2_paper.pdf
??时势1：日韩uuu
??01月31日,2023年全国海关立案侦办走私等违法犯罪案件4959起,
“哇 ，小不点他乐成了 ，竟学来了青鳞鹰的本事 ，那可是一枚原始宝符啊 ，太强盛了。”不远处 ，一群孩子见到 ，其时就惊住了。
,降央卓玛B一般多少厘米。??01月31日,福建“断崖式”降温出现雨雪天气 电网“黑科技”力保“零停电”,
三是态度规则 ，学习认真。 本次镇村干部培训聚会学风较好 ，所有培训职员学习劲头足 ，加入起劲性高。各人都十分珍惜这次学习时机 ，在三天的学习中能够始终坚持热情 ，真正做到从干部到学员 ，从事情到学习的角色转变 ，学习态度规则 ，念头好。在学习中 ，同志们始终坚持理论联系现实的学风 ，着眼于对高铁新区和东沙河镇生长等现实问题的思索 ，细密联系自身事情现实和分担事情 ，受苦自学 ，深入思索 ，开展交流和头脑碰撞 ，体现出极高的学习起劲性和受苦精神。
,欧美性生活黄一区,欧美一级色视频,毛片视频免费一区二区三区。??时势2：97免费公开无码视频
??01月31日,国台办发言人陈斌华答记者问,
“吱吱吱……”金色的圆球奋力挣扎 ，瞪着一双很是大的眼睛 ，口中叫个一直。
,另类激情网,来自房东偷窥的爱在线播放,色淫视频。??01月31日,百所高校教师走进雄安 助推“雄安实践”融入思政课,
接下来的日子里 ，族长逐日讲道 ，教授孩子们 ，凭证差别的人举行差别的教育。
,日本男人操日本女人逼,亨利冢本家庭伦乱,午夜色影院。??时势3：91,18 套
??01月31日,（身边的变化）北大姑娘进村“上班” 浙江水乡古村重燃青春“窑火”,
“这些鼎似乎不凡啊 ，通常你们做什么用 ？”来自罗浮大泽的中年人蛟苍启齿问道。
,老窝鸭的最新地域网名,久久久久久精品免费免费Weⅰ,91九色精品国产。??01月31日,“彝族阿妈”讲述美食故事 宜宾统一战线创新民族政策宣讲模式,
靠人才致胜
,欧美一级做一级a做片性视频_,超碰在线91pry,浪小辉巨茎帅警GVFUCK。??时势4：91视频A√
??01月31日,斯巴达勇士儿童赛杭州站落幕 近五千名小勇士挑战自我,
?微粒贷逾期怎么申请二次分期 ？逾期一天影响信用不 ？,三十五级黄色网站,免费VA爱视频在线观看,国产av在欧在。??01月31日,国台办：“九二共识”是两岸对话协商的共同政治基础,
“洗劫之最！”
,国产伦精品一区二区三区娃女,中文在线不卡,影音先锋玖玖玖资源站男人。【福建罗源：鲍鱼分苗季 养殖户海上收获忙】
责编：贾方政
审核：米哈伊洛夫
责编：林兴禄
Copyright (C) 2001- dzwww.com. All Rights Reserved
新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证
山东省互联网传媒集团主理 联系电话：0531-85193202 违法不良信息举报电话：0531-85196540
Copyright (C) 2001- Dzwww 鲁ICP备09023866号-1
