185福利群美媚,一款汇聚潮流与创新的应用,带你领略科技与生活的完美融合

k1体育麻将胡了

搜索 猫眼影戏 融媒体矩阵
  • 山东手机报

  • 猫眼影戏

  • 公共网官方微信

  • 公共网官方微博

  • 抖音

  • 人民号

  • 天下党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

xbench宣布AgentIF-OneDay评测:Agent能否自力干完“一天的活”?

2026-01-22 08:12:25
泉源:

猫眼影戏

作者:

倪藻

手机审查

  猫眼影戏记者 王亚蔺 报道Q8X2R7L1T4J5M9B6W3

随着大模子在单点推理上日益迫近PhD水平 ,Agent领域迎来了新的分水岭:短程使命体现惊艳 ,长程使命却显乏力。为精准评估大模子的多模态明确与重大问题解决能力 ,红杉中国在两周内一连宣布两篇论文 ,旨在通过构建更科学的评估基准 ,预判手艺演进的未来偏向。

xbench正式推出AgentIF-OneDay评测系统 ,不再纯粹审核模子知道几多知识 ,而是权衡它解决重大使命的能力。AgentIF-OneDay深入探索了从OneHour到OneDay的能力跨越 ,展现了主流Agent在事情流执行、隐式推断与迭代编辑中的真实体现。让我们配合见证 ,Agent 是怎样通过Scaling Context与Scaling Domain ,从纯粹的“提问助手”进化为真正创立经济价值的“数字员工”。

Agent能否协助你一天的生涯?

自从红杉中国xbench宣布ScienceQA与DeepSearch以来 ,这两个评测集已经履历了多次迭代升级。无论是模子自己 ,照旧围绕模子构建的Agent系统 ,都已经在这些以分钟级为单位的集中推理使命上能够稳固胜任 ,从最初的human-average水平 ,逐渐抵达靠近PhD-level的体现。

随着我们进一步进入Agent能力评测的领域 ,我们发明Agent完成短时使命与长时使命之间保存重大的能力鸿沟。即便在单点推理和局部使命中已抵达极高水平 ,一旦使命在突破一样平常人一小时可处置惩罚的重漂后 ,Agent的整体完成度就会泛起显着下降。

从xbench所坚持的理念出发 ,更好的评估模子和智能体在现实事情和生涯中的价值。我们希望通过评测系统来视察行业手艺蹊径的演进 ,展望模子能力的上限 ,同时也希望给业界增补一个面向utility和economic value的思索视角。我们提出一个新的视角来明确Agent的能力界线:使命重漂后 ,使命重漂后并不等同于知识点有多深奥或推理难度 ,而是完成一个使命所需的人类时间投入 ,并由此对应其潜在的经济与使用价值。

我们以为Agent能力的演进会沿着两条主线睁开:scaling context与scaling domain。这两条轴线配合决议了Agent能够肩负的使命重漂后上限 ,也是Agent系统从工具走向数字员工的生长偏向。

?Scaling context指的是完成的使命在时间维度上的延展。随着使命重漂后的提升 ,Agent需要在更长的执行周期中一连维护上下文状态 ,跟踪中心目的与约束 ,并在多办法、多工具的交互历程中坚持一致性。从分钟级使命 ,到一天级、以致一周级的事情量。

?Scaling domain则指Agent在使命类型上扩展带来的重漂后。与高度结构化、domain集中的使命(如coding或数学推理)差别 ,现实天下中的事情往往横跨多个领域与语境 ,差别使命在目的表述、隐含约束、工具使用方法与评估标准上差别显著。Agent能力的进一步提升 ,陪同着对更广的使命漫衍的笼罩能力。

xbench在设计AgentIF评测系统时 ,会同时沿着context与domain两个偏向推进。一方面 ,通过逐步拉长使命对应的人类时间标准 ,从OneHour走向OneDay;另一方面 ,通过笼罩越发多样的生涯、学习与职业场景 ,描绘Agent 在真实天下使命漫衍中的整体能力界线。

本次宣布的AgentIF-OneDay是xbench在该评测系列中的一个新事情。我们以人类一天内可完成的使命重漂后作为基准 ,测试一个Agent是否具备在无需人类介入的情形下 ,稳固完成整套使命并交付效果的能力。只管笼罩更diverse的domain ,包括生涯、学习和职业场景会遇到的多种多样的使命以及多种工具。

怎样结构一天的典范使命?

在对大宗用户真实事情日志举行剖析后 ,我们发明只管详细使命内容差别重大 ,但一样平常事情在类型上泛起出高度稳固的模式。大大都通俗人的一天可以凭证使用场景被笼统为三个使命类型——事情流执行、规范参考以及迭代式编辑。

场景一

当你知道该怎么做 ,但执行太繁琐

用户已知完整流程并明确给出操作办法 ,Agent只需准确执行。我们称此类使命为事情流执行(Workflow Execution)。

例题

我妄想去NeurIPS 2025 ,帮我计齐整个好的行程计划。请你先去官网确认NeurIPS 2025聚会的主会场位置(San Diego Convention Center, San Diego)是否准确 ,然后用另一个可靠泉源交织验证这个信息 ,确保万无一失。接下来 ,帮我网络基本信息 ,好比聚会时间、所在和论文提交阻止日期;挂啡贤暾木刍崛粘淌欠褚丫肌羰腔姑恍 ,请明确告诉我。最后 ,从纽约出发给我两套去圣地亚哥的行程计划:一个最自制的Cheap Plan ,一个最快的Fast Plan。

当Agent能够在整个流程中坚持一致性、逐步完成办法、并在长上下文中坚持状态 ,就意味着它具备帮我把事情做完的潜力。这也是大宗用户希望Agent能真正替换重复性劳动的缘故原由——当流程执行能力成熟时 ,Agent就能自然肩负原本需要人工耐心完成的碎片化使命。

场景二

当你不知道规则 ,只能给个参考

用户不明确知道完整的事情流或者条件约束 ,只提供若干案例或参考资料。我们将此界说为规范参考(Latent Instruction Inference)。

例题

我现在用的是iPhone13 Pro Max ,AT&T套餐每月20美元预付费。我想换iPhone17 Pro Max;诟郊锏墓夯苹驮擞逃呕 ,帮我找出总本钱最低的方法。

规范参考是人类最自然的事情方法 ,人们不会每次都从零写起 ,而是需要Agent从提供的示例文件中挖掘出潜在的意图 ,并交付同时知足用户的显示指令与附件的隐式指令;Agent若是具备这种能力 ,就能真正加入内容生产、报告天生、数据整理等职业型使命 ,而不是停留在浅层回覆问题的阶段。

场景三

当需求自己是动态的 ,要边做边看

人类的事情普遍泛起多轮迭代结构 ,在事情的最先并不知道完整解法、也没有参考示例 ,需要在与Agent多轮交互中逐渐提出新需求。Agent也必需具备在一直转变的约束下维持上下文一致性并稳固推进使命的能力。这类使命称为迭代式编辑(Iterative Refinement)。

例题

拿着这个SVG平面图(venue_layout.svg)和Excel约束表(venue_constraints.xlsx) ,更新会场结构以知足所有约束条件 ,同时坚持设计的可读性和可行走性。

我们在已往3个月凭证这三个类型 ,制备了AgentIF第一期的题库 ,总共由104道使命组成 ,笼罩了事情、生涯(例如游戏攻略、旅游妄想)和学习。其中62道由文件驱动的合成使命用于增补长尾场景 ,笼罩PDF、PPT、Excel、图像、代码文件在内的15种以上名堂。实质上模拟了真实事情流程中极常见的跨名堂、跨泉源的模式。

每道使命都带有一套细粒度的评判标准 ,总计767个评分点 ,分为正向指标(如名堂一致性、结构复现、办法完整)与负向指标(如误删内容、越界天生、过失操作)。评测系统接纳LLM作为裁判(值得一提的是Gemini 3-pro的泛起让rubrics打分的准确性也提升到可用的水平) ,并连系网页检索、HTML渲染、多模态比对等要领做自动校验。在这套机制下 ,agent系统的得分不但取决于它最终是否完成使命 ,还包括流程是否清洁、是否泛起误操作、是否准确剖析附件、是否能在迭代历程中坚持一致性。

主流Agent的评测效果和启发

在AgentIF的测评框架下 ,我们对现有主流Agent系统举行了系统化测试 ,也有了一些有趣的发明:

发明一:以Overall的完整使命乐成率为标准 ,Manus、Genspark与ChatGPT-Agent都集中在0.62–0.65区间 ,组成当下能力最强的第一梯队。

这意味着和我们想象的有所差别 ,岂论Agent系统是通过模子原生甚至RL训练出来的模子 ,照旧基于API的工具链集成或深度的multi-Agent系统 ,在完成一套真实使命链时 ,用户侧感受到的能力是较量相近的。

这一征象在一定水平上印证了模子即Agent的判断——在底层模子能力不爆发转变、且不引入test-time scaling的条件下 ,差别多智能体框架自己难以拉开数目级上的性能差别;W踊嶂鸩郊蒩gentic能力 ,下游基于api的Agent产品 ,在能力体现上也会体现出agent rl的能力。

虽然这些agent系统能力很是靠近 ,但在使命领域上与能力维度保存显着差别。

发明二:从使命领域上 ,使命领域上从ChatGPT是最优生产力工具 ,Manus是最佳生涯助手 ,Genspark是最勤学习同伴。

三个产品具有差别迭代偏向 ,ChatGPT-Agent重点关注GDPval ,聚焦专业事情场景的体验;相对来说Manus与Genspark更着重用户反响。差别的评测体现带来了差别的产品长项与短板。我们以为优异的通用Agent应当兼顾最多样的使命 ,而不着重一方。

发明三:在能力维度上 ,GenSpark在隐式指令推断上体现最优 ,Manus在开放事情流执行最优 ,Minimax-Agent具有最好的迭代式编辑能力。

能力维度的体现纷歧或泉源于Agent框架的差别。隐式条件推断是现在Agent普遍最薄弱的能力项。一些使命要求Agent从附件中自动识又名堂规则 ,例如从PPT 模板中抽取页眉页脚结构或引用标注方法 ,再迁徙到新的内容天生中。我们视察到 ,即即是整体体现最好的系统 ,在这类使命中也很难做到完全准确。要么名堂复现准确但笼罩缺乏 ,要么内容明确到位但无法坚持结构一致。

综合来看 ,稳固性、文件处置惩罚链路、隐式结构明确能力 ,以致跨工具的状态治理 ,都是决议Agent能否真正肩负一天事情量的要害环节。AgentIF-OneDay通过这类使命 ,展现了目今Agent在真实使用场景中的能力界线和一些常见的失效模式 ,也资助我们更清晰地看到下一阶段能力演进的偏向。

展望:从oneday、oneweek到一连学习

随着系统能力一直提升 ,我们预计在2026年Agent将最先挑战one-week的人类事情量。围绕one-week的人类事情量 ,我们已经最先着手构建OneWeek的评测集。我们以为当一个Agent能够在一周标准的事情量上坚持稳固高质量的产出 ,它就具备了肩负真实岗位的能力 ,也能够在组织内最先创立更多现实价值。

与AgentIF-OneDay相比 ,OneWeekIF面临的挑战并不但是使命变得更长。随着时间跨度增添 ,评测自己的出题难度也增添许多 ,rubric的设计会越发严酷。一周标准的使命往往最先泛起出明确的行业语境 ,无论是金融、医疗照旧执法 ,这些高价值场景数据的获取本钱也会显著上升。

当使命重漂后生长到这一阶段 ,依赖静态数据集和离线构建的训练与评测方法 ,最先显露出难以回避的局限性。也正是在这里 ,一个偏向变得越来越自然:让 Agent在现实运行历程中具备自动学习的能力——能够在真实或半真真相形中自主网络履历 ,对自身行为举行评估与修正 ,并通过恒久交互逐步形成稳固战略。

从更恒久的手艺演进来看 ,静态训练与静态评测可能都不是未来Agent系统的生长路径。近期关于online learning的讨论越来越多 ,更多researcher倾向于以为 ,若是模子只在既有的人类知识漫衍内循环 ,就无法突破到更高层级的智能 ,下一步的能力scaling不是训练完成的那一刻 ,很可能爆发在模子被安排之后 ,通过一直的real world RL来获取practical的知识 ,一连学习、一连顺应。

用户数据飞轮带来高可靠Agent的泛起

一个赢得用户信任的Agent助理需要交付可靠效果 ,在长程使命中 ,过失累计效应会呈指数级放大。我们将长程使命Agent的生长类比自动驾驶的生长历程 ,同样是从有限路段走向通用路段 ,从依赖频仍人工干预走向长时无干预FSD。该历程的实现依赖于大宗用户驾驶数据的积累 ,用户数据可以最大化拓展场景的富厚度 ,并给系统带来最好的泛化性。在长时使命的Agents中 ,我们同样可以推演 ,有用的数据累计可以带来高可靠Agent系统的泛起 ,优先转起数据飞轮的公司将率先实现通用Agent的FSD时刻。

开源链接:

Paper Link:

https://github.com/xbench-ai/AgentIF-OneDay/blob/main/paper/AgentIF_OneDay_0117.pdf

website:

https://xbench.org/

github:

https://github.com/xbench-ai/AgentIF-OneDay

huggingface:

https://huggingface.co/datasets/xbench/AgentIF-OneDay

点个“爱心” ,再走 吧

??时势1:国产一级性交黄色片网站Avw

??01月22日,美国加州北部海域发生7.0级地震,

  这种原始的宝骨生出的纹络 ,专属于这一种族 ,越是强盛的远古遗种越是不允许此符文外传 ,不然必定尽全力追杀;购 ,这三只幼鸟特殊 ,是被村人养着的。此原始符文极其稀珍 ,远胜人类研究的一样平常骨文 ,为不传之秘 ,可称之为宝符。

,黄毛片在线观看网战。

??01月22日,李家超:已与深圳市达成春节期间“通关”特别安排,  军事专家张军社10日接受《环球时报》记者采访时体现 ,事发东海是中国的家门口 ,“中国军队派出舰机举行跟踪、监视是正当的 ,完全切合国际法和国际实践。”,性别隐凸轮和隐凸轮的区别,www成人 色情美女内内,又黄又大又粗又刺激的免费视频。

??时势2:欧美动态

??01月22日,“五一”期间电影市场持续红火 释放文化消费热力,

  山脉中 ,种种走兽咆哮 ,猛禽长鸣 ,一片喧嚣。

,97人人模人人爽日日,雁门照1400的照片在哪里可以看,中国妇女洗澡毛耷耷原因。

??01月22日,“日落以后”主题时尚大秀在深圳上演,

  “雄关漫道真如铁 ,现在迈步重新越”;ǹ募窘谡婷 ,青春的年华真好。青春是飘扬的旗 ,是起航的船 ,是绽放的花。虽然青春的花只开一季 ,只管青春的也花会干枯 ,旅途中也会雨雪纷飞 ,但你们肯定会斗争而永一直歇 ,拼搏而永不言退。同砚们 ,新学期的军号已经吹响 ,新的征程最先启程。以后的一千多个日夜里 ,永中就是你们的家。在这里 ,希望与难题同在 ,机缘与挑战并存 ,酣战与友谊共有。但可以肯定的是 ,你们每一天都会有前进 ,永中也会因你们的前进而一直生长?梢约嵝诺氖 ,三年的生涯 ,会有杀场酣战的强烈 ,也会有诗意挥洒的浪漫 ,会有失意时的疑心 ,更会有战胜自我的快乐;三年的耕作 ,你们的智慧才智 ,一定会获得最充分的展示;三年的斗争 ,你们一定会攀到更高的山峰 ,明确到最美的景物;三年的磨砺 ,你们将逐渐成才 ,青春的活力将会焕发出越发蓬勃的生气。

,亚洲性爱视频9999,黄色偷情视频,又大又黄又硬又爽色色老师被操视频免费。

??时势3:国内精品久久久久久久999

??01月22日,【央视快评】加快发展新质生产力 扎实推进高质量发展,

  第一、在学风、班风、校风建设中施展模范带举措用。 第二、要在各项活动中施展组织向导作用。

,啊啊啊疼轻点视频,狂野欧美激情性XXXX,胡桃脱下裤子露双乳。

??01月22日,台湾7月CPI同比增2.52% 估8月蔬果价格续上涨,

  我场在局党委的顽强支持和向导下 ,以局党委为中心 ,认真贯彻局党委事情安排 ,驻足我场现实 ,坚持以人为本 ,鼎力大举弘扬求真务实的精神。深入贯彻落实党的精神和局林业事情聚会精神 ,以系列讲话精神为偏向 ,以党的先进性和贞洁性建设为主线 ,以刷新事情作风、纪律作风教育为重点 ,大兴学习之风 ,依赖学习和实践 ,切实增强头脑、组织、作风、制度和反腐倡廉建设 ,全力打造学习型、立异型的支部班子 ,实现资源;ず谩⒉蕉咏ㄉ韬谩⒚裆纳坪玫哪康。要求必需坚持周三一样平常的政治理论学习 ,记好条记。各项阶段性的事情干部都要有。通过学习指导全体、干部职工在头脑进一步获得相识放 ,有力的推动了各项事情的开展?辜吐勺鞣缃逃砘疃 ,解决干部职工上班时间缺勤脱岗、效劳拖沓、事情不实、履职不力等慵懒散问题。我场遵照一样平常事情对此项事情举行安排安排 ,明确此项活动的主要性 ,教育指导职工要领先进 ,争做模范 ,确保此项活动恒久康健的开展。

,刺激的黄色视频,黑人又大又粗又长又深受不了,欧美最婬乱99。

??时势4:欧美精品 亚洲偷

??01月22日,从历史中“走出来”在光影中“活起来” 科技赋能探寻中华文明密码,

  小不点行动麻利 ,将一张兽皮铺睁开 ,把一堆晶莹透亮的玉罐裹住 ,迅速背在死后 ,快到人眼花缭乱。

,欧美黑大屌视频,国产aw无码片毛片一级,亚洲免费人爱视频。

??01月22日,联合国:近东救济工程处9名雇员“可能参与了”对以色列的袭击,

  工会事情围绕制度建设 ,开展了富厚多彩的文化娱乐活动 ,开展职工手艺培训和岗位培训 ,参训职员达多人次F鹁⒖估投喝 ,双增双节活动 ,创立和节约价值万元 ,合理化建议创立价值万元。妄想生育事情取得新效果 ,被市计生委评为先进单位。认真做好老干部事情 ,通过征求意见、座谈等形式充分验展老干部为建设事业出谋划策的作用 ,被市老干局评为先进单位。社会治安综合治理事情围绕建设“平安乌海”活动 ,起劲开展各项事情 ,真正起到保一方平安的政治责任 ,顺遂通过市区综治委的审核验收。

,四肢被绑住憋尿捂住肚子,火焰刀美化5.0美化包,哈尔滨60岁丰满熟女高潮露脸。

责编:阿哈吉

审核:张兴松

责编:左营

相关推荐 换一换

Copyright (C) 2001-   dzwww.com. All Rights Reserved

新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证

山东省互联网传媒集团主理  联系电话:0531-85193202  违法不良信息举报电话:0531-85196540

鲁ICP备09023866号-1   鲁公网安备 37010202000111号  

Copyright (C) 2001- Dzwww   鲁ICP备09023866号-1

网站地图