小静秋·中国,让你的娱乐方式焕然一新,体验全新的互动快感

k1体育麻将胡了

搜索 猫眼影戏 融媒体矩阵
  • 山东手机报

  • 猫眼影戏

  • 公共网官方微信

  • 公共网官方微博

  • 抖音

  • 人民号

  • 天下党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

AAAI 2026 Oral|InfiGUI-G1模子来了 ,刷新GUI Grounding SOTA

2026-01-12 12:21:24
泉源:

猫眼影戏

作者:

谷守训

手机审查

  猫眼影戏记者 葛剑雄 报道Q8X2R7L1T4J5M9B6W3

随着多模态大语言模子(MLLM)的飞速生长 ,能够像人类一样通过视觉输入操作图形用户界面(GUI)的智能体(Agent)正逐渐成为现实 。然而 ,在通往通用盘算机控制的蹊径上 ,怎样让模子精准地将自然语言指令对应到屏幕上的详细元素 —— 即 GUI Grounding 使命 ,依然是一浩劫题 。

现有的要领 ,特殊是基于验证奖励的强化学习(RLVR) ,虽然在提升 “指得准”(空间对齐)方面体现精彩 ,却往往在 “指得对”(语义对齐)上遭遇瓶颈 。模子经常陷入 “自信陷阱” ,在重大的语义场景下无法通过有用探索找到准确的功效图标 。

针对这一痛点 ,来自浙江大学、香港理工大学及 InfiX.ai 的研究团队提出了一种全新的自顺应探索战略优化框架(AEPO) ,并推出了InfiGUI-G1系列模子 。该模子通过多谜底天生与自顺应奖励机制 ,彻底突破了古板 RLVR 的探索瓶颈 。仅凭 3B 和 7B 的参数目 ,InfiGUI-G1 便在多个高难度 GUI 基准测试中刷新了 SOTA ,部分指标甚至大幅逾越了闭源模子 。

本文将深入先容这项被 AAAI 2026 吸收为 Oral 的事情 ,解读其怎样通过 “学会探索” 来实现更精准的 GUI 语义明确 。

论文问题:InfiGUI-G1: Advancing GUI Grounding with Adaptive Exploration Policy Optimization论文链接:https://arxiv.org/abs/2508.05731代码链接:https://github.com/InfiXAI/InfiGUI-G1

从 “空间对齐” 到 “语义对齐”:被忽视的探索瓶颈

GUI Grounding 使命的焦点是将自然语言指令(如 “翻开相机”)映射到屏幕上的特定元素坐标 。研究团队指出 ,这一使命可以解构为两个正交的维度:

1. 空间对齐(Spatial Alignment):能否准确地定位到元素(即 “指得准”) 。

2. 语义对齐(Semantic Alignment):能否识别出功效准确的元素(即 “指得对”) 。

现有的 RLVR 要领(如 Naive RLVR)虽然能通过优化坐标天生来提升定位精度 ,但在面临语义模糊或重大的指令时却显得力有未逮 。

例如 ,当指令是 “使用相机搜索物体” 时 ,屏幕上可能同时保存通俗的 “相机应用” 和具有视觉搜索功效的 “Google Lens” 。缺乏深度语义明确的模子往往会自信地死磕 “相机应用” 图标 。由于古板 RL 依赖目今战略采样 ,模子会一直重复这个高置信度的过失 ,陷入“自信陷阱”(Confidence Trap) ,从而无法发明真正准确的 “Google Lens” 图标 ,导致无法获得修正语义误解所需的学习信号 。

GUI Grounding 的主要失败模式: (a) 空间对齐失败 ,(b) 语义对齐失败

InfiGUI-G1:自顺应探索战略优化(AEPO)

为相识决这一探索效率低下的问题 ,InfiGUI-G1 引入了AEPO(Adaptive Exploration Policy Optimization)框架 。与古板的单次回覆天生差别 ,AEPO 旨在通过更普遍且高效的探索来捕获低概率但准确的选项 。

AEPO 框架由三个协同事情的焦点组件组成:

1.多谜底天生气制(Multi-Answer Generation)古板的 RL 要领通常只采样一个行动 ,一旦模子 “顽强己见” 地选错 ,梯度的学习信号就会消逝 。AEPO 强制模子在一次前向转达中天生 N 个候选坐标点 。这一机制迫使模子跳出简单的高置信度展望 ,去探索战略漫衍长尾中的可能性 ,从而大幅增添了发明准确谜底(如上述例子中的 Google Lens)的概率 。

2.自顺应探索奖励(Adaptive Exploration Reward, AER)仅仅天生多个谜底是不敷的 ,怎样评价这些谜底的质量至关主要 。研究团队基于效率第一性原理(效率 = 效用 / 本钱)设计了 AER 函数 。

动态激励:若是模子在靠前的排名(Rank k)就找到了准确谜底 ,给予高额奖励 ;若是失败 ,则给予较小的处分以勉励继续探索 。这种非线性的奖励设计在失败时勉励模子 “广撒网” ,在乐成时指导模子追求 “快准狠” ,实现了探索与使用的动态平衡 。

3.共线处分(Collinear Penalty)为了避免模子通过天生近似直线的点来 “作弊”(简朴的线性扫描战略) ,研究引入了共线处分 。若是天生的多个候选点在几何上近似共线 ,将被视为低质量探索并受到严肃处分 。这强制模子在语义空间而非纯粹的几何空间中举行多样化探索 。

AEPO 与 Naive 强化学习基准要领的比照

实验效果:小参数目实现性能越级

研究团队在 MMBench-GUI、ScreenSpot-Pro、UI-Vision 等五个极具挑战性的基准上对 InfiGUI-G1(3B 和 7B 版本)举行了周全评估 。

1.综合性能周全领先:在 MMBench-GUI 基准测试中 ,InfiGUI-G1-7B 在 Windows、iOS、Android 等多个平台上的体现均刷新了开源模子的最佳效果 。值得注重的是 ,InfiGUI-G1-7B 在部分指标上甚至优于参数目大得多的 Qwen2.5-VL-72B 和闭源模子 GPT-4o 。

2.攻克高难度语义明确使命ScreenSpot-Pro 基准专门区分了文本类(Text)和图标类(Icon)使命 。效果显示 ,InfiGUI-G1 在更依赖语义明确的 “图标” 使命上提升尤为显着 。这直接证实晰 AEPO 战略有用解决了语义对齐的瓶颈 ,让模子真正 “看懂” 了笼统图标背后的功效寄义 ,而不但仅是举行简朴的文本匹配 。

3.让 “不可学习” 变得 “可学习”为了验证 AEPO 是否真的解决了探索难题 ,研究团队将样本按难度分为简朴、中等和难题 。实验发明 ,InfiGUI-G1 在 “难题” 样本(即基座模子险些无法答对的样本)上的提升最为重大 ,相对 Naive RLVR 基线提升了凌驾60% 。这意味着 AEPO 乐成挖掘出了那些以往因缺乏探索而被模子 “放弃” 的长尾知识 。

ScreenSpot-Pro 基准测试的性能比照

总结与展望

InfiGUI-G1 的乐成批注 ,GUI 智能体的性能瓶颈不但仅在于视觉识别能力 ,更在于怎样通过有用的强化学习战略来解决语义对齐问题 。通过引入自顺应探索机制 ,InfiGUI-G1 以极高的数据效率和较小的模子规模 ,实现了逾越大模子的 GUI Grounding 能力 。这项事情为未来开发更通用、更智能的 GUI 交相助手提供了坚实的手艺基础 。

现在 ,InfiGUI-G1 的代码、模子权重及相关资源已在 GitHub 开源 ,接待社区进一步研究与使用 。

??时势1:欧美三A操逼黄片视频

??01月12日,优势产业背后的“特色密码”——塔城地区农业高质量发展新路径观察,

  宛如一头猛犀撞在了山岩上 ,霹雳作响 ,令地面飞沙走石 ,烟尘冲天 。

,av 免费在线 。

??01月12日,水利部针对晋陕宁3省区启动洪水防御Ⅳ级应急响应,

  日落时 ,他们才回来 ,旅程遥远 ,青鳞鹰飞了一天 ,即便为远古魔禽的后裔 ,也有些疲累了 。

,亚洲图色色色色色色色色色,R星每日大赛反差大赛,一级电影大全 。

??时势2:国产精品嫩草影院

??01月12日,这里的文化消费热辣滚烫,

  王侯府邸 ,氤氲光雾流转 ,珍禽在宫阙上空长鸣 ,划出一道道炫目的色泽 。府中湖泊澄净 ,水系四通 ,石山坐落 ,佳木苍翠 ,园林浩荡成片 ,景致漂亮 。这是一处洞天福地 ,神精四溢 。

,理论免费看大片A,男女免费 插 视频播放,79av视频在线观看 。

??01月12日,水利部针对晋陕甘宁四省区启动洪水防御Ⅳ级应急响应,

  石毅不语言 ,站在原地 ,眸中神光隐现 。

,深夜免费在线观看网址,99riav入口,花火乳液狂飙 。

??时势3:欧美精品九九

??01月12日,吉林市冰雪经济逐步升温,

  各人好:同砚们 ,学业水平考试离我们越来越近了 ,学考决战的军号就要吹响了 。我们全体先生与同砚们的心一起跳动 。再此 ,我作为先生代表 ,想和同砚们谈几个问题 。 第一 要树立信心 ,信心助你乐成

,av男人天堂aⅴ手机版,视频色影库,看毛片.com在线观看 。

??01月12日,外贸企业持续享惠 北京海关累计签发RCEP原产地证书近万份,

  “那里走!”老人再次弯弓 ,又一支神箭发出 ,划出一道恐怖的轨迹 ,光束通天 ,没入云层中 ,噗的一声血雨飞溅 ,鸾鸟坠地 。

,国产国语视频诱惑,国产精品1314在线永久免费观,玖玖玖在线精品免费视频1区 。

??时势4:www 毛Avcom

??01月12日,福建宁德举办文旅招商推介会 签约17个项目总投资逾16亿元,

  第三 ,要实验“充电工程” 。以增本领、长知识为基础目的 ,一是学文化 ,起劲加入学历教育 ,有 妄想的提高自身素质 。近三年内 ,市、区两级党校每年都针对村干部开办学历教育大专班 。二是学规则 ,深入系统的学习政策、执法 ,提高依法效劳、依法行政的能力 。严酷照章效劳 ,提高民主意识 ,凭证民主的程序决议、决议村内主要事项 ,让宽大村民普遍加入 ,不搞专断专行 。三是学经济 ,指导提高驾驭市场的能力 。要起劲增强市场经济、WTO、经济治理、科技、 网络信息手艺等知识的学习 ,可以接纳“请进来”讲学的方法 ,即一个村会同周边的几个村 ,约请区委党校、区经济部分甚至是更高条理的专家学者为村班子成员授课 ,教学招商引资政策、签约注册等专门知识 。四是学要领 ,组织到先进蓬勃地区旅行考察 ,“走出去”修业 。在实践中掌握科学的事情要领和富厚的事情 履历 。不但使和村民代表开拓了视野 ,增添了见识 ,学习到了生长履历 ,还凝聚了人心 ,鼓舞了士气 ,有利于村屯建设和经济的进一步生长 。

,www.4773c.cn进入免费网站,国产黄片1级A片,高中男男Gay互吃鳮视频 。

??01月12日,冀鲁豫皖苏等地雾气弥漫 弱冷空气将影响北方地区,

  为了中华民族的伟大再起 ,不吝抛头颅 ,洒热血 ,赴汤蹈火 ,舍身取义 ,矢志不渝 ,用他们名贵的青春和热血 ,谱写了可歌可泣的壮丽诗篇 ,为中华民族的自力息争放事业立下了不朽的功勋 。英烈们虽打下了山河 ,但他们的事业还没有完成 。我们的`祖国还需要进一步的强盛和昌盛 。为了圆民族的强盛梦 ,我们每个炎黄子孙责无旁贷地担负起建设兴旺祖国的历史重任 。

,国产va免费精品观看精品视频,97视频免费在线观看,张若楠被c 。

责编:徐成松

审核:迈克·莫雷尔

责编:皮旻旻

相关推荐 换一换

Copyright (C) 2001-   dzwww.com. All Rights Reserved

新闻信息效劳允许证 - 音像制品出书允许证 - 广播电视节目制作谋划允许证 - 网络视听允许证 - 网络文化谋划允许证

山东省互联网传媒集团主理  联系电话:0531-85193202  违法不良信息举报电话:0531-85196540

鲁ICP备09023866号-1   鲁公网安备 37010202000111号  

Copyright (C) 2001- Dzwww   鲁ICP备09023866号-1

网站地图