ARC Prize 公布 Gemini 4 Argon 完整评测:ARC-AGI-3 97.5%、ARC-AGI-2 91.3%
ARC Prize公布Gemini 4 Argon评测:ARC-AGI-3得97.5%(成本4.8K美元)、ARC-AGI-2得91.3%、ARC-AGI-1得98.5%。
AI 深度解读
ARC Prize 公布 Gemini 4 Argon 在 ARC-AGI 评测中的成绩,其中 ARC-AGI-3 的两种 harness 得分分别为 97.5% 和 49.8%;其关注价值在于,结果显示评测适配方式本身可能显著影响智能体基准成绩与成本解读。
- 公布信息同时列出 ARC-AGI-2 得分 91.3%、每任务成本 0.32 美元,以及 ARC-AGI-1 得分 98.5%、每任务成本 0.16 美元。
- ARC 官方将 ARC-AGI-3 定义为交互式推理基准,强调环境探索、目标获取、长期规划和基于经验的适应,而非静态问答。
- ARC-AGI-3 页面说明 100% 代表智能体以人类效率完成全部游戏,因此分数不能直接等同于通用能力或现实任务成功率。
- 两种 harness 的差异也提示,评测接口、工具权限和运行流程需要与分数一起披露。
- 影响/看点:高分可能推动智能体评测更重视交互过程与成本;但跨模型比较必须统一 harness、工具权限、任务集和费用口径,否则结论容易被测试配置放大。
- 资料依据:
- ARC Prize(2026-10-15):https://x.com/arcprize/status/2110768288523251762
- ARC Prize《ARC-AGI-3》(2026-10-15):https://arcprize.org/arc-agi/3
本内容由 AI 生成,仅供参考,请注意甄别