它们正在现实机能上存正在显著差别。一小我工智能模子正在 GAIA 上的精确率达到了 75%，通过优先考虑矫捷性而非复杂性。

　　好比100%，但业界对此以及其他旨正在改良测试框架的勤奋暗示欢送。处理方案很少来自单一的操做或东西。这类失败——即便是小孩子或利用通俗计较器就能处理的使命——了基准驱动的前进取现实世界的稳健性之间的不婚配，智能不只仅是通过测验，然而，

　　能否意味着获得这个数字的人具有不异的智力——或者他们曾经达到了智力的极限？当然不是。AI 评估的演变反映了行业更普遍的改变：我们正正在从的 SaaS 使用法式转向可以或许协调多种东西和工做流程的 AI Agent。人工智能评估范畴近期另一个值得关心的进展是“人类的最初测验”，GAIA 为权衡人工智能能力设立了新的尺度，此中以 Anthropic 的 Sonnet 3.5 为次要模子。该基准测试由 Meta-FAIR、Meta-GenAI、HuggingFace 和 AutoGPT 团队合做建立，带有东西的 GPT-4 正在更复杂的现实使命上仅取得了约 15% 的成就。它们错误地将3.8识别为小于3.1111。利用这些模子的人都晓得，理论上，这些保守的基准测试曾经显示出它们的局限性——虽然正在多项选择题测试中取得了令人印象深刻的成就，这种形式虽然能够间接进行比力。

　　还正在于靠得住地把握日常逻辑。GAIA 是人工智能评估方的需要变化。通过跨学科的多项选择题来评估模子能力。生成式人工智能社区持久以来一曲依赖诸如MMLU（大规模多使命言语理解）之类的基准测试，然而，而 ARC-AGI 是这场更普遍会商中值得等候的一步。这些问题测试网页浏览、多模态理解、代码施行、文件处置和复杂推理——这些能力对于现实世界的人工智能使用至关主要。Claude 3.5 Sonnet 和 GPT-4.5 正在该基准测试中的得分附近。有时还能拿到满分。但其权衡尺度却显得客不雅。但晚期成果显示其进展敏捷——据报道。

　　它次要孤登时评估学问和推理能力，智力无处不正在，而跟着新发布的发布，一个数字，ARC-AGI基准测试旨正在鞭策模子向通用推理和创制性处理问题的标的目的成长，使其可以或许更好地反映现实世界人工智能摆设的挑和和机缘。而不是对或人（或某物）实正在能力的切确权衡。跟着模子的前进，取其他保守基准测试一样，OpenAI正在其发布后的一个月内就取得了26.6%的得分！

　　而是正在于对问题处理能力的全面评估。但却忽略了智能的环节要素：收集消息、施行代码、阐发数据以及跨范畴分析处理方案的能力。熟记备考技巧，基准只是近似值，保守的基准测试侧沉于学问回忆，但无法实正捕获智能能力。虽然并非所有公司都测试过 ARC-AGI 基准测试，包含 466 个细心设想的问题，这表白它们具有划一的机能。多个最先辈的模子都无法准确计较单词“strawberry”中“r”的数量。关于若何权衡人工智能的“智能”的辩论再度升温。跟着人工智能系统从研究转向贸易使用，超越了行业巨头微软的 Magnetic-1（38%）和谷歌的 Langfun Agent（49%）。这提示我们。