评测对象也不只是一个基础模型。TRACES评估的是完整的求解系统,包括模型本身、编排或运行框架、外部工具、记忆机制,以及控制调查流程的策略。
传统基准往往提前规定问题、可用输入和正确答案。TRACES则从现实世界的目标出发,要求求解器先把目标转化为可操作的调查,再通过一系列行动推进研究。系统可以观察环境、执行动作、调用科学或计算工具,并接收类似实验结果或验证器提供的反馈。
因此,一次评测通常会形成更长的闭环:
基准记录的是整个调查轨迹,而不只是最终输出是否“像”参考答案。在科学问题尚无确定答案、因而无法提供传统意义上的标准答案时,这种设计尤其重要。
TRACES这个缩写对应六个用于验证调查过程的维度,也被称为HDS6:
这六个维度旨在区分“有依据、可检查的调查”和“语气自信但没有支撑的猜测”。即使最终答案尚未确定,评审者也可以据此考察求解器的工作质量。
Apodex Discovery认为,要评估开放式发现任务,至少需要几项基础设施:定义清晰的问题、贴近现实的环境、可执行的验证机制,以及允许系统修复自身工作的反馈循环。TRACES正是这一方法的基准测试实现。
Apodex称,其问题搜寻过程覆盖16个行业领域中的561个行业,整理出423个高价值现实问题,并从中选取20个问题作为首批可执行评测任务。
现有材料列举的任务示例包括:
这些例子体现了基准的目标覆盖面,但现有资料并未给出首批发布中所有任务或全部领域的完整公开清单,因此不宜据此推断更广泛的任务范围。
如今,AI系统越来越多地被用于,或被设想用于提出研究假设、选择实验方向、分析实验结果,以及协助设计迭代式工作流。在这些场景中,语言流畅远远不够。系统还必须知道该测试什么、如何理解结果、怎样从错误中恢复,以及何时应该停止扩大结论。
TRACES的核心做法,是把科学调查视为一个交互过程。一个能够通过可追踪证据和恰当修正取得有用结果的系统,与另一个只是给出相似结论、却无法说明推理路径的系统,实际可靠性并不相同。
不过,过程评测并不会取代人类监督。研究人员和领域专家仍需要设定目标与约束,评估伦理和实际风险,核验假设与证据,并决定某个结论是否足以支持现实行动。TRACES强调可检查的调查轨迹和有边界的表述,价值恰恰在于让评审者能够审视更多内容,而不是只能面对一条无法审计的最终断言。
Apodex的公开公告称,TRACES同时面向求解系统和科学问题开放征集。
提交求解器时,团队提交的应是用于完成调查的完整系统,而不只是底层模型。这通常包括模型、编排或运行框架、工具、记忆机制和控制策略。
如果提交科学问题,则需要能够将其表达为一个可执行、可验证的环境。具体而言,提案应明确求解器可以观察和执行什么、会收到哪些反馈,以及如何依据明确的成功标准检查中间结论或最终主张。
TRACES把AI基准测试的问题,从“系统是否给出了预期答案”,转向“系统是否完成了一次有纪律、以证据为基础的调查”。对于科学发现而言,这比静态的标准答案测试更贴近真实工作方式。
但它也揭示了一个重要边界:过程评分可以改善评测,却不能单独证明某项AI生成的发现安全、有用,或已经适合部署。人类的科学判断仍是决定结论能否走出实验环境、进入现实世界的关键环节。
评测对象也不只是一个基础模型。TRACES评估的是完整的求解系统,包括模型本身、编排或运行框架、外部工具、记忆机制,以及控制调查流程的策略。
传统基准往往提前规定问题、可用输入和正确答案。TRACES则从现实世界的目标出发,要求求解器先把目标转化为可操作的调查,再通过一系列行动推进研究。系统可以观察环境、执行动作、调用科学或计算工具,并接收类似实验结果或验证器提供的反馈。
因此,一次评测通常会形成更长的闭环:
基准记录的是整个调查轨迹,而不只是最终输出是否“像”参考答案。在科学问题尚无确定答案、因而无法提供传统意义上的标准答案时,这种设计尤其重要。
TRACES这个缩写对应六个用于验证调查过程的维度,也被称为HDS6:
这六个维度旨在区分“有依据、可检查的调查”和“语气自信但没有支撑的猜测”。即使最终答案尚未确定,评审者也可以据此考察求解器的工作质量。
Apodex Discovery认为,要评估开放式发现任务,至少需要几项基础设施:定义清晰的问题、贴近现实的环境、可执行的验证机制,以及允许系统修复自身工作的反馈循环。TRACES正是这一方法的基准测试实现。
Apodex称,其问题搜寻过程覆盖16个行业领域中的561个行业,整理出423个高价值现实问题,并从中选取20个问题作为首批可执行评测任务。
现有材料列举的任务示例包括:
这些例子体现了基准的目标覆盖面,但现有资料并未给出首批发布中所有任务或全部领域的完整公开清单,因此不宜据此推断更广泛的任务范围。
如今,AI系统越来越多地被用于,或被设想用于提出研究假设、选择实验方向、分析实验结果,以及协助设计迭代式工作流。在这些场景中,语言流畅远远不够。系统还必须知道该测试什么、如何理解结果、怎样从错误中恢复,以及何时应该停止扩大结论。
TRACES的核心做法,是把科学调查视为一个交互过程。一个能够通过可追踪证据和恰当修正取得有用结果的系统,与另一个只是给出相似结论、却无法说明推理路径的系统,实际可靠性并不相同。
不过,过程评测并不会取代人类监督。研究人员和领域专家仍需要设定目标与约束,评估伦理和实际风险,核验假设与证据,并决定某个结论是否足以支持现实行动。TRACES强调可检查的调查轨迹和有边界的表述,价值恰恰在于让评审者能够审视更多内容,而不是只能面对一条无法审计的最终断言。
Apodex的公开公告称,TRACES同时面向求解系统和科学问题开放征集。
提交求解器时,团队提交的应是用于完成调查的完整系统,而不只是底层模型。这通常包括模型、编排或运行框架、工具、记忆机制和控制策略。
如果提交科学问题,则需要能够将其表达为一个可执行、可验证的环境。具体而言,提案应明确求解器可以观察和执行什么、会收到哪些反馈,以及如何依据明确的成功标准检查中间结论或最终主张。
TRACES把AI基准测试的问题,从“系统是否给出了预期答案”,转向“系统是否完成了一次有纪律、以证据为基础的调查”。对于科学发现而言,这比静态的标准答案测试更贴近真实工作方式。
但它也揭示了一个重要边界:过程评分可以改善评测,却不能单独证明某项AI生成的发现安全、有用,或已经适合部署。人类的科学判断仍是决定结论能否走出实验环境、进入现实世界的关键环节。