OpenAI 首席科学家回应 Astra 推理不透明争议：未出现跳跃式复杂度增长

IT之家转述 OpenAI 首席科学家 Jakub Pachocki 对 Astra 推理透明度争议的回应，核心信息是其否认前沿模型出现相对 GPT-4 的跳跃式计算图复杂度增长，关注价值在于它涉及思维链监控能否继续作为安全研究工具。

• 转述称 Pachocki 表示，包括 Astra 在内的前沿模型计算图深度与 GPT-4 相差不到两倍。
• 他同时表示 OpenAI 计划为 Astra部署额外思维链监控，并将监控能力视为持续研究方向。
• 计算图深度描述输入到输出之间的计算层级，不能单独代表模型全部可解释性或风险水平。
• 即使模型能够输出自然语言思维链，也不意味着文本完整、准确地呈现了内部计算过程。
• 关于“深度循环”可能增加内部状态不可读性的说法，在条目中主要来自媒体报道和推理，不能替代 OpenAI 的技术说明。
• 影响/看点：如果官方监控能稳定识别模型行为与推理过程之间的偏差，透明度工具可能继续用于安全评估；其有效性取决于监控覆盖率和模型是否学会规避外部观察。
• 资料依据:
• IT之家（2026-09-03）：OpenAI 首席科学家回应 AI 推理不透明争议 https://www.ithome.com/0/997/866.htm

本内容由 AI 生成，仅供参考，请注意甄别