让模型自建并删除 Skill,以检验知识是否已内化
一种测试方法是让模型生成并删除任务技能,以观察相关知识是否已内化到模型权重。
AI 深度解读
一则来自HumanLayer工程师Dex Horthy的观点建议,让模型先为某项任务编写详细Skill,再删除该文件,以观察模型是否能够在没有外部Skill的情况下复现相同知识,关注点在于区分模型记忆、上下文依赖和工具化流程。
- 该方法把模型生成的Skill当作一种“外显知识”样本,再通过删除外部文件进行对照。
- 如果模型随后仍能完成任务,可能说明相关能力已存在于权重或当前对话上下文中,但不能单凭一次复现证明知识已经写入权重。
- 结果还会受到提示词、上下文缓存、工具状态和任务熟悉度影响。
- 更可靠的评估需要控制提示词、清空上下文、使用未见样本,并进行多轮重复测试。
- 影响/看点:这种方法适合作为轻量化探针,帮助发现模型是否依赖外部脚手架;若要据此判断知识内化,必须排除上下文泄漏和任务模板效应。
- 资料依据:
- Dex Horthy在X上的原始帖子(2026-10-25):https://x.com/dexhorthy/status/2114411775550693527
本内容由 AI 生成,仅供参考,请注意甄别