当遗忘是免费的:利用低影响点降低计算成本
苹果研究提出利用低影响数据点降低机器学习模型遗忘成本的方法,通过影响函数识别可忽略的训练数据。
AI 深度解读
苹果研究提出利用低影响点实现“免费遗忘”,通过识别训练数据中对模型输出影响微小的子集,在遗忘时无需额外计算成本。
- 现有遗忘方法通常平等对待所有遗忘点,但该研究通过影响函数分析,发现部分数据点对模型学习影响可忽略。
- 在语言和视觉任务上,识别出低影响子集后,移除它们几乎不改变模型行为,因此无需执行昂贵的遗忘操作。
- 该方法可大幅降低遗忘的计算成本,使数据隐私合规更高效。
- 影响/看点:该研究为机器学习中的“被遗忘权”提供了实用解决方案,有望降低企业合规成本,同时保持模型性能。
本内容由 AI 生成,仅供参考,请注意甄别