报告称Hugging Face被轻易用于生成儿童和女性的色情深度伪造

非营利组织AI Forensics调查发现，Hugging Face平台上多数图像编辑模型缺乏防护，可被轻易用于生成女性及儿童的色情深度伪造。

• 测试显示，Hugging Face上排名前九的图像编辑模型中有七个在简单提示下即可生成脱衣等非自愿色情图片。
• 与主流商业模型不同，这些开源模型缺乏阻止色情生成的安全护栏，导致滥用风险极高。
• 报告指出Hugging Face未采取足够措施防止模型被滥用，引发对开源平台监管责任的讨论。
• 此类深度伪造技术严重侵犯个人隐私，尤其对女性和儿童造成伤害，需加强伦理约束。
• 影响/看点：该报告再次警示开源AI模型的双刃剑效应，平台需负起责任，建立更严格的审核和防护机制。

本内容由 AI 生成，仅供参考，请注意甄别