谷歌地球AI换脸工具上线仅一天即下架

谷歌地球上线仅一天的 AI 图像编辑功能就被紧急下架,起因是有研究者用它在卫星影像上生成了边境难民、加沙医院旁弹坑等虚假场景,暴露出这类工具的滥用风险远超谷歌预期。

• 该功能允许用户用文字提示直接编辑卫星、航拍和三维影像,本质是给真实世界场景“造假”
• 研究者 Henk van Ess 有意测试生成了带有强烈政治敏感性的虚假图像
• 谷歌最初的回应是强调生成图像带有「SynthID」数字水印,并称已拦截“有害主题”的生成请求
• 一天之后谷歌改口直接下架该功能,说明初版审核机制和公关话术都没能扛住实际测试
• 水印和内容过滤在事前审查失效时只是事后补救,谷歌这次的紧急下架也说明大厂对地理信息类生成式 AI 工具的风险评估仍然滞后于实际能力。

本内容由 AI 生成，仅供参考，请注意甄别