ChatGPT被柬埔寨诈骗网络利用,OpenAI出手封禁
OpenAI封禁一批被柬埔寨诈骗网络用于投资/恋爱/赌博诈骗的ChatGPT账户。
AI 深度解读
OpenAI官方通报打掉一个位于柬埔寨的诈骗团伙,该团伙长期利用ChatGPT从事投资、恋爱、赌博类诈骗,暴露出生成式AI被黑产滥用的现实风险。
- 案件线索最早由WhatsApp方面提供,诈骗团伙活动地点集中在柬埔寨班迭棉吉省波贝地区
- 诈骗分子用ChatGPT生成虚假身份、翻译诈骗话术、制作宣传素材,并起草内部通知
- OpenAI观察到相关账号还涉及生成人口贩卖、强迫犯罪活动内容,与公开报道的情况相符
- 团伙通过虚假身份获取受害者信任,再诱导其参与加密货币或黄金相关的虚假投资项目
- OpenAI已封禁相关账号并向行业合作伙伴共享情报,但具体经济损失规模尚未明确
- 案件说明生成式AI已经成为跨国黑产链条中的标准化工具,平台侧的账号治理和跨行业协同将是长期拉锯战。
本内容由 AI 生成，仅供参考，请注意甄别