OpenAI 捣毁东南亚跨国诈骗集团的 ChatGPT 滥用网络

OpenAI公开披露了一起总部位于柬埔寨的跨国网络犯罪调查：该团伙长期借助ChatGPT搭建从欺诈话术到身份伪装的全套犯罪工具链，渗透投资诈骗、婚恋诈骗、赌博诈骗和身份冒充等多个黑产赛道，是大模型厂商主动围剿AI滥用的一次典型样本。

• 团伙盘踞东南亚，利用生成式AI批量生产诈骗话术、虚假身份和多语言钓鱼素材，覆盖投资返利、跨国婚恋、地下赌博、身份冒充等经典诈骗剧本；
• OpenAI通过账号行为异常识别加人工核查锁定该网络，并对相关账号做了封禁处置；
• 案件印证AI诈骗产业正从“人工写话术”转向“AI批量生成加人工执行”的分工模式，作案门槛被大幅拉低；
• 大模型厂商已把反滥用治理当成常规安全运营的一部分，而非事后公关，OpenAI、Anthropic等均已建立类似的滥用情报披露机制。
• 对普通用户而言，这意味着AI辅助的诈骗话术会更贴近真人语气，遇到投资或婚恋类陌生联系需提高警惕；对行业而言，大模型厂商的滥用治理能力正成为其安全声誉的一部分。

本内容由 AI 生成，仅供参考，请注意甄别