【科技与安全观察】人工智能的应用边界，正在被现实不断突破。路透社最新测试显示，多款主流 AI 聊天机器人 已被验证存在被滥用于 钓鱼诈骗、电信诈骗话术生成，甚至“视频模拟诈骗” 的现实风险，引发学界与监管层高度警惕。
据 路透社 报道，其联合 哈佛大学研究员 Fred Heiding，对 ChatGPT、Grok、Meta AI、Claude、DeepSeek、Gemini 六款主流 AI 模型进行测试，并将模型生成的钓鱼诈骗邮件投放给 108 名老年志愿者。结果显示，约 11% 的受试者点击了虚假链接，暴露出 AI 生成诈骗内容在现实场景中的高度欺骗性。
测试结果显示：
Meta AI、Grok、Claude 生成的诈骗邮件成功诱导用户点击
ChatGPT、DeepSeek 在该测试中未出现点击记录
多数 AI 只要将诈骗需求包装成“科研用途”或“小说创作”，即可绕过安全限制
Grok 会主动加入“立即点击”“限时处理”等催促性诈骗话术
Gemini 不仅生成诈骗内容，还给出“最佳发送时间”（工作日 9:00–15:00）
研究人员直言：“这些防护机制，总能被绕开。”
AI 生成的诈骗内容在语言自然度和迷惑性上，已不逊于人工撰写，却能将时间和成本大幅压缩，使诈骗集团具备 规模化、自动化作案能力。
更值得警惕的是，随着 图像与视频生成技术 的成熟，诈骗手段正出现技术级跃迁。当前仅需一张照片，即可能被 AI 用于合成“视频通话”“熟人露脸”式电诈场景，极大削弱受害者的心理防线，传统“眼见为实”的安全认知正被彻底颠覆。
业内人士指出，AI 技术本身并非风险源头，但其被滥用的速度，已明显快于监管与防护体系的完善。如何在推动 AI 创新的同时，防止其成为 电诈产业链的“放大器”，正成为全球亟需面对的现实课题。
