《AI诈骗2.0》：诈骗与数字身份犯罪的激增

1. 序章──“信任”成为货币的时代

2024年，FBI统计的互联网犯罪损失金额达到160亿美元，同比增加33%，创下历史最差记录。Proof公司于7月17日发布的最新报告 The Trust Ledger 揭示了在这些损失背后，“生成AI×冒充”正在爆炸性扩大的实态。BetaNews在同日的文章中警告称“AI已成为欺诈的引爆剂”。BetaNews商业电讯

2. “Trust Ledger”描绘的三大冲击

1. 高速化与自动化 ‑ AI自动生成文件伪造和语音克隆，突破传统KYC的速度呈指数级增长。

2. 受害范围扩大 ‑ 波及到房地产管理、公共事业、HR部门等“非金融”领域。

3. 无法测量的风险 ‑ 调查对象企业中有30%表示“没有跨领域的欺诈指标”。商业电讯

3. 合成ID作为新的“武器”

将真实个人信息与AI生成数据混合的“合成ID”，甚至可以自动生成用于面部识别的自拍。在黑市上，被称为“fullz”的个人信息集以3美元交易，恶意软件类信息窃取者不断供应。商业电讯

4. 生成AI成为“欺诈订阅”

地下论坛中出现了FraudGPT和WormGPT等付费LLM。每月约200美元，可以定制钓鱼邮件、利用零日漏洞的恶意软件代码、社会工程学脚本。MalwarebytesBitdefender

5. Jailbreak文化催生的“AI黑市”

Malwarebytes报告称，“通过越狱公共模型再销售的“LLM-as-a-Service”已确立”。即便有论坛关闭或逮捕，变种仍不断涌现，形成打地鼠状态。Malwarebytes

6. SNS上爆发的反应

• “数据每39秒就成为目标。要么战斗，要么被黑”──网络教育账号 @real3uni 警告TwStalker

• “通过ShellGPT、FraudGPT锻炼“黑客思维””──年轻工程师的启发推文TwStalker

• LinkedIn上也出现了数千次再分享，标签 #AIFraud 成为趋势（17日〜18日）。企业CISO之间纷纷表示“重新审视公司ID管理”已是当务之急。LinkedIn

7. 假脸账户的泛滥

使用GAN生成的面部照片创建的Twitter档案每天至少有1万个活跃──2024年的论文显示的数据。虽然提出了利用眼睛位置规律的检测方法，但普通用户难以识别。arXiv

8. 法规与国际协作的滞后

美国仍在进行关于“欺诈转账责任主体”的诉讼。欧盟在AI Act草案中设立了“高风险AI”分类，但具体的ID犯罪对策由各国负责。日本的修订犯收法中的AI相关条款仍未完善。

9. 企业应采取的六大防御措施

1. 实时生物检测（血流・眨眼分析）

2. 动态KYC（交易持续中更新风险评分）

3. 合成数据对策API的导入

4. LLM输出的水印验证

5. 欺诈信号的相互共享（金融・通信・公共领域跨越）

6. “零信任身份”──始终怀疑ID本身的设计

10. 个人用户今日可采取的三大对策

• 使用物理钥匙的FIDO2认证

• 将通知类邮箱地址与账户・SNS分离

• 开启生物认证的**“重新注册通知”**

11. 结论──守护“信任”的公地

AI“民主化”了骗子的工作。与此同时，检测AI和高级认证基础设施也在同等速度进化。关键在于开放的信息共享和用户的素养。Proof所提出的“Trust by Design”理念——即在所有系统中嵌入“信任的规格书”的构想，正是后AI时代的网络卫生。