« Escroquerie par IA 2.0 » : augmentation des fraudes et des crimes liés à l'identité numérique

1. Introduction──L'ère où la "confiance" devient une monnaie

En 2024, le montant des pertes dues aux crimes sur Internet compilé par le FBI a atteint 16 milliards de dollars, enregistrant une augmentation de 33 % par rapport à l'année précédente, un chiffre record. Le dernier rapport publié par la société Proof le 17 juillet, The Trust Ledger, a révélé l'expansion explosive de la "génération AI × usurpation d'identité" derrière ces pertes. BetaNews, dans un article du même jour, a tiré la sonnette d'alarme en déclarant que "l'IA est désormais un catalyseur de fraude".BetaNewsBusiness Wire

2. Les trois chocs décrits par le "Trust Ledger"

1. Accélération et automatisation ‑ L'IA génère automatiquement des faux documents et des clones vocaux, augmentant exponentiellement la vitesse à laquelle elle contourne les KYC traditionnels.

2. Élargissement de l'éventail des victimes ‑ S'étend aux domaines "non financiers" tels que la gestion immobilière, les services publics, et les départements RH.

3. Risque incalculable ‑ 30 % des entreprises interrogées déclarent ne pas posséder d'indicateurs transversaux de fraude.Business Wire

3. La nouvelle "arme" qu'est l'ID synthétique

Les "ID synthétiques", mélangeant des informations personnelles réelles et des données générées par l'IA, génèrent automatiquement des selfies pour la reconnaissance faciale. Sur le marché noir, des ensembles de données personnelles appelés "fullz" sont vendus pour 3 dollars, alimentés en continu par des info-stealers de type malware.Business Wire

4. L'IA générative devient un "abonnement à la fraude"

Sur les forums clandestins, des LLM payants tels que FraudGPT et WormGPT ont fait leur apparition. Pour environ 200 dollars par mois, il est possible de commander des textes de phishing, des codes malveillants exploitant des zero-day, et des scripts d'ingénierie sociale sur mesure.MalwarebytesBitdefender

5. La culture du Jailbreak engendre un "marché noir de l'IA"

Malwarebytes rapporte que le "LLM-as-a-Service", consistant à revendre des LLM jailbreakés, s'est établi. Malgré la fermeture de forums et des arrestations, des variantes continuent d'émerger, créant un jeu de taupe sans fin.Malwarebytes

6. Réactions qui émergent sur les réseaux sociaux

• "Les données sont ciblées toutes les 39 secondes. Il faut se battre ou être piraté" ─ avertit le compte d'éducation cyber @real3uniTwStalker

• "Entraînez votre 'esprit de hacker' avec ShellGPT, FraudGPT" ─ tweet de sensibilisation d'un jeune ingénieurTwStalker

• Des milliers de partages ont également eu lieu sur LinkedIn, et le hashtag #AIFraud est devenu tendance (du 17 au 18). Parmi les CISO d'entreprises, la nécessité urgente de réviser la gestion des identités a été largement exprimée.LinkedIn

7. La prolifération des faux comptes avec des visages générés

Les profils Twitter créés avec des photos de visages générés par GAN sont actifs à raison d'au moins 10 000 par jour, selon un article de 2024. Bien qu'une méthode de détection basée sur la régularité de la position des yeux ait été proposée, il est difficile pour les utilisateurs ordinaires de les repérer.arXiv

8. Retard dans la réglementation et la coopération internationale

Aux États-Unis, les procès concernant la "responsabilité des transferts frauduleux" se poursuivent. L'UE a établi une classification des "IA à haut risque" dans le projet de loi AI Act, mais les mesures spécifiques contre les crimes d'identité sont laissées à la discrétion des pays. Au Japon, les articles liés à l'IA de la loi révisée sur les transactions criminelles restent non développés.

9. Six mesures de défense que les entreprises devraient prendre

1. Détection biométrique en temps réel (analyse du flux sanguin et du clignement des yeux)

2. KYC dynamique (mise à jour du score de risque pendant les transactions)

3. Implémentation d'API de protection des données synthétiques

4. Vérification des filigranes des sorties LLM

5. Partage mutuel des signaux de fraude (à travers les domaines financiers, de télécommunications et publics)

6. "Zero Trust Identity" ─ concevoir en doutant constamment de l'identité elle-même

10. Trois mesures que les utilisateurs individuels peuvent prendre dès aujourd'hui

• Authentification FIDO2 avec clé physique

• Séparer les adresses e-mail de notification pour les comptes et les réseaux sociaux

• Activer la notification de **"réenregistrement"** pour la biométrie

11. Conclusion──Protéger les "communs de la confiance"

L'IA a "démocratisé" le travail des fraudeurs. En même temps, les AI de détection et les infrastructures d'authentification avancées évoluent à la même vitesse. La clé réside dans le partage ouvert d'informations et la littératie des utilisateurs. Le concept de "Trust by Design" proposé par Proof ─ c'est-à-dire l'idée d'intégrer une "spécification de confiance" dans tous les systèmes ─ peut être considéré comme l'hygiène cybernétique de l'ère post-AI.