"AI Fraud 2.0": การเพิ่มขึ้นของการฉ้อโกงและอาชญากรรมเกี่ยวกับตัวตนดิจิทัล

1. บทนำ──ยุคที่ "ความเชื่อใจ" กลายเป็นเงินตรา

ในปี 2024 มูลค่าความเสียหายจากอาชญากรรมทางอินเทอร์เน็ตที่ FBI ได้รวบรวมมีมูลค่าถึง 16 พันล้านดอลลาร์ เพิ่มขึ้น 33% จากปีที่แล้ว ซึ่งเป็นตัวเลขที่แย่ที่สุดในประวัติศาสตร์ รายงานล่าสุดที่ Proof บริษัทได้ประกาศเมื่อวันที่ 17 กรกฎาคม The Trust Ledger ได้เปิดเผยสถานการณ์ที่ "AI สร้างเอง × การปลอมแปลง" กำลังขยายตัวอย่างรวดเร็ว BetaNews ได้เตือนในบทความวันที่เดียวกันว่า "AI ไม่ใช่เพียงแค่ตัวจุดชนวนของการฉ้อโกง"BetaNewsBusiness Wire

2. สามแรงกระแทกที่ "Trust Ledger" ได้วาดภาพ

1. ความเร็วและการอัตโนมัติ ‑ AI สามารถสร้างเอกสารปลอมและโคลนเสียงได้อัตโนมัติ ทำให้การหลีกเลี่ยง KYC แบบเดิมมีความเร็วเพิ่มขึ้นแบบทวีคูณ

2. การขยายขอบเขตของความเสียหาย ‑ แพร่กระจายไปยังพื้นที่ "ไม่ใช่การเงิน" เช่น การจัดการอสังหาริมทรัพย์ ค่าสาธารณูปโภค และแผนก HR

3. ความเสี่ยงที่ไม่สามารถวัดได้ ‑ 30% ของบริษัทที่ถูกสำรวจตอบว่า "ไม่มีตัวชี้วัดการฉ้อโกงที่ข้ามขอบเขต"Business Wire

3. "อาวุธ" ใหม่ที่เรียกว่า ID สังเคราะห์

"ID สังเคราะห์" ที่ผสมผสานข้อมูลส่วนบุคคลจริงกับข้อมูลที่สร้างโดย AI สามารถสร้างเซลฟี่สำหรับการจดจำใบหน้าได้อัตโนมัติ ในตลาดมืด ชุดข้อมูลส่วนบุคคลที่เรียกว่า "ฟูลส์ (fullz)" ถูกซื้อขายในราคา 3 ดอลลาร์ และมัลแวร์ประเภท InfoStealer กำลังจัดหาข้อมูลอย่างต่อเนื่องBusiness Wire

4. AI สร้างเองกลายเป็น "การสมัครสมาชิกการฉ้อโกง"

ในฟอรัมใต้ดินมี LLM ที่ต้องชำระเงินเช่น FraudGPT และ WormGPT ปรากฏขึ้น สามารถสั่งทำข้อความฟิชชิง โค้ดมัลแวร์ที่ใช้ประโยชน์จาก Zero-Day และสคริปต์วิศวกรรมสังคมได้ในราคาเดือนละประมาณ 200 ดอลลาร์MalwarebytesBitdefender

5. วัฒนธรรม Jailbreak สร้าง "ตลาดมืด AI"

Malwarebytes รายงานว่า "LLM-as-a-Service" ที่ขาย LLM ที่ถูกเจลเบรคจากโมเดลสาธารณะได้ถูกจัดตั้งขึ้นแล้ว แม้จะมีการปิดบอร์ดหรือการจับกุม แต่สายพันธุ์ใหม่ก็ยังคงเกิดขึ้นอย่างต่อเนื่องMalwarebytes

6. ปฏิกิริยาที่ระเบิดบนโซเชียลมีเดีย

• "ข้อมูลถูกโจมตีทุก 39 วินาที ต่อสู้หรือถูกแฮ็ก" ──บัญชีการศึกษาด้านไซเบอร์ @real3uni เตือนTwStalker

• "ฝึกฝน 'ความคิดแฮ็กเกอร์' ด้วย ShellGPT, FraudGPT" ──ทวีตสร้างแรงบันดาลใจจากวิศวกรหนุ่มTwStalker

• ใน LinkedIn มีการแชร์ซ้ำหลายพันครั้ง และแฮชแท็ก #AIFraud กลายเป็นเทรนด์ (17-18 กรกฎาคม) ในหมู่ CISO ของบริษัท มีเสียงเรียกร้องให้ "ทบทวนการจัดการ ID ของบริษัท" อย่างเร่งด่วนLinkedIn

7. การแพร่ระบาดของบัญชีใบหน้าปลอม

โปรไฟล์ Twitter ที่สร้างด้วยภาพใบหน้าที่สร้างโดย GAN มีการใช้งานอย่างน้อย 10,000 รายการต่อวัน ──เป็นตัวเลขที่แสดงในวิทยานิพนธ์ปี 2024 มีการเสนอวิธีการตรวจจับโดยใช้ความสม่ำเสมอของตำแหน่งดวงตา แต่ผู้ใช้ทั่วไปยากที่จะมองออกarXiv

8. ความล่าช้าของกฎหมายและความร่วมมือระหว่างประเทศ

ในสหรัฐอเมริกายังคงมีการดำเนินคดีเกี่ยวกับ "ผู้รับผิดชอบการโอนเงินที่ไม่ถูกต้อง" EU ได้จัดตั้งหมวดหมู่ "AI ที่มีความเสี่ยงสูง" ในร่าง AI Act แต่การป้องกันอาชญากรรม ID ที่เฉพาะเจาะจงนั้นขึ้นอยู่กับแต่ละประเทศ ในญี่ปุ่น บทบัญญัติที่เกี่ยวข้องกับ AI ในกฎหมายการฟอกเงินที่แก้ไขยังไม่ได้รับการจัดทำ

9. หกวิธีป้องกันที่บริษัทควรใช้

1. การตรวจจับชีวภาพแบบเรียลไทม์ (การวิเคราะห์การไหลของเลือดและการกระพริบตา)

2. KYC แบบไดนามิก (อัปเดตคะแนนความเสี่ยงระหว่างการทำธุรกรรม)

3. การนำ API ป้องกันข้อมูลสังเคราะห์มาใช้

4. การตรวจสอบลายน้ำของผลลัพธ์ LLM

5. การแชร์สัญญาณการฉ้อโกงร่วมกัน (ข้ามการเงิน การสื่อสาร และภาครัฐ)

6. "Zero Trust Identity" ──การออกแบบที่สงสัยในตัว ID ตลอดเวลา

10. สามวิธีที่ผู้ใช้ทั่วไปสามารถทำได้ตั้งแต่วันนี้

• การรับรองความถูกต้อง FIDO2 ด้วยกุญแจทางกายภาพ

• แยกอีเมลแจ้งเตือนออกจากบัญชีและโซเชียลมีเดีย

• เปิดการแจ้งเตือน "การลงทะเบียนใหม่" สำหรับการรับรองความถูกต้องทางชีวภาพ

11. บทสรุป──ปกป้อง "ความเชื่อใจ" ของส่วนรวม

AI ได้ "ประชาธิปไตย" งานของนักต้มตุ๋น ในขณะเดียวกัน AI ตรวจจับและฐานการรับรองที่มีความซับซ้อนก็พัฒนาไปในอัตราเดียวกัน กุญแจสำคัญคือการแชร์ข้อมูลแบบเปิดและความรู้ของผู้ใช้ แนวคิด "Trust by Design" ที่ Proof ได้เสนอ ──กล่าวคือ การฝัง "สเปคความเชื่อใจ" ในทุกระบบ อาจเรียกได้ว่าเป็นสุขอนามัยทางไซเบอร์ในยุคหลัง AI