"AI 사기 2.0": 사기와 디지털 아이덴티티 범죄의 급증

1. 서장──「신뢰」가 화폐가 되는 시대

2024년, FBI가 집계한 인터넷 범죄 피해액은 160억 달러에 달하며, 전년 대비 33% 증가라는 과거 최악의 수치를 기록했다. Proof사가 7월 17일에 발표한 최신 보고서 The Trust Ledger는 이러한 피해의 배경에서 「생성 AI×사칭」이 폭발적으로 확대되고 있는 실태를 드러냈다. BetaNews는 같은 날짜의 기사에서 「AI는 이제 사기의 기폭제다」라고 경종을 울리고 있다.BetaNewsBusiness Wire

2. “Trust Ledger”가 그리는 세 가지 충격

1. 고속화와 자동화 ‑ AI가 문서 위조나 음성 클론을 자동 생성하여 기존 KYC를 피하는 속도가 지수 함수적으로 상승.

2. 피해의 저변 확대 ‑ 부동산 관리나 공공 요금, HR 부문 등 「비금융」 영역으로 파급.

3. 측정 불가능한 리스크 ‑ 조사 대상 기업의 30%가 「횡단적인 부정 지표를 가지지 않는다」고 응답.Business Wire

3. 합성 ID라는 새로운 “무기”

실제 개인 정보와 AI 생성 데이터를 혼합한 「합성 ID」는 얼굴 인식용 셀피까지 자동 생성한다. 암시장에서 “풀즈(fullz)”라고 불리는 개인 세트가 3달러에 거래되며, 멀웨어 계열 인포스틸러가 끊임없이 공급한다.Business Wire

4. 생성 AI는 “사기의 구독 서비스”로

지하 포럼에는 FraudGPT나 WormGPT와 같은 유료 LLM이 등장. 월 200달러 전후로 피싱 문서, 제로데이를 악용한 멀웨어 코드, 소셜 엔지니어링 대본까지 주문 제작 가능.MalwarebytesBitdefender

5. Jailbreak 문화가 만드는 “AI 블랙마켓”

Malwarebytes는 「공공 모델을 탈옥시킨 LLM을 재판매하는 “LLM-as-a-Service”가 확립되었다」고 보고. 게시판 폐쇄나 체포가 있어도, 아종이 계속해서 부화하는 두더지 잡기 상태다.Malwarebytes

6. SNS에서 분출하는 반응

• 「데이터는 39초마다 노려진다. 싸우거나 해킹당하거나」──사이버 교육 계정 @real3uni 가 경고TwStalker

• 「ShellGPT, FraudGPT로 “해커 사고”를 길러라」──젊은 엔지니어의 계몽 트윗TwStalker

• LinkedIn에서도 수천 건의 재공유가 발생하고, 해시태그 #AIFraud가 트렌드에 올랐다 (17일~18일). 기업 CISO 사이에서는 「자사 ID 관리의 재검토」가 시급하다는 목소리가 잇따랐다.LinkedIn

7. 페이크 얼굴 계정의 만연

GAN 생성의 얼굴 사진으로 만들어진 트위터 프로필은 최소 1만 건/일 활성──2024년 논문이 제시하는 숫자다. 눈 위치의 규칙성을 이용한 탐지 방법도 제안되었지만, 일반 사용자가 알아차리기는 어렵다.arXiv

8. 법규제와 국제 협조의 지연

미국에서는 여전히 「부정 송금의 책임 주체」를 둘러싼 재판이 계속 중. EU는 AI Act 초안에서 “고위험 AI” 분류를 마련했지만, 구체적인 ID 범죄 대책은 각국에 맡김. 일본에서도 개정 범죄수익법의 AI 관련 조항은 미정비 상태다.

9. 기업이 취해야 할 여섯 가지 방어책

1. 실시간 바이오 감지（혈류・눈 깜박임 분석）

2. 동적 KYC（거래 지속 중에도 리스크 점수를 갱신）

3. 합성 데이터 대책 API의 도입

4. LLM 출력의 워터마크 검증

5. 프라우드 시그널의 상호 공유（금융・통신・공공 영역 횡단）

6. “제로 트러스트 아이덴티티”──ID 자체를 항상 의심하는 설계

10. 개인 사용자가 오늘부터 할 수 있는 세 가지 대책

• 물리 키를 사용한 FIDO2 인증

• 알림 계열 이메일 주소를 계좌・SNS에서 분리

• 생체 인증의 **“재등록 알림”**을 ON으로 설정

11. 결론──“신뢰”의 공공재를 지켜라

AI는 사기꾼의 일을 “민주화”했다. 한편으로, 탐지 AI・고도의 인증 기반도 같은 속도로 진화하고 있다. 열쇠를 쥐고 있는 것은 개방적인 정보 공유와 사용자의 리터러시다. Proof가 제시한 「Trust by Design」이라는 사고방식――즉, 모든 시스템에 “신뢰의 사양서”를 내장하는 발상야말로 포스트 AI 시대의 사이버 위생이라고 할 수 있을 것이다.