* 인공지능(AI)을 활용해 목소리, 영상 등을 복제해 속이는 범죄들이 늘고 있다. 이미지는 기사의 특정 사실과 관련 없음. 이미지투데이
가족 목소리로 감쪽 같이 속이는 범죄 기승
SNS에 음성이나 영상 올리면 복제해 활용
반대로 통신사들 AI 탐지 서비스로 피해 막아
영국선 AI 할머니가 보이스피싱 사기범 붙잡아
지인이 금전 요구할 땐 여러 번 확인 필요해
농민신문 박준하 기자 2025. 4. 7
통화를 하는데 어머니 목소리로 이체를 요구한다면? 근무하는 회사의 대표 목소리로 업무 지시를 한다면? 자녀 목소리로 사고가 난 것처럼 흉내 낸다면?
2021년 아랍에미리트에서는 대기업 임원의 전화를 받고 420억원을 송금했지만 이후 해당 전화가 인공지능(AI)을 이용한 음성 사칭 범죄였음이 밝혀졌다. 캐나다에서도 아들의 목소리를 흉내 낸 전화에 속아 2000만원을 송금한 사례가 보고되는 등 AI 기반 금융사기가 잇따르고 있다. 이처럼 인공지능(AI) 기술을 활용한 금융 범죄가 부쩍 늘고 있어 주의가 필요하다.
◆갈수록 증가하는 딥보이스·딥페이크 사기=3일 글로벌 사이버보안기업인 크라우드스트라이크가 발표한 보고서에 따르면 AI 딥보이스 기반 피싱 범죄는 지난해 상반기 49건에서 하반기 266건으로 약 5배 늘었다. 딥보이스란 딥러닝과 목소리인 ‘보이스’의 합성어로 AI 기반 합성 기술을 뜻한다. AI 딥보이스 기반 피싱이란 AI로 특정인의 목소리로 속여 자금 이체를 받거나 금전을 갈취하는 행위다. 크라우드스트라이크는 보고서를 통해 “AI 기술이 사이버 범죄자에게 새로운 무기를 제공하면서 위협 속도와 정교함이 이전과는 비교할 수 없을 정도로 강화되고 있다”고 경고했다.
잘못하면 “여보세요?” 한 마디에도 음성 복제가 될 수 있다. 현재 상용화된 음성 복제 AI 애플리케이션은 30초에서 1분 분량의 음성만으로도 말투와 억양을 분석해 실제와 유사한 목소리를 구현할 수 있다. 또한 딥페이크 기술을 활용해 실제 인물이 말하거나 행동하는 것처럼 영상을 조작하는 사례도 늘고 있다. 특히 유튜브나 사회관계망서비스(SNS) 등을 통해 음성이나 영상이 쉽게 공개되는 환경에서는 누구나 범죄의 표적이 될 수 있어 각별한 주의가 요구된다.
◆AI 범죄, AI로 막는다=반대로 AI를 활용해 범죄 피해를 예방하는 사례도 등장하고 있다. KT는 올해 AI 기반 보이스피싱 탐지 서비스를 상용화한 이후 7일 기준으로 약 160억원의 피해를 막는 효과를 거뒀다고 밝혔다.
KT에 따르면 서비스 개시 이후 ‘주의’ 또는 ‘위험’ 등급으로 탐지된 보이스피싱 통화 중 확인 가능한 1528건을 분석한 결과 탐지 정확도는 90.3%에 달했다. 이 가운데 392건(25%)은 경찰청 보이스피싱 블랙리스트에 포함되거나 검찰·경찰을 사칭한 사례로 확인돼 AI 탐지 알림 기능이 실질적인 피해 예방에 효과적이라는 설명이다. 또한 KT는 보이스피싱이 의심되는 번호와 통화한 고객이 접속한 URL 3667건의 정보를 서울경찰청에 제공했으며, 경찰은 이를 바탕으로 피해자에게 직접 연락하거나 대면 접촉해 실제 피해를 사전에 차단했다.
특히 LG유플러스는 서울지방경찰청의 협조를 얻어 보이스피싱 범죄를 막을 수 있는 AI 서비스를 개발하고 있다고 7일 밝혔다. 현재 LG유플러스는 보이스피싱 조직이 운영하는 악성 앱 제어 서버를 포착하기 위해 자체 고객피해 방지분석시스템을 가동해 실시간 탐지하고 있다. 탐지 결과를 주기적으로 전달받는 경찰은 금융보안원 등과 검증과 분석을 거쳐 실제 악성 앱 설치로 피해가 예상되는 시민을 방문하고 있다.
영국의 이동통신사 오투(O2)는 보이스피싱 차단을 위해 AI 모델 ‘데이지’를 활용하고 있다. 데이지는 전형적인 ‘영국 할머니’의 목소리와 말투를 구사하는 데, 이는 피싱 범죄의 주요 표적이 되는 집단이 노인이라는 점을 고려한 것이다. 데이지는 최대한 횡설수설하며 보이스피싱범과 오래 통화해 통화 시간을 끈다. 데이지는 실제 영국 할머니 같아서 보이스피싱범을 최대 40분 동안 전화에 붙잡아 두는 데 성공했다.
이러한 AI 금융사기를 막으려면 갑작스러운 가족이나 지인, 직장 동료가 금전 요구를 할 때 철저한 재확인이 필요하다. 당사자 간 암호를 설정하거나 서로만 알 수 있는 질문으로 진위를 확인하는 것이다. 되도록 유선상으로 요구하는 금전은 주지 않는 편이 낫다. 또 개인 SNS에 자신의 음성이 들어간 게시물을 올릴 때는 이가 잘못 활용될 수 있다는 점을 늘 인지해야 한다. 특히 어린 자녀 사진 등은 되도록 공개된 곳에 올리지 않는 편이 낫다.
|
[농민신문] [김홍상 칼럼] 산업으로서 농업을 재인식하자 
[농민신문] “산불 피해 처음이라 어떻게 해야 할지…” 농가 지침 어디에? 
