보이스피싱에 의한 범죄는 수법도 다양하고 워낙에 많이 알려지다 보니 이제는 흔히 알려진 단어이고, 또 실제로 피싱 문자나 링크, 전화를 받아 본 사람도 많습니다.
하지만 '딥페이크'라는 단어는 많은 사람들이 생소하게 느껴질 수 있을 것 같습니다.
오늘 뉴스를 검색하다 보니 이런 기사가 있었습니다.
지난 2월 홍콩, 딥페이크(Deepfake)로 만든 얼굴에 속아 340억 원을 송금하는 사고가 발생했다.
범죄 조직은 홍콩의 한 금융회사 최고재무책임자(CFO)를 딥페이크로 구현해 직원들을 속였다. 직원들은 딥페이크가 실제 CFO라고 믿었고, 총 2억 홍콩 달러(한화 약 340억 원)를 송금했다. 영화 속 이야기 같은 '딥페이크 CFO' 범행은 직원이 나중에 회사 본사에 확인했을 때에야 발견됐다.
딥페이크범죄
1.딥페이크 범죄의 현황과 대응 방안
딥페이크(Deepfake)는 인공지능(AI) 기술인 딥러닝(Deep Learning)과 '가짜'를 의미하는 단어인 페이크(Fake)의 합성어로, AI를 이용해 사람의 이미지, 영상, 음성을 합성하는 기술을 말합니다. 이 기술은 원래 영화나 게임 산업에서 고품질의 그래픽을 제작하는 목적으로 개발되었으나, 최근에는 악의적인 목적으로도 사용되어 큰 사회적 문제를 일으키고 있습니다. SK쉴더스가 최근 공개한 '보안 트렌드' 보고서에 따르면, 올해 상반기에는 딥페이크 해킹 공격과 가상자산 탈취가 성행했다고 합니다.
2.딥페이크 기술의 발전과 범죄 사례
딥페이크 기술은 매우 정교해져서 실제 영상과 구분하기 어려운 수준에 이르렀습니다. 예전에는 딥페이크 영상에서 얼굴 표정이나 동작이 부자연스러운 경우가 많았지만, 최근에는 자세히 살펴봐야만 가짜라는 것을 알 수 있을 정도입니다. 딥페이크 서비스의 진입 장벽도 낮아지고 있습니다. 스마트폰 앱 스토어에서 '딥페이크'라고 검색하면 수십여 개의 관련 서비스 앱이 나올 정도로 누구나 쉽게 딥페이크 서비스를 이용할 수 있습니다. 이러한 서비스는 '얼굴 바꾸기', '성별 바꾸기', '목소리 전환' 등의 기능도 제공합니다.
딥페이크 기술의 발전과 더불어 이를 악용한 범죄도 증가하고 있습니다. 대표적인 사례로는 세계적인 팝스타 테일러 스위프트의 얼굴에 음란물을 합성한 딥페이크 이미지가 소셜 미디어 플랫폼인 엑스(X, 구 트위터)를 통해 확산된 사건이 있습니다. 이 사건은 미국 사회뿐만 아니라 전 세계적으로 큰 충격을 주었습니다. 또한, 할리우드 배우 스칼렛 요한슨은 자신의 사진과 목소리를 AI 기술로 변조해 광고에 사용한 AI 앱 제작사에 법적 조치를 취했으며, 톰 행크스도 자신의 얼굴을 무단 도용한 AI 아바타가 치과 보험을 홍보하는 영상이 무단 유포되고 있다고 경고했습니다.
3.딥페이크 범죄의 미래와 대응 방안
앞으로는 딥페이크 기술이 일반인을 겨냥한 피싱 범죄에도 악용될 가능성이 큽니다. AI가 개인정보를 광범위하게 수집해 만들어낸 피싱 메일은 마치 잘 알고 지낸 사람이 보낸 인사 메일로 둔갑할 수 있으며, 짧은 인사말 한마디로 복제한 음성은 가족들을 속여 몸값을 받아내는 데 활용될 수 있다는 것이 보안 전문가들의 경고입니다. 이호석 SK쉴더스 EQST팀장은 "최근 딥페이크나 딥보이스 관련 사고가 증가하고 있다"면서 "해당 기술을 악용한 공격에 대해서 주의가 필요하며, 보안 대책에 대해서도 고민이 필요한 시점"이라고 밝혔습니다.
예방 및 대응 방안
딥페이크 공격을 예방하기 위해서는 개인과 조직 모두가 경각심을 가지고 대비하는 것이 가장 중요합니다.
1.개인의 대응 방안
- 개인 정보 보호: 온라인에 개인 정보를 과도하게 공개하지 않는 것이 중요합니다. 소셜 미디어에 올리는 사진이나 동영상, 개인적인 정보는 최소화하고 개인정보 보호 설정을 철저히 관리해야 합니다.
- 보안 소프트웨어 사용: 최신 보안 소프트웨어를 설치하고 업데이트하여 악성 소프트웨어로부터 기기를 보호해야 합니다. 보안 소프트웨어는 딥페이크 공격에 사용될 수 있는 정보 탈취 등 해킹 시도를 막는 데 도움을 줍니다.
2.조직의 대응 방안
- 직원 교육: 직원들이 딥페이크 기술과 그 위험성에 대해 인지하고 이를 식별할 수 있도록 교육하는 것이 필요합니다.
- 탐지 소프트웨어 사용: AI와 머신러닝(ML) 기반의 딥페이크 탐지 소프트웨어를 사용해 영상이나 음성의 진위 여부를 판별할 수 있습니다.
- 이중 인증 사용: 중요한 시스템 접근 시 이중 인증을 사용해 보안을 강화해야 합니다.
3.플랫폼의 역할
소셜 미디어와 콘텐츠 공유 플랫폼은 딥페이크 콘텐츠를 모니터링하고 제거할 책임을 강화해야 합니다. 사용자 신고 시스템을 개선하고, 딥페이크 콘텐츠에 대한 신속한 대응 체계를 마련해야 합니다.
4.정부의 역할
정부는 딥페이크 기술의 악용을 막기 위한 관련 법률을 강화하는 등 제도적 보완책을 마련하고, 딥페이크를 탐지하고 차단할 수 있는 기술 개발을 위한 연구를 지원하고 있습니다.
딥페이크 기술은 매우 강력하고 유용한 도구가 될 수 있지만, 그 악용 사례가 늘어남에 따라 이에 대한 경각심과 대응책 마련이 절실히 요구됩니다. 사회 전반의 협력이 필요하며, 이를 통해 딥페이크 범죄를 효과적으로 예방하고 대응할 수 있을 것입니다.