[사이버 보안] AI를 활용한 악의적인 활동


4차 산업 혁명의 중심에 있는 인공지능(AI - Artificial Intelligence)기술은 더 높은 효율성과 더 높은 수준의 자동화 및 자율성을 바탕으로 세상의 발전과 변화를 가속화하고 있습니다.


특히 알고리즘을 이용해 패턴을 찾기 위해 대량의 데이터를 분석하는 AI의 하위 분야인 머신 러닝(Machine Learning)기술과 함께 사용되며 혁신적인 서비스를 제공할 수 있게 되었습니다.


이렇듯 AI 및 머신 러닝 기술은 다양한 분야 및 산업에서 시각적 인식이나 음성 인식, 언어 번역, 패턴 추출, 의사 결정 등에서 많은 긍정적으로 사용되고 있습니다.


하지만 AI와 머신러닝과 같은 기술들이 발전할수록 범죄에도 이용될 가능성이 높아지는데, 이번 시간에는 AI와 머신러닝 기술이 악의적으로 사용되는 예를 알아보겠습니다.


 

딥페이크(Deepfake)


딥페이크는 AI와 머신러닝 기술이 가장 널리 사용되는 기술 중 하나로, 기존의 이미지 또는 비디오의 인물을 바탕으로 다른 사람들의 얼굴을 중첩시켜 새로운 영상을 만드는 것이 가능합니다.

특히 기존 인물의 녹음된 목소리를 이용해 목소리까지 생성할 수 있는 기술이 더해지며 가짜 영상을 진짜처럼 보이도록 제작할 수도 있습니다.


악의적인 딥페이크는 유명인의 가짜 음란물이나 리벤지 포르노, 정치적인 뉴스, 목소리를 이용한 사기 등에 이용됩니다.

실제로 2019년 영국에 기반을 둔 에너지 회사의 CEO는 오디오 딥페이크 기술을 사용한 전화를 받고 220,000 유로, 한화로 약 3억원을 이체하는 사기를 당했습니다.


딥페이크는 기술적 솔루션을 사용하더라도 합법적인 실제 콘텐츠와 즉시 구별하기 어렵기 때문에 금전 요구와 같은 악의적인 행동에 사용될 수 있으며, 인터넷 과 소셜 미디어의 광범위한 사용으로 인해 전례 없는 속도로 전 세계의 수백만 명에게 전달될 수 있습니다.

우리는 언제든지 악의적인 딥페이크 사용에 인한 피해자가 될 수 있다는 점을 염두해야 합니다.

 

AI를 이용한 암호 추측


사이버 범죄자들은 머신러닝 기술을 이용해 사용자의 암호를 추측할 수 있는 알고리즘을 개선하고 있습니다.


해시에 해당하는 비밀번호를 성공적으로 식별하기 위해 비밀번호 해시와 다양한 변형을 비교하는 전통적인 방식의 암호 해독 소프트웨어는 이미 존재하고 있으며, 오픈 소스로 무료로 제공되는 소프트웨어도 있습니다.


하지만 여기서 생산적 적대 신경망 기술이 추가되면 사이버 범죄자는 방대한 암호 데이터 세트를 분석하고 통계 분포에 맞는 암호 변형을 생성할 수 있습니다.


여기서 생산적 적대 신경망(GAN - Generative Adversarial Networks)이란, 머신 러닝에 사용되는 인공지능 알고리즘으로 서로 적대적으로 경쟁하는 두 개의 신경 네트워크 시스템이 새로운 데이터를 생성하고 판별하는 과정을 통해 완벽에 가까운 데이터를 만들어내는 것이 목적입니다.


2020년 2월에는 실제로 14억개의 암호 변형 규칙을 생성할 수 있는 기능을 가진 암호 분석 도구가 공유되는 사이트가 발견되기도 했습니다.


이 암호 추측 기술을 통해 앞으로는 더 정확하고 표적화된 암호 추측이 가능해질 것으로 예상되며, 암호 노출로 인한 피해가 더 많이 발생할 수 있습니다.

 

소셜 네트워크 플렛폼을 속이기 위한 인간 사칭 봇


사이버 범죄자들은 소셜 네트워크 플렛폼에서 시스템을 속이기 위해 AI를 악용하고 있습니다.

예를 들어 사람과 유사한 사용 패턴을 모방해 소셜 네트워크 플랫폼에서 봇 탐지 시스템을 속이는 일을 진행합니다.


예를 들어 특정 노래의 스트리밍 횟수를 늘림으로써 특정 아티스트의 음원 차트 상승 및 스트리밍 이익을 부당하게 높일 수 있습니다.

이 시스템은 플렛폼의 탐지를 피하기 위해 임의의 노래가 포함된 재생 목록이 아닌, 인간과 유사한 음악적 취향을 따르는 다른 노래로 재생 목록을 만들기도 합니다.


또한 인스타그램과 같은 소셜 네트워크에서 가짜 계정을 만들고 좋아요 및 팔로우를 하는 봇을 만들 수 있습니다.

이 봇 역시 시스템의 탐지를 피하기 위해 AI 기술을 이용해 선택 및 드래그와 같은 인간과 같은 자연스러운 움직임까지 모방할 수 있습니다.




출처


https://en.wikipedia.org/wiki/Deepfake#Concerns

https://en.wikipedia.org/wiki/Hashcat

https://en.wikipedia.org/wiki/Generative_adversarial_network

카테고리