위 사진은 배진성 변호사의 유튜브 '상쾌한 배변'의 영상을 캡쳐한 사진입니다. 하지만 둘 중 한 사진은 AI를 통한 합성 기술로 변환을 해주었는데요. 과연 어느 쪽이 AI를 통한 '가짜 사진' 인지 구분이 되나요?
과거에는 한 손에 손가락이 6개가 되거나, 신체의 자세한 묘사까지는 어려웠다면, 요즘 AI는 AI로 만들어진 작업물인지, 실제 영상/이미지인지 판가름하기 어려운 수준까지 발전했죠. 이를 잘 활용한다면 무궁무진한 표현의 자유를 이룰 수 있겠지만, 사실 그보다 앞서 걱정되는 것은 AI를 활용한 범죄입니다.
무서운 속도로 발전한 AI로 인해 딥페이크 피해자들은 유례없는 몸살을 앓고 있죠.
오늘은 AI 기술을 활용한 딥페이크 형사 범죄에 대해 다뤄보려고 합니다.
01. 성범죄
가장 우려가 되는 것은 단연코 성범죄입니다.
AI가 대두되기 이전, 딥페이크 성범죄라고 하면 포토샵 등의 각종 앱을 이용한 합성 프로그램을 사용하여 노출 사진에 실제 지인 등의 얼굴을 합성한 방식의 범죄가 이루어졌죠.
하지만 포토샵 등 그래픽 프로그램을 이용해 그럴듯하게 합성하기 위해서는 수준 높은 합성 실력을 요하기에 접근성은 그다지 높지 않았습니다.
그러나 AI가 세상에 나타난 뒤, 쉽게 말해 '딸깍', 한 번이면 감쪽같이 합성해 주는 통에 누구나 불법 이미지 또는 영상물을 만들 수 있게 되었습니다.
■ 허위 영상물(성폭법)
AI를 이용해 만들어진 성적 영상을 '허위 영상물'이라고 하는데요.
대상자의 의사에 반하여 성적 수치심을 유발할 수 있는 형태로 편집, 합성, 가공된 영상물을 말하며, 흔히 얼굴을 합성하는 딥페이크 영상이 대표적입니다. 단순히 재미로 만들었더라도 타인에게 피해를 준다면 법적 처벌 대상이 됩니다.
그런데, 허위 영상물을 '제작·배포'만 한 것이 아니라 단순히 '시청·소지'만 하더라도 처벌받을 수 있는 것 아셨나요?
지난 2024년 말, 허위 영상물을 직접 만들거나 배포하지 않아도 소지하거나 시청만 하더라도 3년 이하의 징역 또는 3천만 원 이하의 벌금을 받을 수 있게 되었습니다.
<제작 및 배포>
- 허위 영상물을 제작하거나 배포하면 7년 이하의 징역 또는 5천만 원 이하의 벌금
<영리 목적 배포>
- 돈을 벌 목적으로 유포한 경우, 7년 이상의 유·무기징역(벌금형 없이 바로 징역형)
<소지·구입·시청>
- 직접 만들지 않아도 소지하거나 시청만 한 경우 3년 이하의 징역 또는 3천만 원 이하의 벌금
■ 아청법
허위 영상물보다 더 무거운 범죄가 있습니다. 바로 아동청소년성범죄방지법 일명 '아청법'인데요.
허위 영상물의 대상이 성인이 아닌 아동·청소년 즉, 미성년자의 경우 성인을 대상으로 한 허위 영상물보다 처벌이 더욱 무겁습니다.
<단순 배포·제공>
- 3년 이상의 유기징역
<제작 및 수입·수출>
- 무기징역 또는 5년 이상의 유기징역
<구입·소지·시청>
- 1년 이상의 유기징역
<영리 목적 판매·유포>
- 5년 이상의 유기징역
■ 허위 영상물임을 몰랐는데요!
허위 영상물임을 모른 채 시청·소지했다면 처벌 대상이 아닙니다. 정확하게 허위 영상물, 즉 딥페이크 영상인 것을 인지해야 고의가 인정되어 처벌 대상이 되는 것이죠.
영상을 받은 이후 딥페이크 영상임을 뒤늦게 알았다면 곧장 영상을 삭제하는 등의 조치를 취한 후 해당 영상이 딥페이크 영상임을 절대 몰랐음을 소명한다면 허위 영상물 소지·구입·시청 혐의는 벗을 수 있을 것입니다.
■ 아동·청소년 이용 음란물에서는 어떠할까요?
해당 아동·청소년 이용 음란물이 허위 영상물인지 모르고 소지·구입·시청을 했다? 안타깝게도 아동·청소년 이용 음란물의 요지는 '허위 영상물'이 아닙니다. '아청물'이 요지인 것이죠. 아청물이 허위 영상물임을 몰랐다고 하더라도 미성년자가 등장하는 성적인 영상임을 알았다면 꼼짝없이 아청법 위반에 해당합니다.
■ 캡쳐 사진의 정답은....
아, 가장 위 두 사진 중 배진성 변호사의 진짜 캡쳐본은 당연히 1번, 사슴이 욕설하기 시작한 이미지입니다. ^^.
(사슴이 배진성 변호사에게 다짜고짜 욕설하기 시작한 이유가 궁금하다면, ‘상쾌한 배변’ 유튜브, ‘보복 운전 당한 변호사가 참교육하는 방법’을 시청해 보세요!)
02. 명예훼손·모욕
AI 딥페이크 범죄 하면 쉽게 떠올릴 수 있는 '성범죄'가 아닌 또 다른 범죄가 있습니다. 바로 '명예훼손, 모욕'인데요. 성적인 뉘앙스는 전혀 없이 그저 누군가의 얼굴을 희화화하기 위해, 혹은 비난하기 위해 합성에 사용한다면 이 또한 꼼짝없이 형사처벌의 대상이 될 수 있습니다.
■ 모욕
정치인 A 씨의 얼굴을 웃긴 행동하는 강아지에 합성하여 희화화시킨 채 비난한다면 과연 괜찮을까요? 아니요, 전혀 괜찮지 않습니다. 이는 모욕죄에 해당할 수 있습니다.
1년 이하의 징역/금고 또는 200만 원 이하의 벌금에 처할 수 있죠.
■ 명예훼손
정치인 A 씨의 얼굴을 강아지가 아닌 웬 깡패에게 합성하여 마치 A 씨가 폭력을 행사한 것처럼 표현했다면 이는 명예훼손에 해당할 수 있습니다. 합성으로 하여금 공연히 허위 사실을 적시하여 타인의 사회적 평가 즉, 명예를 훼손시키는 일이기 때문이죠.
허위 사실 명예훼손은 5년 이하의 징역, 10년 이하의 자격정지 또는 1천만 원 이하의 벌금에 처할 수 있습니다.
