'제2의 n번방' 딥페이크 점점 심각해지는 현재상황(+뜻 처벌수위 청원링크)

'제2의 n번방' 딥페이크 점점 심각해지는 현재상황(+뜻 처벌수위 청원링크)

'n번 방', '박사방' 사건을 계기로 디지털 성폭력 범죄에 대한 단속도, 처벌도 강화되었지만 인공지능을 이용해 연예인은 물론 일반인까지 합성한 불법 음란물 딥페이크는 여전히 온라인상에서 버젓이 공유되고 있습니다.

 

연예인 이름과 함께 딥페이크를 검색하면 쏟아지는 불법 영상들은 유명 연예인이 등장하는 것처럼 보이지만 실은 인공지능 기술을 이용해 얼굴만 합성한 딥페이크 음란물입니다. 해외 사이버 보안기업이 지난해 온라인상에서 확인한 딥페이크 영상은 약 1만 4천여건으로 이 가운데 디지털 성범죄 영상은 96%로, 피해자의 25%는 한국 여성 연예인이라고 합니다,

하지만 이제는 연예인뿐 아니라 일반인도 표적이 되고 있다고 하는데요. 이른바 '지인능욕'이라고 불리는데, SNS를 살펴보면 일반인들을 대상으로 합성 영상을 만들어준다는 글을 쉽게 찾아볼 수 있습니다. 이런 영상은 진위 확인이 어려워 피해자에게 더 큰 피해와 고통을 안겨주고 있습니다.

 

딥페이크란 인공지능 기술을 활용해 기존에 있던 인물의 얼굴이나, 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물을 말합니다. 과거 인물의 사진이나 영상을 조악하게나마 합성해 게시하던 것이 디지털 기술과 인공지능의 발전으로 몇 단계 정교해진 결과라 볼 수 있습니다.

 

원리는 다음과 같습니다. 합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 딥러닝하여, 대상이 되는 동영상을 프레임 단위로 합성시키는 것으로, 병렬연산장치(그래픽카드)의 성능에 따라 속도와 품질이 결정됩니다. 머리의 외곽선을 통째로 따서 합성하는 것이 아니고, 안면윤곽 안쪽 부분만 피부 톡을 맞춰 바꿔치기하는 방식으로, 즉 눈코입 부분만 합성하는 것이기 때문에 보다 자연스럽게 합성이 됩니다.

 

하지만, 아무런 방해물이 없는 상태의 일반적인 얼굴 표정은 잘 합성해내지만, 얼굴 근처에 다른 물체가 있다거나, 얼굴 자체가 프레임에서 일부 잘려나갔거나, 일반적으로 잘 볼 수 없는 매우 특이한 표정을 지었다던가 하면 대충 덮어 씌운 듯한 매우 부자연스러운 합성 결과가 나오고, 극단적인 경우 합성에 실패하여 그냥 원본 얼굴을 보여주기도 합니다.

 

이러한 특성을 인지하고 있으면 양산형 영상은 아주 쉽게 간파할 수 있으나, 반대로 이런 약점을 피하기 위해 합성 대상이 되는 사람과 비슷한 체형 및 얼굴형을 가진 사람이 찍힌 영상을 고르고, 대상자의 얼굴 표정을 매우 다양하게 학습시킨 상태에서 안면 부분에 별 다른 방해물이 없는 장면 위주로 작업을 해낼 경우에는 굉장히 자연스러운 결과가 나오게 됩니다,

딥페이크를 이용해 불법 음란물을 만들고 보는 것에 대해 이수정 경기대 범죄심리학과 교수는 "연예인 등 유명인을 대상으로 한 딥페이크 음란물은 수익을 노린 공급자, 즉 기술자들이 상품을 제작·배포하고 이를 헤비 유저들이 구매하는 구조"라며 "공급자들은 금전적 이득을, 수요자들은 성적인 만족을 취한다는 목적이 가장 일반적 형태"라고 설명했습니다.

 

따라서 딥페이크 음란물을 찾는 수요자와 이를 충족시켜주려는 공급자 간 금전이 오가는 마켓이 형성됐다는 의미죠. 성적인 자극에 있어 리얼리티가 얼마나 근접하느냐에 따라 만족도가 달라지게 되는데, 특이한 욕망이 있는 사람일 수록 영상 속 대상이 실존 연예인, 혹은 지인이라 생각하며 욕망을 충촉하기 때문에 딥페이크 음란물을 계속 찾게 되는 것이라고 합니다.

 

이미 지난해 성폭력 처벌 특례법 개정안에 따라 딥페이크 처벌 규정이 강화되었지만, 탐지 기술로 딥페이크 영상물을 거른다는 것이 쉽지가 않다고 합니다. 불법 영상 제작과 유포가 탐지 기술들을 교묘히 우회하고 있기 때문인데요. 대상자의 의사에 반해 성적 욕망이나 수치심을 유발하는 촬영·영상·음성물 등을 편집·합성·가공했거나 이를 배포하면, 5년 이하 징역 또는 5000만원 이하 벌금형을 받을 수 있습니다.

 

또한 불법 합성 영상 제작·유포에 돈을 받으면 7년 이상 징역형에 처합니다. 성적 수치심을 유발하지 않더라도, 합성 대상의 얼굴을 변형해 모욕감을 느끼게 하는 등의 행위도 명예훼손이나 초상권 침해 등의 범죄가 될 수 있기 때문에 좋은 의도에서 딥페이크 창작물을 만들었다 해도 본인의 직접적 동의 없이 만들어질 경우 적절한지에 대한 사회적 합의도 필요하는 제안도 나오고 있습니다.

하지만 딥페이크를 시청하는 등의 행위에 대해선 처벌 규정이 미비하기 때문에 경각심을 떨어트리고 있는데요. 해당 기술을 적용한 영상물은 소지·구매 시청하는 것만으로도 처벌받는 ‘불법 성적 촬영물’이 아니라 ‘허위 영상물’로 분류되기 때문입니다. 허위 영상물은 제작·유통·판매 행위에 대한 처벌만 규정하고 있습니다. 다만 합성을 의뢰하는 경우 사안에 따라 ‘교사’나 ‘공동정범’으로 처벌은 가능합니다.

 

상황이 점점 심각해지자 최근에는 머니브레인이 서울대 인공지능 연구실과 함께 딥페이크 기술 발전을 위한 ‘AI 딥페이크 탐지 AI 경진대회’를 성공적으로 열고, 과학기술정보통신부가 추진하는 ‘딥페이크 변조 영상 AI 데이터’ 분야 수행 기업으로 선정돼 딥페이크 검증을 위한 데이터 확보와 기술 개발에 심혈을 기울인 결과, 딥페이크 영상을 검증할 수 있는 딥러닝 모델을 출시했다고 합니다.

 

머니브레인 딥러닝 연구팀은 딥페이크 검증 신뢰도 향상을 위해 독일 뮌헨공대와 이탈리아 나폴리 페데리코 2세 대학 연구진이 개발한 ‘페이스포렌식++(FaceForensics)’ 데이터와 아마존(AWS), 페이스북, 마이크로소프트 등이 모여 만든 DeepFake detection challenge(DFDC) 데이터 그리고 머니브레인이 자체 수집한 KoDF(Korean deepFake detection dataset)까지 광범위한 데이터를 딥러닝 AI에 분석 학습시켜 해당 데이터에 포함된 딥페이크 영상의 검증률을 99%까지 끌어올렸습니다.

여기서 더 발전해 학습한 AI가 한 번도 보지 못한 새로운 딥페이크 영상에 대한 검증을 진행했으며, 진위 여부 판단은 약 90%의 높은 검증률을 보였다. 이는 해외에서 인정받고 있는 검증 모델보다 월등히 높은 수준의 검증률이라고 합니다.

 

딥페이크 기술은 원래 타인에게 성적 수치심을 유발하거나 음란물을 제작하기 위한 용도가 절대 아닙니다. 예술적 창작의 도구가 오남용 되고 있는 현실이 안타깝네요. 

 

딥페이크 처벌 청원링크입니다. www1.president.go.kr/petitions/595595

 

 

청소년,미성년자 범죄의 처벌수위와 형량 (N번방 방지법,아청법)+음란물 시청한 경우 처벌

 

N번방 방지법 SNS에서 팔로우,좋아요,리트윗,리블로그,추천,스크랩,판매,구매,공유,다운하면 처

 

N번방 방지법 토렌트 BJ영상 적발 확률, 사례 기록, 개념, 시드, 공유중단 무혐의(+아청법)

 

N번방 방지법 공포! 시행일은? AV,폰허브보면 처벌되는걸까? 소급적용 여부는? +개정안 총정리+

▼아청법개정, 아청물의 정의와 기준 처벌 자주하는 질문 (교복,애니,2D,폰허브,AV,나이,의도성,오인적발

 

아청법개정, 아청물의 정의와 기준 처벌 자주하는 질문 (교복,애니,2D,폰허브,AV,나이,의도성,오인