▲ 고동진 국회의원(국민의힘, 서울 강남구병)     ©박상도 기자

(브레이크뉴스인천 박상도 기자) 국회 산업통상자원중소벤처기업위원회 소속 고동진 국회의원(국민의힘, 서울 강남구병)이 지난 2일 국회에 딥페이크 제작물을 유포 목적이 아니더라도 당사자의 의사에 반하여 제작(판매, 유포 및 이용 포함)하거나, 해당 제작물을 소지, 구입, 시청하여 당사자의 명예를 훼손한 자를 처벌할 수 있게 하는, ‘포괄적 딥페이크 방지 및 처벌법(형법 개정안)’을 제출했다고 밝혔다.

고동진 의원에 따르면, 최근 인공지능(AI) 기술을 악용한 딥페이크(합성하여 만든 가짜 영상, 사진, 음성) 범죄가 무분별하게 확산되고 있는 가운데, 지난달 미국 캘리포니아 주의회가 AI를 활용해 딥페이크 아동 성착취물을 제작, 배포, 소지하는 행위를 불법으로 규정한 법안을 통과시켰고, 영국의 경우 올해 4월 영상물이나 이미지를 유포할 의사가 없었다 해도 당사자의 동의 없이 딥페이크 영상물 등을 제작하는 경우 처벌할 수 있도록 법을 개정하는 등 세계 각국이 ‘딥페이크 방지 및 처벌’을 위한 입법을 신속히 추진하고 있다.

하지만 국내법의 경우 ‘성폭력범죄의 처벌 등에 관한 특례법’에서는 유포할 목적에 한정하여 처벌할 수 있도록 해 유포했다는 사실이 제대로 입증되지 않은 경우 처벌할 수가 없고, 이를 소지, 구입, 시청한 경우에는 처벌할 수 있는 근거 자체가 없는 상황이다. 

또한, 딥페이크가 성범죄 외 음성 등 AI보이스 피싱 사례에 악용될 수 있지만, 이를 예방 및 방지할 수 있는 법률적 근거가 미약한 실정이다.

이에 고동진 의원은  AI 기술을 이용한 딥페이크 제작물을 유포 목적이 아니더라도 당사자의 의사에 반하여 제작(판매, 유포 및 이용 포함)하거나,  해당 제작물을 소지, 구입, 시청하여 당사자의 명예를 훼손한 자에 대한 처벌 근거를 마련함과 동시에, 성범죄의 영상물뿐만 아니라 음성과 사진에 대한 딥페이크 규제 및 처벌 규정을 신설하여, ‘포괄적인 딥페이크 방지 및 처벌’이 가능하도록 하는 ‘형법 개정안’을 대표발의했다. (해당 위법사실의 경우 5년 이하의 징역 또는 5천만원 이하의 벌금에 처함.)

고동진 의원은 “딥페이크 기술이 실제와 구분이 어려울 정도로 정교해지고 있어 이를 효과적으로 방지하고 엄격히 처벌할 수 있는 법적 근거 마련이 시급하다”며 “신속한 입법을 통해 딥페이크 범죄의 사각지대 문제를 해결하겠다”고 말했다. 

*아래는 위 기사를 '구글번역'으로 번역한 영문기사의 [전문]입니다.‘구글번역’은 이해도 높이기를 노력하고 있습니다. 영문 번역에 오류가 있을 수 있음을 전제로 합니다.<*Below is the [full text] of the English article translated by 'Google Translate'. 'Google Translate' is trying to improve comprehension. It is assumed that there may be errors in the English translation.>

Rep. Koh Dong-jin submits 'Comprehensive Deepfake Prevention and Punishment Act' to the National Assembly

-Break News Incheon Park Sang-do reporter

Rep. Koh Dong-jin (People Power Party, Seoul Gangnam District B), a member of the National Assembly's Industry, Trade, Resources, SMEs and Startups Committee, announced on the 2nd that he submitted the 'Comprehensive Deepfake Prevention and Punishment Act (Criminal Act Amendment)' to the National Assembly, which would allow for punishment of those who produce (including sell, distribute, and use) deepfake productions against the will of the parties involved, even if it is not for the purpose of distribution, or who possess, purchase, or view such productions and damage the reputation of the parties involved.

According to Rep. Koh Dong-jin, while deepfake crimes (fake images, photos, and voices created by synthesizing them) using artificial intelligence (AI) technology have been spreading indiscriminately, the California State Assembly in the United States passed a bill last month that makes it illegal to produce, distribute, or possess deepfake child sexual exploitation materials using AI, and in the UK, in April of this year, the law was revised to allow punishment for producing deepfake videos without the consent of the parties involved, even if there was no intention to distribute the videos or images. Countries around the world are quickly pushing forward with legislation to “prevent and punish deepfakes.”

However, in the case of domestic law, the “Special Act on the Punishment, etc. of Sexual Crimes” allows punishment only for the purpose of distribution, so punishment is not possible if distribution is not properly proven, and there is no basis for punishment in the case of possession, purchase, or viewing of such materials.

In addition, deepfakes can be used for AI voice phishing cases other than sexual crimes, but there is little legal basis for preventing and preventing such cases.

Accordingly, Rep. Koh Dong-jin proposed a ‘Criminal Act Amendment Bill’ to establish a basis for punishment for those who create (including sell, distribute, and use) deepfake productions using AI technology against the will of the parties involved, even if it is not for the purpose of distribution, or who possess, purchase, or view such productions and thereby damage the reputation of the parties involved, while also establishing regulations and punishment provisions for deepfake not only for videos of sexual crimes but also for audio and photos, thereby enabling ‘comprehensive prevention and punishment of deepfake.’ (In the case of such illegal acts, imprisonment of up to 5 years or a fine of up to 50 million won is imposed.)

Rep. Koh Dong-jin said, “Deepfake technology is becoming so sophisticated that it is difficult to distinguish it from reality, so it is urgent to establish a legal basis to effectively prevent it and strictly punish it,” and “We will resolve the blind spot problem of deepfake crimes through swift legislation.”