[김기석 IR센터·AI대학혁신센터 팀장 / 콘텐츠학 박사]

얼마 전 유튜브에서 가수 비비의 ‘밤양갱’ 노래를 커버한 가수들이 곤욕을 치렀다. 유명가수 아이유, 오혁, 박명수 등의 목소리를 입혀 실제 밤양갱 노래를 부른 것처럼 보이는 영상인데, 이 영상들은 딥페이크로 제작돼 수십 만뷰의 조회수를 얻을 만큼 큰 화제가 됐다. 하지만 실제 밤양갱 커버곡은 해당 가수가 부른 것이 아닌, 가상의 목소리로 제작된 딥페이크 영상이었다.

네티즌들은 이에 대해 감쪽같이 속았고 소름이 돋는다는 반응이었다. 숨소리마저 똑같은 AI의 기술에 감탄하는 반면, 저작권이나 불법 도용의 문제로 불쾌감을 표현하는 반응도 있었다. 이처럼 우리 일상에 딥페이크 기술은 실제와 가상을 넘나들며 사람들의 다양한 반응을 이끌어내고 있다.

진짜처럼 감쪽같은 딥페이크 기술

딥페이크란 무엇일까? 딥페이크는 ‘딥러닝(deep learning)’과 ‘페이크(fake)’의 합성어다. 즉 특정 인물의 얼굴이나 목소리 등을 인공지능 기술을 이용해 영상에 합성해 또 다른 창작물을 만드는 신기술이다. 인공지능 기술로 제작된 가짜 동영상은 사실 여부에 관계없이 유튜브 등 다양한 소셜미디어를 통해 전파되고 유통된다. 인공지능 기술을 기반으로 한 인간 이미지 합성 기술로, 생성적 적대신경망(GAN)이라는 기계학습 기술을 활용해 기존 사진, 영상을 원본에 겹쳐 만드는 방식으로 이뤄진다.

그렇다면 딥페이크는 일상에서 어떻게 활용되고 있을까? 안타깝게도 현재 딥페이크 기술은 논란의 여지가 많다. 딥페이크의 유용성에 대해 찬성하는 입장 또는 범죄나 가짜 창작물 제작을 조장한다며 부정적 입장을 표하는 반대 입장 2가지다. 최근에는 딥페이크 기술의 발전에 따라 범죄나 도용 등 심각한 사회문제가 발생하고 있다. 포르노 영상에 유명인이나 일반인의 얼굴을 합성하는 경우도 있어 디지털 성범죄나 디지털 도용 문제의 심각성이 대두되는 상황이다.

딥페이크 악용 범죄로 인한 피해 사례

실제 2022년 1월부터 11월까지 딥페이크 성범죄 사건이 2723건으로, 2020년에 비해 5배 이상 증가했다. 유명인사의 경우 딥페이크에 대한 범죄에 더욱 많이 노출돼 있다. 최근에는 연예인 사진을 무단으로 도용해 딥페이크를 이용한 영상을 만들고, SNS에서 도박 방송을 하며 청소년이나 아이들의 온라인 도박사이트 가입을 유인한 일당이 경찰에 체포됐다. 이들은 성인뿐만 아니라 청소년까지 불법 도박사이트 가입을 유인해 3800억 원을 챙겼는데, 딥페이크를 악용해 범죄를 저지른 경우다.

딥페이크는 우리에게 새롭고 놀라운 기술로 다가올 수 있지만 웹사이트나 프로그램 등 인터넷 기술을 활용해 간단한 조작으로도 쉽게 딥페이크를 제작할 수 있어 우려스럽다. 딥페이크를 쉽게 접할 수 있는 사람들이 나쁜 의도를 품고 범죄나 도용 등 불법을 자행한다면 사회적으로 딥페이크 악용 사례가 크게 증가할 것이기 때문이다.

신종 범죄에 대응하기 위한 사회적 안전망 필요

이에 딥페이크 확산과 더불어 우리나라 정부와 관련 기관들은 발 빠른 대응책을 마련하고 있다. 행정안전부 국립과학수사연구원과 한국전자기술연구원은 ‘과학수사 분야 연구 협력’에 관한 업무 협약을 체결하고, 딥페이크 등 신종 인터넷 범죄들을 제대로 수사하기 위한 기술 연구개발에 앞장섰다. 딥페이크 악용으로 인한 사이버 범죄가 급증하는 가운데 미래 치안의 핵심은 첨단과학 기술을 더 빠르고 정확하게 개발하는 데 있다. 딥페이크가 범죄에 악용될 우려가 높은 만큼 향후 국민의 안전을 보장할 수 있는 과학적 수사기술을 개발해 치안을 강화해야 한다.

이제 더 이상 일반인, 유명인사들의 딥페이크 피해 상황을 좌시할 수만은 없다. 기술의 발전은 때로 삶을 편리하게 하지만 그에 따른 부작용도 존재한다. 딥페이크로 인한 피해를 줄이기 위해 법적 제제를 강화하면서도 기술적 대응을 지속해야 한다. 딥페이크 생성 알고리즘의 발전에 따라 검출 기술을 발전시켜 실시간 검출이 가능한 기술을 개발하고, 범죄에 악용되는 딥페이크를 걸러내도록 하는 기술을 하루빨리 개발해 보급해야 한다.

한국대학신문 https://news.unn.net/news/articleView.html?idxno=569966