국회미래연구원(원장 김현곤)은 5월 27일, 「국가미래전략 Insight」 제97호를 발간했다.
이번 보고서의 제목은 '생성 AI가 만든 진짜 같은 가짜 : 딥페이크의 진화와 의미'이다.

보고서의 저자 이승환 연구위원은 생성 AI 시대에 진화하는 딥페이크 기술에 대한 심층 분석을 통해 딥페이크로 인한 피해를 줄이기 위한 제도적 개선의 필요성을 강조했다.

딥페이크란 AI가 만들어 낸 진짜 같은 가짜 디지털 합성물로, 최근 세계적으로 딥페이크 시도가 급증하고 있다. 생성 AI 혁명의 시작을 알린 챗GPT 출시 이후, 딥페이크 관련 검색량이 급속히 증가하며 기술이 진화하고 있으며, 이제 누구나 낮은 비용으로 쉽게 딥페이크를 제작할 수 있는 여건이 조성되었다. 딥페이크는 생산성 증대와 사회혁신 등 긍정적인 측면에서도 활용될 수 있으나, 부작용 또한 존재한다. 최근 연예, 정치, 투자 분야에서 피해 사례가 속출하고 있으며, 이제 기업과 일반인도 피해 대상자가 되어 피해 범위와 규모가 확대되고 있다.

이승환 연구위원은 “생성 AI 시대에 진화하는 딥페이크에 대한 대비가 필요하다”며, “관련 위험을 줄이고, 올바르게 활용하기 위해 기술적, 사회·제도적 측면에서의 노력이 요구된다”고 제언했다.

피플즈나우 피플즈나우 kufabal@peoplesnow.kr 피플즈나우의 기사 더보기

저작권자 ⓒ 피플즈나우, 무단 전재 및 재배포 금지