특히 온라인 플랫폼과 소셜미디어를 통해 확산 속도가 빨라지며 사실과 허위의 경계가 흐려지고, 여론 조작과 사회적 갈등을 부추기는 사례도 늘고 있다. 정보 소비가 텍스트 중심 매체에서 유튜브·인스타그램·틱톡 등 동영상 중심 시각 매체로 이동하면서, 자극적·편향적 콘텐츠가 알고리즘 추천을 타고 빠르게 퍼져 파급력이 커질 수 있다는 지적이 나온다.
이런 환경에서 딥페이크(deepfake)는 허위정보 확산을 한층 정교하게 만드는 핵심 요인으로 꼽힌다. 딥페이크는 인공지능(AI)과 딥러닝 기술로 영상·음성·이미지 등을 정교하게 조작해 원본과 거의 구별하기 어려운 콘텐츠를 생성할 수 있어, 정치적 선전·명예훼손·금융 사기 등 다양한 사회 문제로 이어질 가능성이 크다는 분석도 제기된다.
문제는 한국의 대응 체계가 그간 디지털 성범죄 등 특정 영역에 집중되면서 선거 개입, 경제적 사기, 언론 조작 등 딥페이크 기반 허위정보 전반을 포괄하는 대응은 상대적으로 미흡하다는 점이다. 이에 이정은·오효정(전북대) 연구진은 '딥페이크 기반 허위정보 대응 정책 비교 연구: 한국의 정책 보완 방향(<정보관리학회지>)'을 통해 한국의 현황을 점검하고, 미국·유럽연합(EU)·영국 사례와의 비교 분석을 바탕으로 개선 방향을 제시했다.
이정은·오효정/전북대(2025) 연구에 따르면 한국의 딥페이크 규제가 성범죄와 선거 기간에만 집중돼 비선거 기간 금융·산업·언론 분야의 허위정보 대응에 공백이 발생하는 것으로 나타났다. 연구진은 현재 각 영역이 따로 움직이는 대응 체계에서 벗어나 법적 의무, 기술 적용, 사회적 교육과 참여가 유기적으로 결합된 통합 프레임으로의 전환이 시급하다고 강조했다. / 이미지 디자인=로이슈 AI 디자인팀 (*본 이미지는 기사내용의 이해를 돕기 위해 AI로 생성한 것입니다.)
이미지 확대보기
딥페이크 기반 허위정보는 오픈소스 소프트웨어 확산과 맞물려, 전문 지식이 없더라도 몇 단계만 거치면 실제와 구분하기 어려운 영상·음성을 만들 수 있는 환경이 조성됐다. 딥페이크 기반 허위정보는 대체로 ▲선거 개입·여론 조작 등 정치적 목적, ▲금융 사기·주가 교란·기업 명예훼손 등 경제적 목적, ▲가짜 범죄 영상·허위 리포트 등 사회적 혼란 유발 유형으로 나타난다. 현재는 정치·경제 목적 사례가 상대적으로 두드러지지만, 향후 공포 조장과 사회 불안 증폭을 노린 형태도 증가할 수 있다는 전망이 나온다.
소셜미디어는 딥페이크 허위정보 확산을 가속하는 구조를 갖는다. 전통 뉴스는 검증 절차를 거치는 반면, 플랫폼에서는 개인이 정보를 생성·재유통하면서 신빙성 판단 과정이 축소되기 쉽다. 여기에 자극적·감성적 콘텐츠가 더 빠르게 노출되는 추천 알고리즘이 결합되면, 진위와 무관하게 딥페이크 콘텐츠가 단기간에 확산될 위험이 커진다. 이용자 측면에서도 자신의 신념과 일치하는 정보를 쉽게 믿는 확증 편향과, 정보 과부하 속에서 깊은 검토 없이 표면 정보로 판단하는 경향이 맞물리며 확산을 부추길 수 있다.
■ 한국의 대응: '선거·성범죄' 중심… 비선거·비성범죄 영역은 공백
법적 측면에서 한국은 딥페이크를 둘러싼 규제가 영역별로 분절돼 있다는 평가가 나온다. 예컨대 성폭력처벌 관련 법령과 청소년 보호 관련 규정 개정을 통해 딥페이크 성적 영상물의 제작·유포뿐 아니라 소지·시청까지 처벌 대상이 확대된 바 있다. 선거 영역에서는 2024년 개정된 「공직선거법」 제82조의8을 통해 선거일 90일 전부터 선거일까지 생성형 AI로 제작된 조작 영상의 제작·편집·유포·게시 등을 제한하는 조항이 마련됐다.
다만 딥페이크 규제는 성범죄·선거 등 특정 영역에 집중돼 있어, 선거 외 기간이나 금융·산업·언론 환경에서 발생하는 딥페이크 허위정보를 체계적으로 관리할 포괄적 법체계는 여전히 과제로 남는다. 국회에서도 생성형 AI 부작용을 막기 위한 관련 법안 논의가 이어지고 있으나, 제도화 수준과 실행 구조 면에서 보완이 필요하다는 지적이 제기된다.
기술적 측면에서는 과학기술정보통신부를 중심으로 범정부 태스크포스(TF)가 운영되고, 한국정보통신기술협회(TTA) 등이 영상 분석·워터마킹 등 콘텐츠 진위 판별 기술을 연구·개발 중인 것으로 알려져 있다.
민간 영역에서도 네이버·카카오 등 플랫폼 사업자가 콘텐츠 식별·신고·모니터링 체계를 강화하고 있다. 그러나 현장에서는 탐지 기술이 연구·시범 단계에 머물거나, 적용 범위가 제한돼 딥페이크 기반 '허위정보' 자체를 실시간으로 식별·차단하는 체계까지 충분히 확장되지 못했다는 평가도 나온다.
사회적 대응은 미디어(디지털) 리터러시 교육과 디지털 성범죄 예방 교육으로 나뉘어 추진돼 왔다. 다만 공교육 과정에서 미디어 리터러시가 체계적으로 자리 잡지 못했고, 시민이 허위정보를 신고·확인·공유할 수 있는 참여형 감시·대응 체계도 활성화 수준이 충분하지 않다는 지적이 반복된다. 결과적으로 '기술은 발전하지만 시민의 판별 역량과 대응 경로는 따라가지 못하는 간극'이 발생할 수 있다는 우려다.
■ 정책 제안: 한국은 '통합 프레임'이 필요하다
이정은·오효정(2025)은 딥페이크 기반 허위정보 대응을 법·기술·사회 측면에서 비교 분석하고, 한국 정책의 보완 방향을 제시했다. 핵심은 현재처럼 각 영역이 따로 움직이는 방식에서 벗어나, 법적 의무–기술 적용–사회적 교육·참여가 유기적으로 결합된 통합 프레임으로 전환해야 한다는 점이다.
첫째, 법적 대응은 '금지'보다 유통·확산 구조를 겨냥할 필요가 있다. 한국은 선거 기간 규제나 특정 범죄 대응을 넘어, 딥페이크 기반 허위정보를 정의하고 위험 유형별로 관리할 수 있는 포괄적 기준을 마련해야 한다. 특히 일정 규모 이상의 플랫폼에 대해 허위조작정보 대응 의무(탐지·신고 처리·접근 제한·삭제 절차 등)를 부과하는 방안이 검토될 수 있다. 다만 플랫폼의 자의적 판단이 표현의 자유를 침해하거나 '검열' 논란으로 번지지 않도록, 독립적 외부 심의·검증 구조와 투명한 이의 제기 절차를 함께 설계해야 한다.
법적 대응 과정에서 해외 제도는 '비교 기준'으로 참고할 수 있다. 예컨대 유럽연합(EU)은 디지털서비스법(DSA) 체계에서 대형 플랫폼의 위험 평가와 표시 의무 등을 명확히 하며, 영국은 온라인 안전법을 통해 플랫폼 책임을 강화하는 방향으로 제도를 발전시켰다. 미국에서도 연방·주 차원의 규제 논의와 함께 표시·책임 강화 움직임이 이어진다.
한국은 해외 사례를 참고하되, 국내 플랫폼 생태계와 언론·표현의 자유 환경을 고려해 책임 주체와 절차의 경계를 명확히 하는 '한국형 모델'을 설계할 필요가 있다.
둘째, 기술적 대응은 연구 개발을 넘어 현장 적용의 제도화가 관건이다. 탐지 기술의 고도화와 함께, 플랫폼에 실시간 탐지·신고 연동 체계를 적용할 수 있도록 제도적 기반을 마련해야 한다. 콘텐츠 출처와 변형 이력을 추적하는 워터마킹·디지털 서명 등 인증 기술은 국제 표준과의 정합성을 고려해 단계적으로 도입·확산할 필요가 있다. 해외에서는 C2PA(Content Provenance and Authenticity; 출처·진본성 검증 시스템) 등 표준 논의가 진행되는 만큼, 한국도 공공–민간 협력으로 기술 표준화와 적용 범위를 넓히는 전략이 요구된다.
셋째, 사회적 대응은 '리터러시'의 실효성을 높여야 한다. 단순한 이용 교육을 넘어, AI 조작 정보의 특징을 이해하고 출처 확인·교차 검증·전문가 분석을 참고하는 비판적 분석 능력을 키우는 방향으로 확장해야 한다. 아울러 시민이 딥페이크 의심 콘텐츠를 신고하고, 검증 결과를 공유할 수 있는 참여형 감시 체계와 공공 캠페인도 필요하다.
EU는 교육 의무화와 시민 참여형 대응 플랫폼을 결합해 운영하고 있으며, 미국은 팩트체킹 기관·교육 프로그램을 통해 대응 역량을 키우는 사례가 있다. 한국도 공교육 편입, 대국민 홍보, 신고–검증–차단으로 이어지는 절차를 촘촘히 설계해 대응력을 높일 필요가 있다.
결국 딥페이크 기반 허위정보는 기술 문제만이 아니라 민주주의와 안전, 신뢰의 문제다. 한국도 성범죄·선거 중심의 대응을 넘어, 플랫폼 책임과 기술 적용, 시민 역량 강화가 결합된 포괄적 대응 체계를 구축해야 한다는 제언이 설득력을 얻고 있다.
▶연구논문
이정은·오효정(2025). 딥페이크 기반 허위정보 대응 정책 비교 연구: 한국의 정책 보완 방향. 정보관리학회지, 42(1),155-182
김지연(Jee Yearn Kim) Ph.D. 독립 연구자로 미국 신시내티 대학교 형사정책학 박사 학위를 취득했다. 주요 연구 및 관심 분야는 범죄 행위의 심리학(Psychology of Criminal Conduct), 범죄자 분류 및 위험 평가(Offender Classification and Risk Assessment), 효과적인 교정개입의 원칙(Principles of Effective Intervention), 형사사법 실무자의 직장내 스트레스 요인, 인력 유지 및 조직행동(Workplace Stressors, Retention, and Organizational Behavior of Criminal Justice Practitioners), 스토킹 범죄자 및 개입 방법(Stalking Offenders and Interventions)이다.
김지연 형사정책학 박사 cjdr.kim@gmail.com
