특히 생성형 AI는 맥락에 따라 새로운 내용을 만들어낼 수 있지만, 정보의 참·거짓을 판단하는 기능은 갖추고 있지 않다. 사실 여부와 무관하게 그럴듯한 '완성형 정보'를 생산하는 생성형 AI의 특성이 알고리즘 추천 구조와 결합할 경우, 편향된 정보가 빠르게 재생산되며 확산될 위험이 크다는 분석이다.
이수경 교사(구현고)는 '디지털 리터러시 교육으로서의 딥페이크 성범죄 예방교육에 대한 비판적 고찰(<법과인권교육연구>)'에서, 딥페이크 기술이 성범죄와 결합하며 부정적 의미로 고착되는 현실을 짚고, 청소년 대상 예방교육을 디지털 리터러시 관점에서 보다 내실화할 필요가 있다고 제언했다. 연구가 제시한 쟁점과 개선 방향은 다음과 같다.
이수경 구현고 교사(2025)의 연구에 따르면 학교 내 딥페이크 성범죄 피해 신고가 561건, 피해자는 948명에 달하는 것으로 나타났다. 연구진은 "현행 예방교육이 딥페이크 기술과 범죄를 혼용하면서 '딥페이크=성범죄'라는 오개념을 형성할 위험이 있다"며 "디지털 세계의 구조적 특성 이해부터 시작하는 교육 재설계가 시급하다"고 강조했다. / 이미지 디자인=로이슈 AI 디자인팀(본 이미지는 기사내용의 이해를 돕기 위해 AI로 생성한 것입니다.)
이미지 확대보기
교육부가 17개 시도교육청을 통해 집계한 '학교 내 딥페이크 성범죄 피해 조사' 결과에 따르면, 2024년 11월 기준 누적 피해 신고는 561건, 학생·교직원 피해자는 948명에 달했다. 학교급별로는 고등학교가 300건(53.5%)으로 가장 많았고, 중학교 243건(43.3%), 초등학교 18건(3.2%) 순으로 나타났다.
디지털 기술을 악용한 성범죄는 여전히 증가세를 보이고 있으며, 특히 10대와 20대 비중이 압도적으로 높다는 점에서 학교 현장의 예방 역량과 교육적 대응의 중요성이 더욱 부각되고 있다.
■ '디지털 성폭력 SOS 가이드', 사후 대응 중심 한계
교육부는 디지털 성범죄 피해 학생이 발생할 경우 학교가 신속하고 체계적으로 대응할 수 있도록 '디지털 성폭력 SOS 가이드'를 마련했다. 가이드는 피해자 보호, 신고 절차, 권리 구제 등을 중심으로 구성돼 있다.
다만 가이드가 사건 발생 이후의 대응 절차에 초점을 맞추고 있어, 딥페이크 성범죄를 사전에 예방하기 위한 교육적 접근까지는 충분히 다루지 못하고 있다는 지적도 제기된다. 현재 시행 중인 딥페이크 성범죄 예방교육 역시 '예방'을 표방하고 있지만, 실제로 딥페이크 기술 이용자의 책임 의식을 얼마나 강화하고 있는지에 대해서는 점검이 필요하다는 목소리가 나온다.
■ 디지털 리터러시의 핵심은 '비판적 사고'와 '사회적 책임'
디지털 리터러시는 정보 전달 매체의 기술적 발전에 따라 미디어 리터러시에서 확장된 개념으로, 디지털 도구를 활용해 의사소통하는 능력을 의미한다. 최근에는 단순한 정보 수용을 넘어, 정보를 생산하고 그 사회적 영향과 파급 효과까지 고려하는 지식·기능·가치·태도를 포괄하는 개념으로 자리 잡고 있다.
이수경 교사는 디지털 리터러시 역량의 핵심 요소로 비판적 사고력과 사회적 책임을 제시했다. 비판적 사고력은 정보에 접근하고 분석·평가·비평하는 능력을 의미하며, 사회적 책임은 디지털 콘텐츠를 제작·표현·소통·참여하는 과정에서 개인이 사회에 미치는 영향을 인식하는 역량을 뜻한다.
■ 학교 현장의 예방교육, 무엇을 담고 있나
현재 국내에서는 교육부 차원의 학교 예방교육과 시도교육청별 맞춤형 예방교육이 병행되고 있다. 교육부는 디지털 성범죄 예방 교육의 일환으로 딥페이크 허위 영상물 제작 사례와 피해 발생 시 대처 방안을 담은 교육 자료를 학교급별로 제작해 한국양성평등교육진흥원이 운영하는 '디클(디지털 클린)' 누리집에 공유하고 있다.
교육 자료는 공통적으로 '비판적 이해'와 '참여(사회적 책임·이용 윤리)'를 중심으로 구성됐다. 초등학교와 중학교에서는 딥페이크 허위 영상물의 위험성을 이해시키기 위해 '제작' 요소를 통해 비판적 이해를 강화했고, 학교급이 높아질수록 비판적 이해와 참여 중심의 교육 내용이 강조됐다.
시도교육청 차원에서도 다양한 예방 활동이 진행되고 있다. 경북교육청은 예방 캠페인을, 인천시교육청은 유관기관과의 업무협약을 통해 공동 대응 체계를 구축했다. 충남교육청은 학년말 가이드라인을 제시했으며, 서울시교육청은 카드뉴스 형태의 예방교육 자료를 제공했다. 특히 경기도교육청은 디지털 시민교육의 일환으로 딥페이크 관련 예방 자료를 공유 문서 형태로 공개해 현장 활용도를 높였다. 일부 교육 자료는 교과 수업이나 창의적 체험활동 시간에 활용할 수 있도록 3차시(3회 수업)로 구성돼 접근·비판적 이해·참여 역량을 고루 반영한 것이 특징이다.
■ 예방교육의 딜레마…"오개념 형성과 호기심 자극" 우려
이수경 교사는 현행 딥페이크 성범죄 예방교육의 한계로, 딥페이크 기술 자체와 범죄 악용 사례가 혼용되면서 오개념이 형성될 수 있다는 점을 지적했다. 딥페이크는 본래 중립적인 기술임에도, 범죄 사례가 부각되면서 '딥페이크=성범죄·성착취물'로 단정하는 인식이 고착될 위험이 있다는 것이다. 기술의 순기능과 역기능을 구분해 이해하도록 하는 디지털 리터러시 교육의 취지와 충돌할 수 있다는 지적이다.
또 다른 문제로는 경각심을 강조하기 위한 교육 자료가 오히려 청소년의 호기심을 자극하거나 범죄 수법을 학습하는 결과로 이어질 수 있다는 우려가 제기됐다. 기술적 접근이 필요한 영역이 분명 존재하지만, 자료의 구성 방식과 전달 수위에 따라 역효과가 발생할 수 있다는 지적이다.
■ 개선 과제…"디지털 세계 구조 이해"부터, 대상·범주 세분화 필요
연구는 개선 방향으로 먼저 디지털 세계의 구조적 특성인 확산성·편파성·탈진실성을 교육 내용에 포함해야 한다고 제안했다. 애플리케이션 기반 기술 접근성과 AI의 결합으로 정보의 복제와 재생산이 확대되고, 알고리즘 추천 구조가 이용자의 선호를 강화하면서 편향성이 심화된다는 점을 학생들에게 이해시키는 것이 중요하다는 설명이다. '좋아요'나 '구독' 등 긍정적 반응을 유도하기 위해 자극적인 콘텐츠가 생산되며 탈진실성이 강화되는 구조 역시 교육 내용에 포함돼야 한다고 강조했다.
아울러 현실 자아와 온라인 대리 자아가 연결돼 있는 환경 속에서, 온라인 타인을 쉽게 대상화하는 인식이 죄책감 저하로 이어질 수 있다는 점도 함께 다뤄야 한다고 지적했다. 디지털 콘텐츠 수용자와 생산자를 구분해 주체별로 필요한 역량을 달리 설계할 필요가 있다는 설명이다. 수용자에게는 비판적 사고력을 강화하는 교육이, 생산자에게는 창작 과정에서의 시민 윤리와 사회적 책임을 포함한 교육이 요구된다는 것이다.
또한 예방교육의 대상 역시 당사자(가해·피해)와 비당사자로 구분해 접근해야 한다고 제언했다. 현재 예방교육은 비당사자를 잠재적 피해자로 전제해 구성돼 있다. 그러나 교육 과정에서 잠재적 가해 가능성을 충분히 고려하지 못하고 있으며, 범죄 유형 소개가 오히려 학습 효과로 작용할 우려도 있다는 지적이다.
교육 내용 역시 기술적 측면(탐지·차단), 법·제도적 측면(처벌·권리 구제), 교육적 측면(비판적 이해·사회적 책임)으로 구분해 설계할 필요가 있다고 봤다. 연구는 딥페이크 성범죄 예방교육이 기술 사용법을 가르치는 방식이 아니라, 딥페이크의 위험성과 사회적 영향, 이용 윤리를 중심으로 구성돼야 한다고 강조했다.
▶연구논문
이수경(2025). 디지털 리터러시 교육으로서의 딥페이크 성범죄 예방 교육에 대한 비판적 고찰. 법과인권교육연구, 18(2),45-61.
김지연(Jee Yearn Kim) Ph.D.
독립 연구자로 미국 신시내티 대학교 형사정책학 박사 학위를 취득했다. 주요 연구 및 관심 분야는 범죄 행위의 심리학(Psychology of Criminal Conduct), 범죄자 분류 및 위험 평가(Offender Classification and Risk Assessment), 효과적인 교정개입의 원칙(Principles of Effective Intervention), 형사사법 실무자의 직장내 스트레스 요인, 인력 유지 및 조직행동(Workplace Stressors, Retention, and Organizational Behavior of Criminal Justice Practitioners), 스토킹 범죄자 및 개입 방법(Stalking Offenders and Interventions)이다.
김지연 형사정책학 박사 cjdr.kim@gmail.com
