[로이슈 전용모 기자] 부산경찰청(청장 김성희) 사이버수사과는 AI 허위영상물을 제작해 자신의 유튜브 채널(○○○우)에 게시한 유튜버(40대·남)A씨를 전기통신기본법위반 혐의로 검거, 불구속 송치했다고 15일 밝혔다.

피의자는 자신이 주거지(오피스텔)에서 유튜브 채널(구독자 8.77만명)은 운영하며 지난 3워 28일 자신의 유튜브 채널에 “90만 배럴의 비축유가 북한에 전달되었다” 라는 내용의 동영상을 게시, 중동전쟁 원유 부족 사태에 대한 사회적 불안감을 조성했다.

이를 비롯해 “미국 민간군사기업이 여의도에 상륙한다”, “부정선거 관련 행안부 전직 고위직ㆍ특정 정당 인사에 대한 체포 압송 작전이 이루어진다”는 내용 등 사회적 관심도가 높은 현안에 대해 국가 안보, 선거에 대한 신뢰를 훼손하는 AI 허위영상물을 제작해 자신의 채널에 게시하는 방법으로 허위 통신한 혐의다.

피의자는 위와 같은 내용으로 수사를 받는 도중에도 “잠실 현장에서 중국 국적 복면 경찰이 폭력한다.”, “잠실 핸드볼 경기장 지하 용접 방화 테러 기도” 등 참정권 침해 관련 상황에 대한 허위정보를 추가로 게시했다.

피의자는 생성형 AI 프로그램을 이용해 특정 결론을 유도하는 방식으로 반복 질의를 수행, 정보 출처, 신뢰성 판단에 대한 AI의 혼선이 생기도록 오염시킨 뒤, 이를 바탕으로 원하는 허위정보 답변을 받아 이를 토대로 유튜브 영상과 방송 대본을 제작한 것으로 확인됐다.

경찰은 피의자가 후원을 목적으로 허위정보 영상을 유포하고, 관련 영상을 다수 배포한 점, 그로 인해 계속적으로 후원금을 송금받은 점에 비추어 혐의가 인정된다고 보아 불구속 송치하고, 유튜브 수익금(1천여만원)에 대한 기소 전 추징 보전을 신청했다.

부산경찰청 관계자는 “수익을 목적으로 인공지능(AI)으로 자료를 만들어 명백한 허위사실을 그럴듯하게 퍼뜨리는 허위정보 유포행위가 지속되어 사회적 혼란을 일으키고 있는 만큼, 엄정하게 대응하겠다”고 했다.

전용모 로이슈(lawissue) 기자 sisalaw@lawissue.co.kr