[로이슈 전여송 기자] KAIST 연구진이 2006년부터 2025년까지 네이버 뉴스 댓글 약 1억1266만 건을 분석해 외국 연계 영향력 활동이 의심되는 계정을 식별하고 판단 근거를 제시하는 인공지능 기술을 개발했다고 12일 밝혔다.

이번 연구는 KAIST 문화기술대학원 이원재 교수와 전산학부 차미영 교수, 오혜연 교수 공동연구팀이 독일 막스플랑크 보안 및 정보보호 연구소 토르스텐 홀츠 교수와 진행했다. 연구팀은 온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴을 탐지하고 그 판단 근거를 함께 제시하는 설명 가능한 인공지능 기술을 개발했다.

온라인 영향력 공작은 온라인 콘텐츠와 계정 활동을 이용해 특정 국가나 집단의 여론과 인식, 행동에 영향을 미치려는 조직적 활동을 뜻한다. 기존 인공지능 기반 탐지 방식은 특정 계정을 의심 대상으로 분류하더라도 판단 근거를 구체적으로 제시하기 어렵다는 한계가 있었다.

연구팀은 국가안보전략연구원이 앞서 보고한 외국 연계 계정 70개를 출발점으로 삼았다. 이들 계정과 팔로우 관계로 연결됐거나 같은 뉴스 기사에 댓글을 작성한 이용자를 후보군으로 확장해 2006년 4월부터 2025년 3월까지 작성된 뉴스 댓글 1억1265만8554건과 이용자 404만7831명의 데이터를 분석했다.

연구팀이 개발한 AI는 댓글을 세 단계로 분석한다. 먼저 작성 지역과 이용자명, 비원어민으로 추정되는 표현 및 문화·언어적 표현 등을 바탕으로 외국 연계 의심 단서를 판별한다. 이어 분노·경멸·혐오를 통한 비난이나 존경·찬양 등의 도덕감정을 분석하고 해당 감정이 어느 국가나 대상을 향하는지 분류한다.

각 단계에서는 댓글 본문과 이용자명, 작성 지역, 기사 제목 가운데 판단 근거가 된 텍스트 구간을 함께 제시한다. 연구팀은 여기에 댓글 수와 활동 기간, 반복 작성 패턴, 이용자 반응, 기존 확인 계정과의 관계 등 계정의 행동 특성을 결합했다.

분석 결과 전체 이용자 가운데 2만3998개 계정이 기존 확인 계정과 내용·행동·관계 측면에서 일관된 패턴을 보이는 의심 계정으로 식별됐다. 다만 연구팀은 이들 계정이 실제 특정 외국 정부나 기관에 의해 운영된다고 확정한 것은 아니라고 설명했다.

연구팀에 따르면 의심 계정 집단에서는 외국이나 우호 세력을 직접 긍정적으로 평가하는 것보다 한국과 한국 사회를 비난하는 메시지가 상대적으로 많이 나타났다. 이용자 호응이 높았던 한국 비난 댓글의 공격 대상 상위 10개 가운데 7개는 대통령이나 주요 정당 지도자 등 국내 정치인이었으며 진보와 보수 양쪽 인사가 포함됐다. 이는 모든 개별 계정이 양쪽 진영을 동시에 공격했다는 의미는 아니며, 동일 계정이 양쪽을 얼마나 번갈아 공격했는지는 이번 연구에서 직접 분석하지 않았다.

선거 시기에 활동을 시작한 의심 계정도 비선거 기간보다 많았다. 대통령선거와 국회의원선거, 지방선거 기간 새롭게 활동을 시작한 의심 계정은 주당 평균 34.19개로, 비선거 기간의 22.61개보다 약 51% 많았다. 한국을 비난하는 댓글의 평균 좋아요 비율은 0.514로 집계됐다.

연구팀은 이번 기술을 계정 자동 차단이나 제재가 아닌 전문가의 판단을 지원하는 방식으로 활용할 필요가 있다고 설명했다. AI가 대규모 댓글 가운데 추가 검토가 필요한 계정이나 메시지를 선별하고, 사람이 제시된 근거를 검토해 최종 판단하는 방식이다.

이원재 KAIST 문화기술대학원 교수는 “20년간의 데이터를 분석한 결과, 의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다”며 “선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것”이라고 설명했다.

공동 제1저자인 KAIST 김재홍 박사과정과 김현승 석사과정이 주도한 이번 연구는 국제학술대회 ‘USENIX Security Symposium 2026’에서 13일 발표될 예정이다.

전여송 로이슈(lawissue) 기자 arrive71@lawissue.co.kr