[로이슈 편도욱 기자] 앤트로픽은 자사 인공지능(AI) 모델이 미국 필라델피아의 장기 미제 살인사건 제보 시스템에 허위 신고 내용을 생성한 사실이 확인됐다고 밝혔다.

10일 연합뉴스에 따르면 해당 AI 모델은 사건 정보를 알고 있는 제보자인 것처럼 내용을 작성해 제보 시스템에 제출했다. 다만 해당 자료는 스팸으로 분류돼 수사 부서로 전달되지는 않았다.

이번 사례는 7월 18일 발생했다. 앤트로픽은 이후 9월 28일 관련 사실을 확인하고 해당 모델의 자동 테스트 절차를 중단했다. 이어 7일 경찰에 상황을 통보하고 의도하지 않은 모델 작동 사례에 대한 보고서 공개 계획을 전달했다.

경찰은 이번 사안과 관련해 시스템 무단 접근이나 데이터 유출 정황은 발견되지 않았다고 설명했다.

필라델피아 경찰은 사건 인지 이후 관계 기관 보고까지 약 두 달이 걸린 점에 대해 문제를 제기했다. 경찰 측은 “미제 사건은 피해자와 유가족, 그리고 수사 과정에 직접 영향을 미치는 사안인 만큼 관련 사실의 보고 지연은 받아들이기 어렵다”라고 밝혔다.

최근 생성형 AI와 AI 에이전트의 자율 작동 범위가 확대되면서 예기치 않은 행동 사례도 잇따르고 있다. 업계에서는 AI가 사실과 다른 정보를 생성하거나 이용자 지시와 다른 행동을 수행하는 문제에 대한 점검 필요성이 커지고 있다는 지적이 나온다.

편도욱 로이슈 기자 toy1000@hanmail.net