[로이슈 전여송 기자] SK쉴더스는 글로벌 AI 레드팀 해킹대회 ‘저지먼트 데이(Judgement Day)’에서 자사 화이트해커 조직 EQST 소속 김병현 선임이 1위를 차지했다고 15일 밝혔다.

이번 대회는 생성형 AI의 의사결정 과정에서 발생할 수 있는 보안 취약점을 검증하기 위해 마련됐다. 참가자들은 AI가 금지된 행동을 수행하거나 안전 절차를 누락하도록 유도하는 공격 기법을 평가받았다.

대회는 응급환자 분류, 댐 수위 판단, 항공기 이상 징후 탐지 등 실제 산업 환경을 반영한 8개 시나리오를 기반으로 진행됐다.

김병현 선임은 이미지, 음성, 영상 등 다양한 입력 형태를 활용하는 멀티모달 프롬프트 인젝션 기법을 적용해 AI의 판단을 왜곡하는 방식으로 높은 평가를 받았다.

SK쉴더스에 따르면 김 선임은 실제 시스템 로그처럼 보이는 입력을 설계하거나 시스템 프롬프트에 정의되지 않은 예외 상황을 활용하는 방식으로 공격 성공률을 높였다.

같은 EQST 소속의 마준영 선임과 김신우 선임도 각각 5위와 7위를 기록했다.

EQST는 실제 공격 상황을 가정한 레드팀 서비스를 제공하고 있으며, 기업의 AI 시스템 보안 취약점 점검과 대응 전략 수립을 지원하고 있다. 회사는 대형언어모델(LLM) 보안 취약점 기준인 ‘OWASP Top 10 for LLM’을 반영한 자체 점검 체계를 운영하고 있다고 설명했다.

김병현 EQST Lab팀 선임은 “AI 판단을 교란하는 공격 가능성을 검증하고 이를 AI 안전성 연구로 연결할 수 있었다”며 “새로운 AI 위협에 대응하기 위한 연구를 지속하겠다”고 말했다.

김병무 SK쉴더스 사이버보안부문장은 “생성형 AI 활용이 확대되면서 AI 보안의 중요성이 커지고 있다”며 “AI 보안 역량을 바탕으로 고객의 안전한 AI 활용을 지원하겠다”고 밝혔다.

한편 이번 대회는 AI 안전성 전문기업 에임인텔리전스와 인공지능안전연구소가 공동 주최했으며, 지난 4월부터 약 8주간 진행됐다. GPT 계열 모델과 Gemini, Claude 등 최신 AI 모델을 기반으로 실제 산업 환경을 반영한 시나리오가 적용됐다.

전여송 로이슈(lawissue) 기자 arrive71@lawissue.co.kr