최근 AI 서비스를 개발하는 글로벌 빅테크 기업들 사이에서는 AI 윤리를 담당하는 ‘AI 레드팀’의 역할을 중요시하고 있다. 일반적으로 레드팀은 소프트웨어(SW) 보안 강화 역할을 맡은 사내 조직을 의미하는데, SW의 취약점과 함께 AI 서비스의 윤리와 신뢰성까지 교차 검증하며 유해한 콘텐츠가 생산되는 것을 사전에 막는다.
엔씨에서는 AI 사업 조직인 ‘엔씨 리서치 센터(NC Research Center)’ 산하 AI 데이터실이 레드팀의 역할을 수행한다. AI 데이터실 언어데이터팀이 사내 품질보증(QA)팀과 정기적으로 AI 서비스의 윤리 보안 시스템을 관리하며 안전한 제품을 만들기 위해 노력하고 있다. 또 필요에 따라 보안을 담당하는 외부 전문 조직과 협업도 진행하고 있다.
AI 모델이 가진 자체적인 윤리 보안성을 강화하기도 한다. 엔씨 리서치 센터 산하 연구 조직에서는 AI 모델에 ‘세이프티 파인튜닝’을 진행해 모델이 부정적인 콘텐츠를 학습하는 것을 스스로 차단하며, 모델에 별도의 세이프티 엔진 탑재함으로써 비윤리적인 발화를 생성하거나 적대적인 공격(Adversarial Attack)에도 원활히 대응할 수 있도록 조치하고 있다.
◆ 자체 AI 윤리 가이드라인 ‘AI Ethics Framework’ 수립
지난 2021년 ESG 리포트를 통해 AI 윤리 원칙 ‘NC AI Ethics Framework(NC AI 윤리 프레임워크)’를 공개한 바 있다. AI 기술이 ‘인간 중심의 AI’로 지속 성장할 수 있도록 ▲Data Privacy(데이터 보호) ▲Unbiased(편향되지 않는) ▲Transparency(투명성) 등 세 가지 핵심가치를 검토할 수 있도록 마련된 일종의 가이드라인이다.
엔씨(NC)는 실제 게임을 개발할 때도 NC AI 윤리 프레임워크를 적극 반영하고 있다. 일례로 ‘리니지W’, ‘리니지2M’ 등 주요 모바일 게임에서는 채팅에 ‘스팸 필터링 기술’을 적용해 13개 언어로 다양한 패턴의 광고 등을 식별해 차단하고 있다. 또 다양한 국가의 게이머들이 한 자리에 모이는 MMOPRG 특성 상 AI가 욕설, 편견, 비하 등의 비윤리적인 표현을 학습하지 못하게 하거나 생성할 수 없도록 사전 제어하기도 한다.
최영록 로이슈(lawissue) 기자 rok@lawissue.co.kr
