[로이슈 심준보 기자] BC카드가 금융 특화 임베딩 모델을 자체 개발해 공개했다고 2일 밝혔다.

BC카드에 따르면 개발된 모델은 경량형과 고품질형 2가지로 구성된다. 경량형은 약 6억개의 파라미터로 일반 CPU 환경에서 사용 가능하며, 글로벌 벤치마크 SOTA 평가에서 기존 모델 대비 최대 15% 향상된 성능으로 1위를 기록했다. 고품질형은 약 40억개의 파라미터로 GPU 환경에서 정밀한 검색이 필요한 업무에 적합하며 경량형 대비 약 10% 높은 성능을 제공한다고 설명했다.

생성형 AI는 질문과 문서의 의미를 좌표값으로 변환해 관련 정보를 찾는 방식인데, 기존 모델은 국내 금융 전문용어와 문맥을 충분히 이해하지 못했다. BC카드는 182만건 규모 금융 데이터셋으로 학습해 이러한 한계를 극복했으며, 외부 AI 서비스에 의존하지 않고 독자적인 금융 AI 서비스를 운영할 수 있는 기반을 마련했다고 회사는 밝혔다.

오성수 BC카드 상무는 "금융 특화 AI 검색 기술을 자체 확보해 정부의 소버린 AI 정책과 금융권 AI 전환 가속화에 부합하며, 한국형 금융 AI 생태계 구축에 기여할 것"이라고 말했다.

심준보 로이슈(lawissue) 기자 xzvc@lawissue.co.kr