[로이슈 전여송 기자] KAIST는 전산학부 이재길 교수 연구팀이 대규모 언어모델의 학습 데이터를 선별하고 여러 그래픽처리장치(GPU)에 배분하는 미세조정 기술 '클러스터(CluSTER)'를 개발했다고 2일 밝혔다.

이번 기술은 인공지능(AI) 모델을 코딩이나 의료 등 특정 분야에 맞게 추가 학습시키는 과정에서 유사한 데이터의 중복 처리를 줄이고 GPU별 학습 데이터 배분을 조정하는 방식이다.

대규모 언어모델을 특정 분야에 활용하려면 관련 데이터를 추가로 학습시키는 미세조정 과정이 필요하다. 일반적으로 여러 GPU가 데이터를 나눠 처리하지만, 무작위로 배분할 경우 학습 효과가 유사한 자료를 반복 처리하면서 계산 자원이 소모될 수 있다.

연구팀이 개발한 클러스터는 각 데이터가 AI 모델의 학습 방향에 미치는 영향을 분석해 비슷한 데이터끼리 군집으로 분류한다. 이후 군집별로 다양한 데이터를 선별하고 서로 다른 GPU에 배분해 중복 계산을 줄이도록 설계됐다.

특히 데이터 선별 과정에서는 군집별 데이터 수를 균형 있게 조정하고, 학습 결과를 통합할 때는 각 군집이 원래 데이터에서 차지하던 비율에 따라 가중치를 적용한다. 이를 통해 데이터 사용량을 줄이면서도 기존 학습 데이터의 특성을 반영하도록 했다.

연구팀은 코딩과 의료 질의응답 분야의 공개 데이터 3종을 활용해 약 70억 개와 130억 개의 매개변수를 가진 대규모 언어모델을 대상으로 실험했다. 총 8개 성능 평가 시험을 진행했으며, 기존 데이터 선별 방법 5종과도 비교했다.

실험 결과 전체 데이터의 약 31%만 사용하면서도 모델 성능을 거의 유지했으며, 학습 시간은 최대 69.6% 단축됐다. 이는 기존에 10시간이 걸리던 학습을 약 3시간으로 줄일 수 있는 수준이다.

연구팀은 GPU 4개를 사용하는 환경을 중심으로 실험했으며, GPU 8개를 사용하는 환경에서도 기존 방식 대비 성능 개선을 확인했다고 설명했다. 다만 실제 산업 현장에 적용하기 위해서는 다양한 학습 환경과 대규모 데이터에서 추가 검증이 필요하다.

이번 연구에는 KAIST 전산학부 김현진 박사과정 학생이 제1저자, 이재길 교수가 교신저자로 참여했다. 토론토대학교 남영은 박사후연구원과 KAIST 데이터사이언스대학원 한재민·최원혁 석사과정 학생도 공동저자로 참여했다.

연구 결과는 지난 10월 자연어처리 분야 국제학술대회 'EMNLP 2026'에서 발표됐다. 연구는 과학기술정보통신부 재원으로 정보통신기획평가원의 지원을 받아 수행됐다.

연구팀은 향후 여러 서버가 연결된 병렬 학습 환경과 수십만~수백만 건 규모의 데이터로 검증 범위를 확대하고, 데이터 선별과 GPU 배분 기술을 기존 AI 학습 시스템에 적용하는 방안을 연구할 계획이다.

이재길 교수는 “AI 학습의 효율을 높이기 위해서는 GPU를 더 많이 사용하는 것뿐 아니라, 어떤 데이터를 학습할지 똑똑하게 선택하는 것도 중요하다”며 “이번 연구는 기존 GPU 자원을 더 효율적으로 활용해 대규모 AI 모델의 학습 부담을 줄일 수 있다는 점에서 의미가 있다”고 말했다.

전여송 로이슈(lawissue) 기자 arrive71@lawissue.co.kr