소형 언어 모델의 특정 도메인에서의 파인튜닝과 RAG의 성능 비교 - 질의응답과 감정분석을 중심으로

초록

거대 언어 모델에서 일부 특정 도메인에 대한 적응력 부족을 향상시킬 수 있는 기법인 파인튜닝(Fine-tuning)과 검색 증강 생성(RAG)의 장단점을 비교하는 연구가 활발히 진행되고 있다. 그러나 이러한 기존 연구는 질문과 정답의 출처 문서 쌍이 이미 입력된 환경에서도 여전히 RAG가 파인튜닝에 비해 특정 도메인의 성능을 손쉽게 향상시킬 수 있는 잠재력이 있는지에 대한 비교가 없었다. 이에 본 연구에서는 출처 문서가 이미 입력된 환경에서 소형 언어 모델(sLLM)을 활용한 한국어 기계독해(KorQuAD)와 감성 분석 작업(NSMC)에서 파인튜닝과 RAG의 성능을 비교하였다. 실험 결과, RAG는 기계독해에서 10.2%, 감성분석에서 32.3%의 성능 향상을 보였으며, 파인튜닝과 병행할 경우 각각 11.5%와 41.9%의 성능이 향상되었다. 이를 바탕으로, 컴퓨팅 자원이 부족하면 RAG를, 충분하다면 두 기법의 상호 보완 방식으로 성능을 향상시키는 방안을 제시하였다.

키워드