[한국공공정책신문=김유리 기자]
◇ 전이학습의 개념
전이학습(Transfer Learning)은 기존 학습된 모델의 지식을 활용하여 새로운 작업을 효율적으로 해결하기 위한 기술이다. 보통 기계학습 모델은 특정 작업을 위해 처음부터 많은 양의 데이터로 학습되지만, 전이학습에서는 이미 훈련된 모델을 재사용함으로써 새로운 문제에 대해서도 높은 성능을 발휘할 수 있다. 가령, 이미지 인식 분야에서는 대규모 데이터 세트(예, ImageNet)에서 사전 학습된 모델을 다른 이미지 인식 작업(예, 특정 동물을 식별하는 작업)에 적용할 수 있다. 이를 통해 처음부터 모델을 훈련할 필요 없이 데이터수집 부담과 계산 리소스 소비를 크게 줄일 수 있다.
◇ 전이학습의 구조
① 사전학습(Pre-training)이다. 먼저 대량의 데이터를 사용하여 모델이 일반적인 특징을 학습한다. 예컨대, 화상인식 모델에서는 다양한 카테고리의 화상을 사용하여 물체나 형상을 인식하는 능력을 취득한다. ② 파인튜닝(Fine-tuning)이다. 그런 다음 그 사전학습 모델을 바탕으로 새로운 작업에 특화된 데이터로 추가 학습을 진행한다. 이를 통해 모델은 새로운 작업에 최적화되어 높은 성능을 발휘할 수 있게 된다.
◇ 전이학습의 장점
① 데이터 효율 향상이다. 새로운 작업에 대량의 데이터를 준비할 필요 없이 적은 데이터로 효과적인 모델을 구축할 수 있다. ② 시간의 절약이다. 이미 학습된 모델을 사용하기 때문에 모델을 처음부터 학습하는 경우와 비교하여 훈련 시간이 크게 단축된다. ③ 계산 자원의 절약이다. 모델 학습에 필요한 계산 자원이 적어 자원의 효율적인 활용이 가능하다.
◇ 전이학습의 종류
전이학습에는 몇 가지 종류가 있다. 그 가운데 대표적인 것은 아래와 같다. ① 도메인 전이다. 서로 다른 데이터 세트 간에 지식을 전이하는 방법이다. 고양이와 개의 이미지를 인식하는 모델을 호랑이나 사자의 이미지 분류에 재사용하는 경우가 해당한다. ② 작업 전이다. 비슷한 작업 간에 지식을 전이하는 방법이다. 텍스트(text)분류 모델을 사용하여 감정 분석 등 다른 텍스트 관련 작업에 응용한다. ③ 특징 전이다. 학습된 모델의 특징 추출기를 이용하여 새로운 데이터에 대해서도 동일한 특징을 추출하여 최종 예측에 도움을 주는 방법이다.
◇ 전이학습의 실제 응용사례
① 의료다. 의료 분야에서는 전이학습이 의료 영상 진단에 이용되고 있다. 기존의 이미지 인식 모델을 병변 검출에 응용함으로써 효율적인 진단이 가능해진다. ② 자연어 처리(NLP)다. 사전 학습된 언어 모델(예, GPT 시리즈)을 특정 태스크(task, 감정분석이나 번역 등)에 파인 튜닝(fine tuning)함으로써 적은 데이터로도 고정밀 결과를 얻을 수 있다. ③ 로보틱스(Robotics)다. 로봇이 어떤 작업을 학습한 후 그 지식을 바탕으로 새로운 작업(예, 새로운 환경에서 이동이나 물체 조작)을 학습할 때 전이학습이 활용되고 있다.
이규철 / 법학박사(상법)
∙ AI·GPT, SDGs&ESG 코치 및 강사
∙ 100세대학 크리에이터 및 칼럼니스트
∙ 생성AI와 챗GPT, SDGs·ESG경영전략,
글로벌 MBAtoCEO, 리더의 필승전략,
100세대학 행복디자인 매뉴얼 등 27권
∙ 일본(와세다대),중국(복단대·화동정법대)
){kind=small}
){kind=small}
){kind=small}
){kind=small}