AI를 싸고 빠르게 길들이는 기술, PEFT란 무엇인가

AI 서비스를 쓰다 보면 회사마다 비슷한 AI인데도 말투나 답변 성향이 조금씩 다르다는 것을 느낀 적이 있을 것이다. 이 차이를 만드는 핵심 기술 중 하나가 파인튜닝이다. 

파인튜닝은 이미 공부를 끝낸 AI를 다시 가르쳐 실제 서비스에 맞게 행동을 교정하는 과정이다. 문제는 요즘 AI 모델이 너무 커졌다는 점이다. 최신 언어 모델은 수십억에서 수천억 개의 숫자로 이뤄져 있는데 이 숫자 하나하나를 다시 조정하려면 비용과 시간이 상상을 초월한다. 

이 한계를 넘기 위해 등장한 방법이 바로 PEFT다. PEFT는 Parameter-Efficient Fine-Tuning의 약자로 한국어로 풀면 파라미터 효율적 파인튜닝이다. 이름이 어렵지만 개념은 의외로 간단한데, AI 전체를 다시 고치는 대신 꼭 필요한 부분만 살짝 손보자는 발상이다.

기존 파인튜닝은 AI의 뇌를 통째로 다시 훈련시키는 방식이었다. 이때 뇌에 해당하는 것이 파라미터다. 파라미터는 AI가 어떤 단어를 고르고 어떤 문장을 만들지 결정하는 수많은 숫자다. 

이 숫자를 전부 다시 학습시키면 성능은 잘 나오지만 GPU 비용이 폭증하고 학습 시간도 길어진다. 대기업이 아니면 감당하기 어려운 이유다. PEFT는 여기서 접근을 바꿨다. 이미 잘 학습된 파라미터는 그대로 두고 그 위에 작은 보정 장치를 붙이거나 일부만 조정한다. 

쉽게 말해 뇌 전체를 수술하는 대신 안경을 씌우거나 보조 장치를 다는 방식이다.

PEFT 방식 중 가장 널리 쓰이는 기술이 LoRA다. LoRA는 Low-Rank Adaptation의 약자로, 기술적으로는 대단히 난해한 개념이지만 핵심은 이렇다. AI의 기존 계산 방식은 그대로 두고 아주 작은 추가 계산 표를 옆에 붙인다. 이 작은 표만 학습시키면 AI의 답변 성향이 바뀐다. 

원래 뇌는 손대지 않으니 메모리는 적게 들고 저장해야 할 데이터도 작다. 실제로 수십 기가바이트짜리 모델 대신 몇십 메가바이트 파일만으로도 성격이 다른 AI를 만들 수 있다.

또 다른 방식은 어댑터 튜닝이다. 이는 AI의 각 층 사이에 작은 모듈을 끼워 넣는 방식이다. 본체는 그대로 두고 중간중간 필터를 다는 셈이다. 이 필터만 학습시키면 고객 상담용 AI, 요약 전용 AI 같은 역할 분담이 가능해진다. 회사 입장에서는 하나의 AI 엔진을 여러 서비스에 재활용할 수 있어 비용 효율이 높다.

프롬프트 튜닝과 프리픽스 튜닝은 더 과감하다. 이 방식은 AI 내부를 거의 건드리지 않는다. 대신 보이지 않는 특수한 문장을 입력 앞에 붙여 이 상황에서는 이렇게 행동하라고 미리 방향을 잡아준다. 사람으로 치면 매번 시험 전에 요약 노트를 쥐여주는 느낌이다. 

이 방식의 장점은 학습해야 할 데이터가 극도로 적어 개인 개발자도 시도할 수 있다는 것이다.

이런 경량 파인튜닝이 각광받는 이유는 몇 가지가 있다. 첫째, 비용이 낮아 GPU 한두 장으로도 가능하다. 둘째, 빠르다. 며칠이 아니라 몇 시간 안에 결과가 나온다. 셋째, 관리가 쉽다. 같은 AI 모델에 서로 다른 PEFT 파일만 바꿔 끼우면 전혀 다른 성격의 AI를 만들 수 있다. 

그래서 실제 기업들은 기본 모델 하나를 두고 업무별로 여러 PEFT 설정을 얹어 사용한다.

물론 한계도 있다. 아주 깊은 전문 지식이 필요한 분야에서는 여전히 전체 파인튜닝이 더 강력하다. PEFT는 이미 학습된 능력을 활용하는 방식이기 때문에 아예 새로운 지식을 주입하는 데는 적합하지 않다. 그래서 요즘 실무에서는 PEFT와 외부 문서 검색 기술을 함께 쓴다. 

AI 성격은 PEFT로 조정하고 정보는 외부 자료에서 가져오는 식이다. PEFT는 AI를 더 똑똑하게 만드는 것보다는 더 싸게, 빨리 움직이도록 길들이는 데 초점을 맞춘 기술인 셈이다. 지금 우리가 쓰는 많은 AI 서비스 뒤에는 이 경량 파인튜닝이 숨어 있다. 

거대한 AI 모델을 소수 기업만 독점하던 시대에서 누구나 자신의 목적에 맞게 AI를 조정할 수 있는 시대를 연 기술이 바로 PEFT라고 할 수 있을 것이다.