AI 대화의 새로운 패러다임: API, RAG, LoRA 이해하기

API — 배달 앱의 주문 창구

코딩을 몰라도 괜찮아요. 비유로만 이해해봅시다. GPT나 Claude 같은 AI 모델은 거대한 주방 안에 갇혀 있습니다. 우리는 그 안에 직접 들어갈 수 없어요. 대신 주문 창구(API)에 요청을 넣으면 결과를 받아볼 수 있습니다.

배달의민족을 떠올려 보세요. 우리는 요리사가 아닙니다. 그냥 앱에서 "김치찌개 1인분"을 누르면 됩니다. 이때 앱과 주방을 연결하는 창구가 바로 API입니다. AI도 마찬가지입니다. "이 문장 요약해줘"라고 보내면 요약된 결과가 돌아옵니다.

어떻게 흘러가냐면, 우리 앱에서 "이 계약서 3줄로 요약해줘"를 보냅니다. API 창구가 AI 주방에 전달하고, 요약 결과가 우리 화면에 돌아옵니다.

한 줄 정리: API = AI에게 일을 시키는 표준 주문 창구. 요리법은 몰라도, 주문법만 알면 됩니다.

RAG — 시험 보기 전에 교재 펼쳐보기

AI는 학습이 끝난 순간 지식이 고정됩니다. 우리 회사 내부 문서, 어제 올라온 공지, 올해 매출 데이터는 모릅니다. 이럴 때 RAG(검색 증강 생성)가 등장합니다.

오픈북 시험을 생각해보세요. 평소엔 책을 통째로 외울 필요 없습니다. 시험장에 교재를 가져가서 필요한 부분을 찾아보면 됩니다. RAG는 AI가 질문을 받을 때마다 관련 문서를 꺼내 참고하면서 답하게 만드는 방식입니다.

실제 흐름을 보면, 직원이 "올해 휴가 정책이 어떻게 돼요?"라고 묻습니다. 시스템이 사내 문서에서 관련 내용을 빠르게 검색하고, AI가 그 문서를 참고해서 정확한 답을 생성합니다. 출처도 함께 알려줍니다.

한 줄 정리: RAG = AI에게 우리 회사 교재를 쥐여주는 것. 새로 훈련할 필요 없이 최신 지식을 쓸 수 있습니다.

LoRA — 성격 이식 수술

API로 쓰는 AI는 범용입니다. 말투도 일반적이고, 우리 브랜드 색깔도 없습니다. LoRA(저순위 적응)는 AI의 기존 능력은 그대로 두고, 특정 스타일이나 규칙만 살짝 심어주는 방법입니다.

신입사원을 생각해보세요. 학교에서 배운 기본 능력은 있습니다. 거기에 우리 회사 특유의 보고서 양식, 고객 응대 말투, 업계 용어만 2주 교육으로 익히면 됩니다. 처음부터 다시 대학을 보낼 필요는 없죠. LoRA는 딱 이 "2주 교육"에 해당합니다.

어떤 경우에 쓰냐면, ✅ 우리 브랜드 특유의 따뜻하고 친근한 말투로 답하게 할 때, ✅ 법률 문서나 의료 보고서처럼 특정 형식을 반드시 지켜야 할 때, ✅ 특정 도메인의 전문 분류 기준을 학습시킬 때.

한 줄 정리: LoRA = AI의 지식은 그대로, 행동 방식만 우리 회사 스타일로 조정. 처음부터 만드는 것보다 100배 저렴합니다.

세 가지, 한눈에 비교

API, RAG, LoRA의 특징을 비교해보면 다음과 같습니다:

한 줄 요약: AI에게 요청하는 창구, 우리 문서를 실시간 참고, 말투·형식 행동 방식 조율

비유: 배달 앱 주문 창구, 오픈북 시험 교재, 신입사원 2주 교육

언제 쓰나: 항상 (기본), 최신 정보, 사내 지식 필요 시, 스타일·형식 고정 필요 시

비용: 낮음, 중간, 중간~높음

대부분의 경우 API + RAG의 조합이 현실적인 출발점입니다. 최신 정보가 필요하거나 사내 지식베이스를 연결해야 한다면 RAG, 말투나 출력 형식을 고정하고 싶다면 LoRA를 추가하면 됩니다.

중요한 건 이 순서입니다: API로 빠르게 써보기 → 필요하면 RAG 추가 → 정말 필요할 때만 LoRA. 처음부터 LoRA부터 시작하면 비용 대비 효과가 낮습니다. 단계를 건너뛰지 마세요.