“ChatGPT는 우리 회사 내부 규정은 모르잖아요.” 맞습니다. 그래서 등장한 것이 RAG입니다. 기술 용어를 걷어내고, 실무자의 언어로 풀어 봅니다.
일반적인 AI는 인터넷에서 배운 지식으로 답합니다. 그래서 우리 회사의 내부 규정, 제품 매뉴얼, 과거 계약서 같은 ‘우리만의 자료’는 알지 못합니다. 여기서 등장하는 개념이 RAG(검색 증강 생성)입니다.
원리는 의외로 직관적입니다. 질문이 들어오면, AI가 답하기 전에 먼저 회사의 자료 더미에서 관련 문서를 ‘검색’해 가져오고, 그 내용을 바탕으로 답을 ‘생성’합니다. 모델 자체를 새로 학습시키지 않고도, 우리 자료에 근거한 답을 만들 수 있습니다.
실무적으로 이것이 중요한 이유는 두 가지입니다. 첫째, 답변에 ‘출처’가 생깁니다 — AI가 어떤 문서를 보고 답했는지 확인할 수 있어 신뢰가 높아집니다. 둘째, 자료가 바뀌면 답도 즉시 따라 바뀝니다.
사내 헬프데스크, 제품 문의 응대, 규정 검색 같은 업무에 특히 효과적입니다. 피플은 RAG가 ‘우리 조직에 정말 필요한지, 어디에 적용할지’부터 함께 진단해, 기술이 아니라 문제에서 출발하도록 돕습니다.
“핵심은 모델을 바꾸는 게 아니라, 모델에게 ‘우리 자료를 먼저 읽히는’ 것입니다.”