OpenLab 2기 - TGO, FAQ 데이터셋 기반 LLM 챗봇은 어떻게 개발하면 좋을까?

sysmoon 24.11.13

254 2 0

facebook twitter kakao link

2 0

facebook twitter kakao link

DEVOTEE 요약: 본 블로그는 FAQ 데이터셋을 기반으로 LLM 기반의 챗봇을 개발하고자 할 때, RAG 파이프라인을 어떻게 구성할지 설명합니다. 질문만을 임베딩할 경우 구현이 간단하고 검색이 신속하지만 정확도가 떨어질 수 있는 반면, 질문과 답변을 함께 임베딩하면 정확도와 컨텍스트가 향상되지만 복잡성과 비용이 증가하게 됩니다. 각 접근 방법의 장단점을 비교하며 최적의 전략을 선택하기 위한 고려사항들을 제시합니다.

DEVOTEE 추천 블로그

소개

FAQ 데이터셋을 기반으로 LLM 기반의 챗봇 개발에 대해 소개합니다.

FAQ 데이터셋은 이미 질문(Question)과 정답지(Answer) 데이터가 준비된 상황입니다.

이 데이터셋을 KB(Knowledge Base)로 구성하여 FAQ 챗봇을 위한 최적의 RAG 파이프라인 개발이 필요합니다.

이 글에서는 RAG 파이프라인 과정중에 FAQ(질문지 + 답변)을 하나의 데이터로 Spllit & Chunking 하고, 임베딩하는 경우에 대해서 소개합니다.

FAQ 데이터셋 기반의 RAG 챗봇 개발 시, 질문만 임베딩하는 방식은 구현이 간단하고 빠른 검색이 가능하지만 정확도가 떨어질 수 있습니다.

반면 질문과 답변을 동시에 임베딩하는 방식은 더 정확하고 풍부한 컨텍스트를 제공하지만 구현이 복잡하고 계산 비용이 높습니다.

최적의 접근 방식을 선택할 때는 프로젝트의 요구사항, 데이터셋의 크기, 사용 가능한 리소스, 그리고 원하는 정확도 수준을 고려해야 합니다.

대규모 엔터프라이즈 환경에서는 하이브리드 접근법을 사용하여 두 방식의 장점을 결합하는 것도 좋은 전략이 될 수 있습니다.

아키텍처

FAQ 챗봇 구성을 위한 RAG 파이프라인 전체 구성도 입니다.

FAQ 데이터 수집
Web Scrapping 도구를 이용해서 데이터를 수집하거나 수동으로 데이터 Copy & Paste 하여 FAQ 데이터셋을 생성합니다.
Text Split & Chunking
Question(질문지) + Answer(답변) 을 하나의 Row 데이터로 Split Chunking 합니다.
Split & Chunking 데이터를 Word Embedding 하여 Vector Store 저장합니다.
유사도 검색을 하여 TOP 3개의 맥락정보(Relevant Doc) 가져옵니다.
맥락 정보를 LLM 에 Prompt Injection 하여 주어진 질문 + 맥락에 대해 답변을 생성합니다. (RAG)

FAQ Dataset

다음은 XXX 렌터카 회사의 FAQ 샘플 데이터셋 (faq.csv) 입니다.

질문지에 대한 답이 이미 존재하는 데이터셋입니다.

question	answer
제주지점에서 이용 가능한 부가용품은 무엇이 있나요?	고객님의 즐거운 여행을 위해 제주지점만의 다양한 부가용품을 운영하고 있어요. 차량 예약 시 부가상품도 한 번에 예약하고 결제하실 수 있어요. • 유아용품 : 유모차, 카시트 • 전기차 여행템 : 카페KIT, 시네마 KIT(국산 전기차 전용, * 니로 제외) • 여행템(전 차종) : 자전거, 트레킹, 피크닉 세트 • 키즈 굿즈 : 쿨시트, 부스터, 킥보드, 햇빛 가리개
단기렌터카 결제 수단에 대해 알고 싶어요.	대여료 결제는 예약자 본인 명의 신용 카드로만 가능하며, 결제까지 완료해 주셔야 예약이 확정됩니다. 또한 대여 당일 지점 방문 시 결제하신 카드를 지참해 주세요. 해당 카드 지참이 어렵다면 주 운전자(제1 운전자) 본인 명의의 카드를 필수로 지참해 주셔야 해요.
지점에 직접 연락해서 예약하는 것도 가능한가요?	SK렌터카 지점을 통해 직접 예약하시는 것도 가능합니다. 대여하고자 하는 지점으로 직접 연락하셔서 대여 기간과 차종을 말씀해 주시고, 회원 할인 등 적용되는 할인 프로그램을 선택하시어 예약 후 사용하시면 됩니다.
타인이 대리 예약할 수 있나요?	타인 예약은 불가능해요. 예약 시 결제카드 소유주와 운전자, 예약자가 모두 동일해야 합니다.
외국어 상담도 가능한가요?	고객센터 대표번호(1599-9111)연락한 후 6번을 누르시면, 영어로 유선 상담이 가능합니다. 또는 이메일(15999111@sk.com)로 문의사항을 접수 해주시면 확인 후 답변 드리겠습니다. If you call the customer service center number (1599-9111) and press number 6, you can receive telephone consultation in English. Alternatively, please submit your inquiry by email (15999111@sk.com) and we will respond after confirmation.
쿠폰은 어떻게 사용할 수 있나요?	쿠폰은 홈페이지를 통해 회원가입 하신 후 사용 가능해요. 예약 시 결제 전 단계에 쿠폰을 직접 등록하여 적용 받으실 수 있어요. (※ 쿠폰 사용 조건은 유의 사항 및 유효 기간을 참고해 주세요)
SK렌터카 회원은 어떤 혜택이 있나요?	SK렌터카 온라인 회원으로 가입해 주신 회원께서 단기 렌터카를 이용 하시면 할인 혜택을 제공해 드리고 있어요. 기본 회원할인 30%에 시즌 별 차등 할인율이 추가로 적용됩니다.
전기차 충전료 정산 기준은 어떻게 되나요?	충전료 정산은 고객님의 차량대여기간 중 실주행거리에 비례하여 산정해요 충전료 = (도착주행거리 – 출발주행거리) X 충전 단가 ※ 충전 단가는 정부정책 및 충전사업자 제휴단가 등 제반사정을 고려하여 조정될 수 있어요
운전면허 분실 시 차량 대여가 불가한가요?	홈페이지에서 예약 후 운전면허증을 분실하신 경우 출차 시 아래의 본인 확인 절차(택1)를 거친 후 차량 대여가 가능해요. - 182(경찰민원콜센터)를 통해 수신한 문자(면허정보)를 신분증과 함께 제시 - 민원 24(앱)를 통해 조회된 면허정보를 신분증과 함께 제시 - IC 모바일 면허증 또는 PASS앱 모바일 면허증 제시 ※ 유선(전화) 예약이나 지점 방문 예약 시에는 반드시 재발급 후 실물 운전면허증을 지참해 주세요.