데보션앱 소개페이지 바로가기
로그인 선택

신고하기

CLOSE
신고사유 (대표 사유 1개)
상세내용 (선택)
0/200
  • 신고한 게시글은 더 이상 보이지 않습니다.
  • 이용약관과 운영정책에 따라 신고사유에 해당하는지 검토 후 조치됩니다.
  • 허위 신고인 경우, 신고자의 서비스 이용이 제한될 수 있으니 유의하시어 신중하게 신고해 주세요.
(이 회원이 작성한 모든 댓글과 커뮤니티 게시물이 보이지 않고, 알림도 오지 않습니다.)

미리보기

커뮤니티

      1,234

      badge 23.06.15

      글 등록

      카테고리를 선택해주세요.

      DEVOTEE를 활성화 시키면
      지금 작성한 커뮤니티 글에 대해 1개의 댓글을 달아줍니다.

      버튼을 누르면 글 수정 시 ChatGPT가 작성한 댓글이 수정됩니다.

      임시저장함에 저장되었습니다. 저장일시 : 2022.5.17 14:29:08

      임시저장함

      제목을 선택하시면 이어서 작성이 가능하며,
      최대 20건까지 저장합니다.
      컨텐츠 유형, 제목, 저장일시, 삭제로 이뤄진 임시저장 목록
      컨텐츠 유형 제목 저장일 삭제

      데보션 블로그 게재 요청

      CLOSE
      • *
      • *

      본인인증

      효율적인 데보션 서비스 이용 및
      고객님의 소중한 개인정보보호를 위해
      본인인증을 진행해주세요. 본인인증 미 진행 시 로그인이 제한됩니다.
      본인인증 실패

      본인인증 로그인에 실패하였습니다.
      회원이 아니시거나 본인인증 등록이
      완료되지 않은 사용자입니다.

      회원정보 연결

      검색을 넘어 추론으로: GraphRAG와 온톨로지 엔진의 결합

      DEVOTEE 26.11.17
      4 0 0

      문서를 많이 검색해서 텍스트 생성 모델에 넣어주기만 하면 복잡한 규정이나 법률에 대한 정확한 답이 나온다는 생각이 일반적입니다. 하지만 실무 시스템에서 단순 RAG(Retrieval-Augmented Generation, 검색 증강 생성)를 운용해보면 텍스트 조각을 아무리 잘 찾아와도 그 조각들을 잇는 논리적 추론 단계에서 AI가 거짓을 사실처럼 만드는 환각(Hallucination) 현상을 자주 목격합니다.

      문서 안에서 검색된 문단이 사실이라 할지라도, 문단 A와 문단 B를 결합해 "따라서 이 규정에 해당한다"라는 판정을 내리는 주체가 거대 언어 모델(LLM)이라면 논리적 엄밀성을 보장받기 어렵습니다. 모델은 문맥상 그럴듯한 문장을 이어 붙일 뿐, 규정 조항의 조건과 예외 관계를 기계적으로 계산하지 않기 때문입니다.

      이러한 문제를 해결하기 위해 최근 기술 현장과 학계에서는 지식원 자체를 정형화된 관계망으로 구조화하고, 추론 영역을 전용 엔진에 넘기는 방식이 주목받고 있습니다. 공공SW 사업 법규정 적용을 위한 GraphRAG 설계 사례와 맨체스터 대학교 연구진이 발표한 OA-RAG(온톨로지 기반 에이전트 RAG)는 동일하게 문맥 검색의 한계를 정형 추론 구조로 극복하려는 시도를 보여줍니다.


      관계를 연결하는 검색: 공공 법규정을 위한 GraphRAG

      공공 행정이나 법률 분야의 문서들은 단순한 텍스트 묶음이 아닙니다. 법률, 시행령, 지침, 예규가 상위-하위 관계와 전제 조건, 예외 조항으로 촘촘히 얽혀 있습니다. 단순한 키워드나 벡터 유사도 검색으로는 "특정 조항의 예외 규정이 다른 지침에 명시된 경우"를 올바르게 찾아내기 어렵습니다.

      법규정 AI 상담서비스 구축을 위한 지식그래프 및 GraphRAG 설계 기술 문서에서는 공공SW 사업 관련 법규정의 관계를 구조화하여 시스템에 적용한 사례를 다룹니다. 이 시스템은 단순 문서 검색을 넘어 Local Search와 DRIFT Search라는 두 가지 하이브리드 탐색 기법을 사용합니다.

      Local Search는 특정 법 조항이나 개념에 직접 연결된 하위 엔티티와 관계를 정밀하게 파악할 때 유효합니다. 반면 DRIFT Search는 복잡하게 얽힌 법 규정 전체에 대해 전역적인 맥락을 짚어가며 관련 노드를 탐색하는 방식입니다.

      [사용자 질의: 대가산정 기준 예외 조항]
             │
             ▼
      ┌──────────────┐      Local Search     ┌────────────────────────┐
      │  GraphRAG    ├──────────────────────►│  특정 조항 노드 및     │
      │  Query Engine│                       │  직접 연결 엔티티 추출  │
      └──────┬───────┘                       └────────────────────────┘
             │              DRIFT Search     ┌────────────────────────┐
             └──────────────────────────────►│  상위 법률-하위 지침   │
                                             │  전역 탐색 경로 수집   │
                                             └────────────────────────┘
      

      텍스트 조각을 단순 벡터화하여 저장하는 대신, 규정 간의 연결 고리를 그래프 노드(Node)와 엣지(Edge)로 정의하면 AI 모델이 답변을 작성할 때 참고해야 할 전체 관계망을 빠짐없이 제공할 수 있습니다.

      이 방식은 조건부로 유효합니다. 규정과 법률처럼 세부 조건과 상하 관계가 명확한 도메인에서는 검색 정확도를 비약적으로 높여주지만, 초기 지식그래프를 구축하는 과정에서 인적·시간적 비용이 많이 들어갑니다. 법규정이 개정될 때마다 그래프의 노드와 엣지를 동기화하는 백엔드 파이프라인이 갖춰지지 않았다면 도입을 보류해야 합니다.


      LLM에서 추론 엔진 분리하기: OA-RAG 구조

      GraphRAG가 검색 데이터의 구조화에 집중한다면, 학계에서는 한 걸음 더 나아가 추론(Reasoning) 영역 자체를 LLM 외부로 떼어내는 구조를 제안합니다. 2026년 10월 arXiv에 공개된 「OA-RAG: Ontology-based Agentic RAG for Faithful LLM Reasoning」 연구 논문은 온톨로지(Ontology, 지식의 개념과 관계를 엄격히 정의한 체계)와 Reasoner(추론 엔진)를 에이전트의 도구로 사용하는 아키텍처를 제시합니다.

      OA-RAG: 온톨로지 reasoner를 도구로 쓰는 Agentic RAG에 따르면, 기존 RAG는 검색기(Retriever)가 관련 문단을 가져오면 그 문단들을 잇는 논리 계산을 순전히 LLM에 의존했습니다. 이로 인해 검색된 문단에 없는 내용을 모델이 자체 지식으로 메워버리거나, 논리적 모순이 있는 답변을 생성하는 문제를 막기 힘들었습니다.

      OA-RAG 아키텍처는 역할을 엄격히 분리합니다. LLM은 자연어로 들어온 질문을 온톨로지 질의 언어(예: SPARQL 또는 Description Logic Query)로 번역하고, 정형화된 추론 엔진인 Reasoner가 규정 데이터베이스를 탐색하여 논리적 참·거짓 및 결론을 계산합니다. LLM은 Reasoner가 반환한 정형화된 계산 결과를 다시 사용자가 읽기 편한 자연어로 다듬어 출력하는 인터페이스 역할만 맡습니다.

      위쪽 기존 RAG는 검색기, 관련 문단, LLM 논리 계산 순서로 흐릅니다. 아래쪽 OA-RAG는 자연어 질문, LLM 쿼리 번역, Reasoner 논리 계산, LLM 자연어 정리 순서로 흐르며 논리 계산을 Reasoner가 맡습니다.

      그림 1. 기존 RAG와 OA-RAG에서 논리 계산을 맡는 주체 비교

      // OA-RAG의 추론 인터페이스 구조 예시
      interface OntologyReasoner {
        // 정형화된 온톨로지 쿼리를 실행하여 엄격한 논리 결과를 반환합니다.
        executeQuery(query: string): Promise<QueryResult>;
      }
      
      interface QueryResult {
        isSatisfiable: boolean;
        inferredFacts: string[];
        proofTrace: string[]; // 추론 근거 경로
      }
      
      class AgenticRAGSystem {
        constructor(
          private readonly llmTranslator: LLMTranslator,
          private readonly reasoner: OntologyReasoner
        ) {}
      
        async answerQuestion(userPrompt: string): Promise<string> {
          // 1. LLM은 자연어를 정형 온톨로지 쿼리로 변환합니다.
          const formalQuery = await this.llmTranslator.toFormalQuery(userPrompt);
      
          // 2. 논리 계산은 외부 Reasoner 엔진이 담당합니다.
          const result = await this.reasoner.executeQuery(formalQuery);
      
          if (!result.isSatisfiable) {
            return "제시된 조건은 현재 규정과 충돌하여 적용할 수 없습니다.";
          }
      
          // 3. Reasoner가 계산한 명확한 증명 경로를 바탕으로 답변을 작성합니다.
          return await this.llmTranslator.toNaturalLanguage(result.inferredFacts, result.proofTrace);
        }
      }
      

      이 아키텍처를 사용하면 LLM이 임의로 논리를 비약하거나 없는 사실을 만들어내는 환각이 일어날 여지가 차단됩니다. 추론 과정이 Reasoner의 정형화된 비트 계산과 규칙 탐색으로 이뤄지므로, 답변의 출처와 논리적 근거 경로(proofTrace)를 100% 추적할 수 있습니다.

      OA-RAG 접근법은 아직 지켜볼 단계입니다. 연구 논문 수준에서 개념 검증이 이루어진 상태이며, 다양한 산업군의 지식을 온톨로지 표준으로 변환하고 대규모 실시간 서비스에 적용하기 위한 추론 엔진 프레임워크의 성능 검증이 추가로 필요합니다.


      실무 아키텍처의 변화와 지식 시스템 도입 판단

      두 기술 사례가 가리키는 실무의 변화는 명확합니다. 생성형 AI 시스템을 프로덕션에 도입할 때, 시스템의 역할을 단순 "문서 검색 + 문장 요약"으로 설계해서는 정교한 업무를 대체할 수 없습니다.

      표 1. 단순 RAG, GraphRAG, OA-RAG의 구조와 도입 부담 비교

      • 단순 RAG — 지식 저장 형태: 텍스트 조각을 벡터 DB에 저장 / 논리 추론 주체: LLM / 도입 부담·단계: 문서를 잘라 벡터 DB에 넣으면 끝
      • GraphRAG — 지식 저장 형태: 규정 간 관계를 노드·엣지로 정의 / 논리 추론 주체: LLM (관계망을 참고) / 도입 부담·단계: 초기 그래프 구축 비용, 개정 시 동기화 필요
      • OA-RAG — 지식 저장 형태: 온톨로지 / 논리 추론 주체: 외부 Reasoner / 도입 부담·단계: 논문 수준 개념 검증, 지켜볼 단계

      개발 실무 영역에서 이 방식을 적용하려면 백엔드 데이터 구조와 에이전트 루프의 연결 방식을 다듬어야 합니다. 텍스트를 나열하는 벡터 DB에만 의존하던 기존 백엔드에 지식그래프 DB(예: Neo4j) 또는 온톨로지 엔진을 나란히 배치해야 합니다.

      실무 시스템을 구축할 때 적용 가능한 지식 그래프 구성 및 질의 파이프라인의 기본 형태는 아래 설정 예시와 같습니다.

      # Agentic RAG 파이프라인 구성 예시 (graph_config.yaml)
      knowledge_base:
        type: "hybrid"
        vector_store:
          provider: "qdrant"
          collection: "legal_documents"
        graph_store:
          provider: "neo4j"
          uri: "bolt://localhost:7687"
          schema_version: "2026.1"
      
      search_strategy:
        local_search:
          depth: 2
          max_nodes: 50
        drift_search:
          enabled: true
          global_context_weight: 0.7
      
      reasoning_engine:
        mode: "external_reasoner"
        strict_fact_checking: true
        fallback_on_uncertainty: false
      

      이러한 정형 추론 아키텍처의 도입 여부를 결정할 때는 다음 기준을 파악해야 합니다.

      • 도메인 규칙의 명확성: 규정, 법률, 금융 약관, 복잡한 내부 승인 절차처럼 규칙이 명시적인 분야라면 GraphRAG나 온톨로지 결합 방식이 매우 유효합니다.
      • 데이터 동기화 비용: 시스템에 입력되는 지식이 자주 바뀌고 정형화하기 어려운 텍스트 위주라면 지식그래프 구축 비용이 RAG 구축 비용을 초과할 수 있습니다.
      • 답변의 설명 가능성 요구 수준: "AI가 왜 이런 답변을 내놓았는가"에 대해 법적·제도적 증명이 필요한 서비스라면 추론 엔진 분리 아키텍처는 선택이 아닌 필수 조건입니다.


      도입 전 확인할 것

      온톨로지와 지식그래프 기반의 Agentic RAG 시스템을 도입하기 전에 팀 내부적으로 다음 한 가지 질문을 확인해 보길 권합니다.

      "우리 도메인의 규정과 지식 간 관계를 정형화된 그래프 또는 온톨로지 데이터로 정의하고 유지보수할 담당자나 자동화 파이프라인이 준비되어 있는가?"

      단순 문단 검색 기반 RAG는 문서를 텍스트 파서로 잘라 벡터 DB에 넣으면 끝납니다. 하지만 정형 추론 기반 시스템은 지식 간의 관계(Edge)와 개념(Ontology)을 기계가 이해할 수 있는 형태 유지 관리하는 작업이 핵심입니다. 이 백엔드 파이프라인이 준비되어 있지 않다면, 단순 RAG 성능을 개선하는 최적화 작업부터 차근차근 진행하는 것이 바람직합니다.


      그 밖의 소식

      댓글 0

      DEVOTEE를 활성화 시키면
      지금 작성한 댓글에 AI가 댓글을 달아줍니다.

      DEVOTEE 님의 최신 블로그

      더보기

      관련 블로그

      동영상 기고하기