23.06.15
DEVOTEE를 활성화 시키면
지금 작성한 커뮤니티 글에 대해 1개의 댓글을 달아줍니다.
버튼을 누르면 글 수정 시 ChatGPT가 작성한 댓글이 수정됩니다.
| 컨텐츠 유형 | 제목 | 저장일 | 삭제 |
|---|
본인인증 로그인에 실패하였습니다.
회원이 아니시거나 본인인증 등록이
완료되지 않은 사용자입니다.
문서를 많이 검색해서 텍스트 생성 모델에 넣어주기만 하면 복잡한 규정이나 법률에 대한 정확한 답이 나온다는 생각이 일반적입니다. 하지만 실무 시스템에서 단순 RAG(Retrieval-Augmented Generation, 검색 증강 생성)를 운용해보면 텍스트 조각을 아무리 잘 찾아와도 그 조각들을 잇는 논리적 추론 단계에서 AI가 거짓을 사실처럼 만드는 환각(Hallucination) 현상을 자주 목격합니다.
문서 안에서 검색된 문단이 사실이라 할지라도, 문단 A와 문단 B를 결합해 "따라서 이 규정에 해당한다"라는 판정을 내리는 주체가 거대 언어 모델(LLM)이라면 논리적 엄밀성을 보장받기 어렵습니다. 모델은 문맥상 그럴듯한 문장을 이어 붙일 뿐, 규정 조항의 조건과 예외 관계를 기계적으로 계산하지 않기 때문입니다.
이러한 문제를 해결하기 위해 최근 기술 현장과 학계에서는 지식원 자체를 정형화된 관계망으로 구조화하고, 추론 영역을 전용 엔진에 넘기는 방식이 주목받고 있습니다. 공공SW 사업 법규정 적용을 위한 GraphRAG 설계 사례와 맨체스터 대학교 연구진이 발표한 OA-RAG(온톨로지 기반 에이전트 RAG)는 동일하게 문맥 검색의 한계를 정형 추론 구조로 극복하려는 시도를 보여줍니다.
공공 행정이나 법률 분야의 문서들은 단순한 텍스트 묶음이 아닙니다. 법률, 시행령, 지침, 예규가 상위-하위 관계와 전제 조건, 예외 조항으로 촘촘히 얽혀 있습니다. 단순한 키워드나 벡터 유사도 검색으로는 "특정 조항의 예외 규정이 다른 지침에 명시된 경우"를 올바르게 찾아내기 어렵습니다.
법규정 AI 상담서비스 구축을 위한 지식그래프 및 GraphRAG 설계 기술 문서에서는 공공SW 사업 관련 법규정의 관계를 구조화하여 시스템에 적용한 사례를 다룹니다. 이 시스템은 단순 문서 검색을 넘어 Local Search와 DRIFT Search라는 두 가지 하이브리드 탐색 기법을 사용합니다.
Local Search는 특정 법 조항이나 개념에 직접 연결된 하위 엔티티와 관계를 정밀하게 파악할 때 유효합니다. 반면 DRIFT Search는 복잡하게 얽힌 법 규정 전체에 대해 전역적인 맥락을 짚어가며 관련 노드를 탐색하는 방식입니다.
[사용자 질의: 대가산정 기준 예외 조항]
│
▼
┌──────────────┐ Local Search ┌────────────────────────┐
│ GraphRAG ├──────────────────────►│ 특정 조항 노드 및 │
│ Query Engine│ │ 직접 연결 엔티티 추출 │
└──────┬───────┘ └────────────────────────┘
│ DRIFT Search ┌────────────────────────┐
└──────────────────────────────►│ 상위 법률-하위 지침 │
│ 전역 탐색 경로 수집 │
└────────────────────────┘
텍스트 조각을 단순 벡터화하여 저장하는 대신, 규정 간의 연결 고리를 그래프 노드(Node)와 엣지(Edge)로 정의하면 AI 모델이 답변을 작성할 때 참고해야 할 전체 관계망을 빠짐없이 제공할 수 있습니다.
이 방식은 조건부로 유효합니다. 규정과 법률처럼 세부 조건과 상하 관계가 명확한 도메인에서는 검색 정확도를 비약적으로 높여주지만, 초기 지식그래프를 구축하는 과정에서 인적·시간적 비용이 많이 들어갑니다. 법규정이 개정될 때마다 그래프의 노드와 엣지를 동기화하는 백엔드 파이프라인이 갖춰지지 않았다면 도입을 보류해야 합니다.
GraphRAG가 검색 데이터의 구조화에 집중한다면, 학계에서는 한 걸음 더 나아가 추론(Reasoning) 영역 자체를 LLM 외부로 떼어내는 구조를 제안합니다. 2026년 10월 arXiv에 공개된 「OA-RAG: Ontology-based Agentic RAG for Faithful LLM Reasoning」 연구 논문은 온톨로지(Ontology, 지식의 개념과 관계를 엄격히 정의한 체계)와 Reasoner(추론 엔진)를 에이전트의 도구로 사용하는 아키텍처를 제시합니다.
OA-RAG: 온톨로지 reasoner를 도구로 쓰는 Agentic RAG에 따르면, 기존 RAG는 검색기(Retriever)가 관련 문단을 가져오면 그 문단들을 잇는 논리 계산을 순전히 LLM에 의존했습니다. 이로 인해 검색된 문단에 없는 내용을 모델이 자체 지식으로 메워버리거나, 논리적 모순이 있는 답변을 생성하는 문제를 막기 힘들었습니다.
OA-RAG 아키텍처는 역할을 엄격히 분리합니다. LLM은 자연어로 들어온 질문을 온톨로지 질의 언어(예: SPARQL 또는 Description Logic Query)로 번역하고, 정형화된 추론 엔진인 Reasoner가 규정 데이터베이스를 탐색하여 논리적 참·거짓 및 결론을 계산합니다. LLM은 Reasoner가 반환한 정형화된 계산 결과를 다시 사용자가 읽기 편한 자연어로 다듬어 출력하는 인터페이스 역할만 맡습니다.

그림 1. 기존 RAG와 OA-RAG에서 논리 계산을 맡는 주체 비교
// OA-RAG의 추론 인터페이스 구조 예시
interface OntologyReasoner {
// 정형화된 온톨로지 쿼리를 실행하여 엄격한 논리 결과를 반환합니다.
executeQuery(query: string): Promise<QueryResult>;
}
interface QueryResult {
isSatisfiable: boolean;
inferredFacts: string[];
proofTrace: string[]; // 추론 근거 경로
}
class AgenticRAGSystem {
constructor(
private readonly llmTranslator: LLMTranslator,
private readonly reasoner: OntologyReasoner
) {}
async answerQuestion(userPrompt: string): Promise<string> {
// 1. LLM은 자연어를 정형 온톨로지 쿼리로 변환합니다.
const formalQuery = await this.llmTranslator.toFormalQuery(userPrompt);
// 2. 논리 계산은 외부 Reasoner 엔진이 담당합니다.
const result = await this.reasoner.executeQuery(formalQuery);
if (!result.isSatisfiable) {
return "제시된 조건은 현재 규정과 충돌하여 적용할 수 없습니다.";
}
// 3. Reasoner가 계산한 명확한 증명 경로를 바탕으로 답변을 작성합니다.
return await this.llmTranslator.toNaturalLanguage(result.inferredFacts, result.proofTrace);
}
}
이 아키텍처를 사용하면 LLM이 임의로 논리를 비약하거나 없는 사실을 만들어내는 환각이 일어날 여지가 차단됩니다. 추론 과정이 Reasoner의 정형화된 비트 계산과 규칙 탐색으로 이뤄지므로, 답변의 출처와 논리적 근거 경로(proofTrace)를 100% 추적할 수 있습니다.
OA-RAG 접근법은 아직 지켜볼 단계입니다. 연구 논문 수준에서 개념 검증이 이루어진 상태이며, 다양한 산업군의 지식을 온톨로지 표준으로 변환하고 대규모 실시간 서비스에 적용하기 위한 추론 엔진 프레임워크의 성능 검증이 추가로 필요합니다.
두 기술 사례가 가리키는 실무의 변화는 명확합니다. 생성형 AI 시스템을 프로덕션에 도입할 때, 시스템의 역할을 단순 "문서 검색 + 문장 요약"으로 설계해서는 정교한 업무를 대체할 수 없습니다.
표 1. 단순 RAG, GraphRAG, OA-RAG의 구조와 도입 부담 비교
개발 실무 영역에서 이 방식을 적용하려면 백엔드 데이터 구조와 에이전트 루프의 연결 방식을 다듬어야 합니다. 텍스트를 나열하는 벡터 DB에만 의존하던 기존 백엔드에 지식그래프 DB(예: Neo4j) 또는 온톨로지 엔진을 나란히 배치해야 합니다.
실무 시스템을 구축할 때 적용 가능한 지식 그래프 구성 및 질의 파이프라인의 기본 형태는 아래 설정 예시와 같습니다.
# Agentic RAG 파이프라인 구성 예시 (graph_config.yaml)
knowledge_base:
type: "hybrid"
vector_store:
provider: "qdrant"
collection: "legal_documents"
graph_store:
provider: "neo4j"
uri: "bolt://localhost:7687"
schema_version: "2026.1"
search_strategy:
local_search:
depth: 2
max_nodes: 50
drift_search:
enabled: true
global_context_weight: 0.7
reasoning_engine:
mode: "external_reasoner"
strict_fact_checking: true
fallback_on_uncertainty: false
이러한 정형 추론 아키텍처의 도입 여부를 결정할 때는 다음 기준을 파악해야 합니다.
온톨로지와 지식그래프 기반의 Agentic RAG 시스템을 도입하기 전에 팀 내부적으로 다음 한 가지 질문을 확인해 보길 권합니다.
"우리 도메인의 규정과 지식 간 관계를 정형화된 그래프 또는 온톨로지 데이터로 정의하고 유지보수할 담당자나 자동화 파이프라인이 준비되어 있는가?"
단순 문단 검색 기반 RAG는 문서를 텍스트 파서로 잘라 벡터 DB에 넣으면 끝납니다. 하지만 정형 추론 기반 시스템은 지식 간의 관계(Edge)와 개념(Ontology)을 기계가 이해할 수 있는 형태 유지 관리하는 작업이 핵심입니다. 이 백엔드 파이프라인이 준비되어 있지 않다면, 단순 RAG 성능을 개선하는 최적화 작업부터 차근차근 진행하는 것이 바람직합니다.
DEVOTEE를 활성화 시키면
지금 작성한 댓글에 AI가 댓글을 달아줍니다.