DEVOCEAN

안녕하세요, 이번 데보션 2기 [AI 시대 자동화 시스템과 대화하는 새로운 방법] 스터디의 윤도균입니다.

이번 포스팅은 첫번째 스터디를 마치고 스터디 후기 겸 정리를 적어보려고 합니다.

그럼 저희 스터디의 이야기를 시작해보겠습니다.

LLM으로 충분하지 아니한가?

저희의 스터디는 위의 "LLM으로 충분하지 아니한가?" 라는 질문에서 시작했었습니다.

답정너식이긴 하지만 이 질문에 대해 저희가 생각한 대답은 "LLM만으론 충분하지 않다" 입니다.

그 이유는 LLM은 할루시네이션이 있기 때문이라는 것입니다.

Figure. 할루시네이션이 만들어낸 세종대왕의 맥북 던짐 사건

위처럼 LLM은 할루시네이션이 존재하기 때문에 실제로 없었던 사건과 잘못된 지식을 전달할 수 있다는 문제가 있습니다.

그렇다면 할루시네이션을 RAG (Retrieval Augmented Generation) 방식으로 LLM을 보완한다면 어떨까요?

RAG를 사용하면 Retrieval된 정보로 Grounding 되는 효과가 있기 때문에 검증된 정보를 Retrieval 한다면 할루시네이션은 보완할 수 있습니다.

RAG로는 충분하지 아니한가?

그럼 RAG에 대해서는 위의 질문을 또 다시 할 수 있습니다.

물론, 저희가 생각한 대답은 "No"입니다.

기존의 RAG로 Retrieval 해오는 정보들은 문서의 일부에 불과해 사실 매우 단편적인 정보들 뿐입니다.

그래서, 아래와 같이 여러 정보를 활용하는 경우 문제가 발생하게 됩니다.

위 그림은 화재의 원인을 묻는 문제입니다.

제품 A의 설명서에서 전원을 분리하지 않았을 때 화재가 발생할 수 있다는 정보가 담겨있고, 화재 상황 보고서에는 제품 A가 있었다는 정보가 담겨 있었습니다.

따라서, 화재의 원인에 대해서 답하려면 이 두가지 정보를 활용해야 합니다.

그러나, RAG는 단편적인 정보를 활용하기에 두가지 정보를 동시에 활용하는 것은 어렵습니다.

그래서 많은 Advanced RAG 방식이 제안되고 있습니다.

그 중, 저희가 본 스터디에서 탐구하고자 하는 방법은 마이크로소프트에서 공개한 GraphRAG와 Ontology에서의 추론 방식이었습니다.

이 경우에는 그래프로 표현된 정보(node)들과 정보간의 관계(entity)를 통해 정보를 조합할 수 있어, 정보를 조합하여 단편적이지 않은 질문에도 답을 할 수 있습니다.

위의 RAG에서는 할 수 없었던 "화재의 원인이 뭐야?"에 대한 대답도 가능하겠죠.

스터디 목표 및 계획

저희 스터디는 GraphRAG와 온톨로지를 통해서 현재 유행하고 있는 RAG 기반의 AI 시스템보다 조금 더 진보된 형태의 AI 시스템을 만들 수 있지 않을까라 생각했습니다.

(어쩌면, 음성 챗봇의 낮은 성능 문제를 LLM과 온톨로지가 보완하여 썩 괜찮은 서비스를 만들수도 있지 않을까란 생각도 했었습니다.)

그래서 저희는 이런 진보된 시스템을 탐구를 해보고자 간단한 토이 프로젝트를 계획했습니다.

계획은 음성으로 동작하는 두통 진단 AI 시스템인데 차츰 더 구체화되지 않을까 생각됩니다.

현재는 프로젝트 난이도가 쉬워보이지는 않아 스터디를 통해 두통을 얻고 두통 진단 AI가 진료를 해주는 병주고 약주기가 되지 않을까 염려되기는 합니다 ㅎㅎ

(Figure. 스터디원분께서 올려주신 편두통 < 긴장 < 스트레스 < 온톨로지 )

그래도 프로젝트로 스트레스를 받지 말고, 본래 목적인 현재 유행하는 RAG 시스템보다 조금 진보된 시스템을 탐구 및 스터디를 잘해보자라는 얘기도 하면서 첫 스터디를 마쳤었습니다.

첫 주여서 짧게 작성을 했지만 추후에 본격적인 스터디를 시작하게 되면 기술적인 이야기도 적어서 공유해보도록 하겠습니다!

저희 스터디의 향후 진행에도 많은 관심 부탁드립니다!