DEVOCEAN

대규모 언어 모델(LLM)의 기능을 향상시키는 방법인 검색 증강 생성(RAG)에 대해 자세히 알아보고,

AWS와 Azure에서 RAG를 구현하는 방법을 아키텍처 그림과 함께 비교 분석해 보겠습니다.

RAG는 LLM이 단순히 사전 학습된 데이터에 의존하는 것을 넘어,

외부 정보 검색 시스템을 활용하여 최신 정보와 심층적인 지식을 바탕으로 더욱 정확하고 풍부한 답변을 생성하도록 돕는 기술입니다.

1. AWS: Amazon Bedrock 기반 RAG 구현

AWS 환경에서 RAG 시스템을 구축하기 위해서는 Amazon Bedrock이 핵심적인 역할을 수행합니다.

Bedrock은 여러 구성 요소를 조합하여 LLM 기반 애플리케이션에 정보 검색 기능을 구현할 수 있도록 지원합니다.

• Amazon Bedrock Knowledge Base : 외부 데이터 소스와 LLM을 연결하는 인터페이스 역할을 합니다.

  개발자는 Bedrock Knowledge Base를 통해 데이터베이스에 쿼리를 전송하는 것처럼 외부 데이터에서 LLM에 필요한 정보를 검색할 수 있습니다.

• 데이터 소스 : PDF 파일을 포함한 다양한 형식의 데이터 소스를 지원합니다.

  기존 시스템에서 사용하던 데이터를 Bedrock Knowledge Base에 연결하여 RAG 시스템 구축에 활용할 수 있습니다.

• Amazon Titan: 텍스트 데이터를 LLM이 이해할 수 있는 형태로 변환하는 데이터 전처리 작업을 수행하는 임베딩 모델입니다.

• 벡터 데이터베이스: 변환된 데이터를 저장하고 검색하는 데 사용됩니다.

  Bedrock Knowledge Base는 Amazon OpenSearch Serverless를 포함한 여러 유형의 벡터 데이터베이스를 지원하며, 개발자는 시스템 요구 사항에 따라 적합한 데이터베이스를 선택할 수 있습니다.

2. Azure: Azure AI Search 기반 RAG 구현

Azure에서는 Azure AI Search를 중심으로 RAG 솔루션을 구축합니다. Azure AI Search는 대용량 데이터셋을 효율적으로 처리할 수 있는 강력한 인덱싱 및 검색 기능을 제공합니다.

Azure AI Search: Azure 클라우드 기반에서 안정성과 확장성을 보장하며, RAG 시스템을 위한 견고한 기반을 제공합니다.

데이터 수집: Azure Storage, Cosmos DB, 파일 시스템, 데이터베이스를 포함한 다양한 소스에서 데이터를 가져와 RAG 시스템에 통합할 수 있습니다.

Azure AI Vision Multimodal: 텍스트뿐만 아니라 이미지까지 벡터화하여 LLM에서 활용할 수 있도록 지원합니다.

멀티미디어 데이터를 사용하는 RAG 시스템을 구축할 때 유용합니다.

벡터 인덱스: Azure AI Search는 벡터 인덱스를 사용하여 벡터를 저장하고 검색합니다.

벡터 인덱스는 대량의 벡터 데이터를 효율적으로 처리하고 유사도 검색을 수행하는 데 최적화되어 있으며, RAG 시스템의 성능을 향상시키는 데 중요한 역할을 합니다.

3. 차이점

4. 결론

Amazon Bedrock과 Azure AI Search, 두 플랫폼 모두 RAG 시스템 구축을 위한 강력한 기능들을 제공하지만, 각 플랫폼이 장점은 서로 다른것 같습니다.

어떤 플랫폼이 특정 프로젝트에 더 적합할지는 개발하려는 RAG 시스템의 성격과 요구사항에 따라 달라지거나 각 상황에 맞춰 플랫폼을 선정해야 하지 않나 생각합니다.

AWS는 LLM과 외부 데이터를 간편하게 연결하고 강력한 임베딩 모델을 활용하고자 하는 사용자에게 적합한 환경을 제공합니다.

Bedrock Knowledge Base를 통해 개발자는 익숙한 데이터베이스 쿼리 방식으로 외부 데이터에서 LLM에 필요한 정보를 손쉽게 검색하고 활용할 수 있습니다.

또한, Amazon Titan과 같은 고성능 임베딩 모델은 텍스트 데이터를 LLM이 처리 가능한 형태로 효율적으로 변환하여 RAG 시스템의 정확성을 높이는 데 기여합니다.

Azure는 안정성과 확장성을 중요하게 생각하는 사용자에게 적합한 솔루션입니다.

Azure AI Search는 Azure 클라우드의 안정적인 인프라를 기반으로 대규모 데이터셋을 처리할 수 있는 강력한 인덱싱 및 검색 기능을 제공합니다.

Azure Storage, Cosmos DB, 파일 시스템, 데이터베이스 등 다양한 데이터 소스를 지원하기 때문에 기존 시스템과의 통합도 용이합니다.

특히, Azure AI Vision Multimodal을 사용하면 텍스트뿐만 아니라 이미지 데이터까지 벡터화하여 LLM에서 활용할 수 있습니다.

이는 텍스트 기반 정보만 활용하는 것보다 더 풍부하고 다양한 정보를 RAG 시스템에 통합할 수 있도록 지원합니다.

결론적으로, 두 플랫폼 모두 강력한 기능을 제공하지만, AWS는 사용 편의성과 강력한 임베딩 모델에 초점을 맞추고 있으며,

Azure는 안정성, 확장성, 그리고 멀티미디어 데이터 처리에 강점을 보이고 있습니다.

따라서 어떤 플랫폼이 더 적합할지는 개발하려는 RAG 시스템의 규모, 성능 요구 사항, 데이터 유형, 그리고 개발 팀의 기술적인 선호도 등을 종합적으로 고려하여 결정해야 합니다.

참고

• https://aws.amazon.com/ko/what-is/retrieval-augmented-generation/

• https://learn.microsoft.com/ko-kr/azure/search/retrieval-augmented-generation-overview