DEVOCEAN

자율 에이전트(Autonomous Agent)에 대해 살펴본게 엊그제 같은데 이게 현실화 되는걸 눈으로 보는게 신기한 시대입니다.

이게 가능했던 이유는 바로 추론(reasoning) 모델이 등장했기 때문입니다. 추론 모델(Reasoning Model)과 Autonomous Agent는 뇌(두뇌)와 몸(행동 주체)의 관계처럼, 서로 유기적으로 연결되어 있습니다. 

Autonomous Agent는 memory, planning, action, tools로 구성됩니다. 여기에서 Agentic Memory는 Long-term memory에 속합니다.

그림출처

추론모델

추론 모델은 Chain-of-Thought, Tree-of-Thought, ReAct, Reflection-Rewrite 등을 통해 복잡한 문제를 해결하기 위해 생각의 흐름을 구성하고 실행 전략을 만듭니다.

이렇게 만들어진 모델을 이용하여 Autonomous Agent는 검색, API 호출, DB 조회, 문서 생성 등 다양한 도구나 기능을 활용하여 외부 목표를 받아 스스로 계획하고, 판단하고, 실행합니다.

• GPT-4 계열 추론 지원기능

  • Chain-of-Thought (CoT): 단계별로 생각하기

  • ReAct: Reasoning + Acting (툴 사용과 판단의 통합)

  • Reflection: 자신이 낸 답을 다시 보고 수정

  • Toolformer: 적절한 시점에 도구 사용 결정

• 추론 모델의 workflow

  “계획(Planner) → 정보 수집 → 추론 → 반성(reflector) → 기억 강화(memory)”

Autonomous agent와 Agentic Memory 관계

어시스턴트 app에서 autonouos agnet와 agent memory의 관계를 설명해 보겠습니다.

용자 발화가 입력되면 autonomous agent 의 역할을 하는 executor가 추론 모델 (llm core, planner, reflector)과 agentic memory에서 사용자 발화에 대한 답변을 수행합니다.

아래 시퀀스 다이어그램에서는 뭉치에 대해 물어보는 과정에 llm과 memory의 프로세스를 설명합니다. 메모리에는 이 사용자의 반려견 이름이 뭉치라는 것이 저장되어 있습니다.

사용자 발화를 중심으로 Autonomous agent가 llm을 통해 agentic memory를 이용하여 개인화된 정보를 가져오는 과정을 설명해 보겠습니다.

“뭉치는 물놀이 좋아해?”

에이전트는 이 발화를 Autonomous agent를 통해 LLM에 전달하고, 내부적으로 Planner 모듈이 호출됩니다.

Planner는 뭉치와 물놀이 관계에 대해 Agentic Memory에서 조회하지만 관련된 항목이 없는 상태입니다.

이 결과는 LLM을 통해 자연어로 변환되어 사용자에게 전달되며, 에이전트는 다음과 같이 답변합니다:

“기억에 없어요. 알려주세요!”

이후 사용자가 정보를 제공합니다:

“뭉치는 수영장에서 놀기를 좋아해요.”

해당 입력은 Autonomous agent를 통해 Reflection 모듈로 전달되며, Reflection는 이 정보를 구조화하고 요약하여 Agentic Memory에 저장합니다.

이 저장 과정은 향후 동일하거나 유사한 질문에 대해 정확한 정보를 반환하기 위한 학습 과정입니다. 시간이 지난 후에 사용자가 이후 동일한 질문을 반복해봅니다:

“뭉치가 좋아하는 놀이 뭐였지?”

Autonomous agent는 이전과 동일하게 Planner를 통해 memory를 조회하고, 이번에는 저장된 내용을 기반으로 응답을 생성합니다.

Agentic Memory는 관련 정보를 반환하고, LLM은 이를 자연어로 표현하여 다음과 같은 응답을 출력합니다:

“뭉치는 수영장에서 놀기를 좋아해요.”

이로써 뭉치가 수영장에서 노는 것을 좋아하는 것이 memory에 저장되고 다음번에 유사한 질문을 하더라도 어시스턴트는 이를 근거로 답변을 하게 됩니다.

A-MEM

https://github.com/agiresearch/A-mem

A-MEM(Agentic Memory for LLM Agents)은 Rutgers University, Ant Group, Salesforce Research의 공동 연구로 개발된 차세대 AI 메모리 시스템입니다.

이 시스템은 대형 언어 모델(LLM) 기반 에이전트가 장기적인 상호작용과 복잡한 추론을 수행할 수 있도록 지원합니다.

A-MEM은 Zettelkasten 방식에서 영감을 받아, 각 상호작용을 ‘노트’로 저장합니다.

각 노트는 다음과 같은 구조화된 속성을 포함합니다 Zettelkasten(체텔카스텐)은 “노트 카드 상자”를 뜻하는 단어로, 지식을 축적하고 연결해가는 지식 관리 시스템 또는 생각 정리법입니다.

새로운 노트가 추가되면, A-MEM은 기존 메모리와의 의미론적 유사성을 분석하여 관련된 노트들과 자동으로 연결(link)을 생성합니다.

이 과정은 단순한 키워드 매칭을 넘어서, LLM이 생성한 컨텍스트를 기반으로 하여 더 깊은 수준의 의미론적 연결을 형성합니다.

A-MEM 아키텍처 다이어그램

1. 노트 생성 (Note Construction)

에이전트가 새로운 상호작용을 경험하면, A-MEM은 이를 구조화된 메모리 노트로 변환합니다. 각 노트는 다음과 같은 속성을 포함합니다:

• 내용 (Content): 상호작용의 실제 텍스트

• 타임스탬프 (Timestamp): 상호작용이 발생한 시간

• 키워드 (Keywords): 핵심 개념을 요약한 단어들

• 태그 (Tags): 주제나 범주를 나타내는 분류 정보

• 컨텍스트 (Context): LLM이 생성한 의미론적 요약

• 임베딩 (Embedding): 노트의 의미를 벡터로 표현한 값

이러한 구조화된 노트는 에이전트가 정보를 체계적으로 저장하고, 필요할 때 효과적으로 검색할 수 있도록 합니다.

2. 링크 생성 (Link Generation)

새로운 노트가 추가되면, A-MEM은 기존 메모리와의 의미론적 유사성을 분석하여 관련된 노트들과 자동으로 연결(link)을 생성합니다.

이 과정은 단순한 키워드 매칭을 넘어서, LLM이 생성한 컨텍스트를 기반으로 하여 더 깊은 수준의 의미론적 연결을 형성합니다.

3. 메모리 진화 (Memory Evolution)

새로운 노트가 추가되면, A-MEM은 기존 메모리의 컨텍스트와 태그를 업데이트하여 메모리 네트워크가 지속적으로 진화할 수 있도록 합니다.

이러한 메모리 진화는 에이전트가 과거 경험을 바탕으로 새로운 상황에 적응하고, 더 정교한 추론을 수행할 수 있게 합니다.

4. 메모리 검색 (Memory Retrieval)

에이전트가 새로운 질문이나 작업을 수행할 때, A-MEM은 현재의 상호작용과 관련된 과거의 경험을 효과적으로 검색하여 활용합니다.

이를 통해 에이전트는 현재의 상호작용과 관련된 과거의 경험을 효과적으로 활용할 수 있습니다.

A-MEM은 ChromaDB와 같은 벡터 데이터베이스를 활용하여, 의미론적 유사성에 기반한 빠르고 정확한 메모리 검색을 지원합니다.

이를 통해 에이전트는 현재의 상호작용과 관련된 과거의 경험을 효과적으로 활용할 수 있습니다.

마무리

Agentic Memory의 가장 큰 장점은 에이전트가 그때그때 반응하는 수준을 넘어서 ‘생각’할 수 있게 만든다는 점입니다.

과거의 대화를 기억하고, 그 기억을 바탕으로 현재 상황을 더 깊이 이해하거나 다음 행동을 계획할 수 있도록 돕습니다.

이를 통해 에이전트는 일관된 맥락 이해가 가능해지며, 사용자 입장에서는 훨씬 더 자연스럽고 지능적인 응답을 경험할 수 있습니다.

단순한 도우미를 넘어서, 함께 일하고 대화할 수 있는 진정한 ‘지능형 에이전트’를 만들기 위한 핵심 요소가 바로 이 Agentic Memory라고 할 수 있습니다.

참고자료

https://venturebeat.com/ai/how-the-a-mem-framework-supports-powerful-long-context-memory-so-llms-can-take-on-more-complicated-tasks/