DEVOCEAN

요약

금융 산업의 인공지능(AI) 패러다임이 생성형 AI의 등장으로 근본적인 전환을 맞이하고 있습니다.

과거의 AI가 RPA(로봇 프로세스 자동화)나 예측 모델을 통해 개별 업무를 자동화하는 '조각난 효율성'에 머물렀다면,

현재는 고객의 언어를 이해하고 데이터의 '의미'를 연결하여 의사결정을 보조하는 단계로 진화하고 있습니다.

이러한 변화의 핵심은 AI를 단순히 도입하는 것을 넘어, 비즈니스 목표에 맞는 '컨텍스트(문맥)'를 어떻게 설계하고 활용하느냐에 있습니다.

금융권의 미래 경쟁력은 복잡하고 사일로화된 데이터로부터 의미 있는 관계망을 구축하는 '컨텍스트 플로우' 설계 능력에 달려 있습니다.

이를 위해 고객, 상품, 리스크, 영업, 시장이라는 5가지 핵심 컨텍스트를 정의하고, 이들의 관계를 '인사이트 그래프'로 시각화하여 AI가 복합적인 비즈니스 질문에 답할 수 있는 기반을 마련해야 합니다.

현실적인 기술 구현 방안으로는 내부 데이터를 안전하게 활용하는 LLM+RAG(검색 증강 생성)가 주목받고 있으며,

더 나아가 전문화된 역할을 수행하는 다중 에이전트(Multi-Agent) 시스템과 이를 총괄하는 오케스트레이션 아키텍처가 차세대 모델로 제시됩니다.

이 아키텍처는 NLU, 컨텍스트 오케스트레이션, 지식 검색, 추론, 인사이트 전달 등 5개의 논리적 계층으로 구성되어 정교한 추론과 안전한 데이터 접근을 보장합니다.

결론적으로, 금융의 언어는 과거의 '숫자'에서 미래의 '의미'로 이동하고 있습니다.

이러한 변화 속에서 금융권이 필요로 하는 인재 역시 전통적인 데이터 분석가를 넘어,

비즈니스 문제를 AI 문제로 변환하고 데이터와 컨텍스트를 설계하며 기술과 비즈니스를 잇는 '컨텍스트 설계자(Context Designer)'로 변화하고 있습니다.

전문가 소개

이태영님은 금융, 데이터 분석, AI 분야에서 20년 이상의 경험을 가진 분입니다.

제1금융권에서 AI 기술을 금융 서비스에 접목하는 혁신적인 프로젝트를 주도했으며, 특히 초개인화 포트폴리오 엔진 개발을 통해 고객 맞춤형 투자 전략을 제공하는 데 기여했습니다.

AI 기반 금융 솔루션 설계, 금융 문서 자동화, 빅데이터 플랫폼 구축 경험을 바탕으로 복잡한 데이터를 실행 가능한 인사이트로 전환하여 가시적인 성과를 창출해 왔습니다.

1. 금융 AI의 패러다임 전환

ChatGPT의 등장과 의미의 발견

ChatGPT의 등장은 금융 데이터가 단순히 저장된 기록을 넘어 '말할 수 있는' 시대를 열었습니다.

과거에는 AI 모델을 '어떻게 도입'할 것인가가 주된 관심사였지만, 이제는 금융 데이터의 맥락을 '어떤 문맥으로 활용'할 것인가가 경쟁의 핵심이 되었습니다.

금융 산업은 데이터는 풍부하지만 각 데이터의 '의미'가 단절되어 있다는 구조적 한계를 안고 있었습니다.

생성형 AI, 특히 LLM(대규모 언어 모델)은 이러한 단절된 데이터 조각들을 언어적으로 연결하고 의미를 부여하는 첫 번째 도구로 부상했습니다.

AI가 금융을 혁신하는 이유는 기술이 똑똑해서가 아니라, 고객의 언어를 이해하려는 첫 번째 도구이기 때문이다.

과거의 한계: 조각난 효율성

생성형 AI 이전의 금융 AI는 주로 RPA나 예측 모델을 중심으로 개별 업무(Task)의 효율화에 집중했습니다.

자금세탁방지(AML), 신용평가 자동화, 고객 응대 챗봇 등 각 업무에 특화된 모델이 파편적으로 도입되었습니다. 그러나 이러한 접근 방식은 다음과 같은 한계를 가졌습니다.

• 구조적 한계: 은행의 복잡한 데이터 아키텍처(코어뱅킹, 데이터 웨어하우스, 상품/금리/수수료 팩토리 등)와 엄격한 계정별 스키마 권한 관리 체계로 인해 데이터 접근 자체가 어려웠습니다.

• 측정의 어려움: 각 AI 프로젝트가 개별적으로 운영되어 전체적인 투자 대비 수익(ROI)을 측정하기 힘들었습니다.

• 규제의 벽: 금융 산업의 엄격한 규제와 검증 요구사항은 AI 기술의 실질적인 가치 창출을 더디게 만드는 요인이었습니다.

이로 인해 기존 금융 AI는 전체적인 혁신으로 이어지지 못하고 '조각난 효율'에 머무를 수밖에 없었습니다.

현재와 미래: 의사결정 보조에서 생태계 레이어로

생성형 AI는 이러한 조각난 데이터와 업무를 '의미'로 연결하는 새로운 전환점을 제시하며, 금융 AI의 역할을 근본적으로 바꾸고 있습니다.

2. 핵심 전략: 컨텍스트 플로우 설계

문제의 본질: 풍부한 데이터, 단절된 의미

금융권의 데이터 시스템은 고객, 상품, 여신, 수신, 카드 등 각 업무 단위별로 스키마가 분리되어 있고, 상품 팩토리, 금리 팩토리, 수수료 팩토리 등 기능별로 데이터가 통합 관리됩니다.

이는 데이터 관리의 효율성을 높이지만, 동시에 데이터 간의 맥락적 연결을 어렵게 만듭니다.

예를 들어, 한 고객의 대출 심사를 위해서는 고객 정보, 거래 이력, 상품 속성, 프로모션 정보, 신용 정보, 시장 금리 등 여러 시스템에 흩어진 데이터를 종합적으로 이해해야 합니다.

AI가 이러한 복합적인 질문에 답하기 위해서는 먼저 데이터 간의 관계와 의미를 정의하는 설계가 필요합니다.

3. 차세대 금융 AI 아키텍처

컨텍스트 플로우 설계를 기반으로, 실제 서비스를 구현하기 위한 다중 에이전트 프로세스와 5계층 아키텍처를 구성할 수 있습니다.

에이전트 프로세스 설계

각 컨텍스트는 전문화된 지능형 에이전트로 구현될 수 있으며, 오케스트레이션 에이전트가 이를 총괄합니다.

• 고객 에이전트: 고객 프로필, 거래 내역, 행동 신호를 해석하여 의도 및 위험 패턴 감지.

• 상품 에이전트: 대출 상품 속성, 캠페인, 성과 지표를 분석하여 상황에 맞는 통찰력 제공.

• 리스크 에이전트: 신용 노출, 상환 내역, 담보 데이터를 평가하여 잠재적 채무 불이행 예측.

• 시장 에이전트: 거시경제 지표와 경쟁 정보를 통합하여 추세 파악.

• 오케스트레이션 에이전트: 모든 에이전트의 추론을 조정하고, MCP(Model Context Protocol)와 같은 프로토콜에 따라 DW에서 안전하고 규정을 준수하는 데이터 검색을 보장.

5계층 컴포넌트 구성

이러한 에이전트 시스템은 다음과 같은 5개의 논리적 계층으로 구체화될 수 있습니다.

1. NLU Layer (자연어 이해 계층): 사용자의 질의("지난달 대출 감소의 주요 요인이 뭐야?")를 받아 의도(Intent)와 핵심 개체(Entity)를 추출하고 구조화된 쿼리 요청으로 변환합니다.

2. Context Orchestration Layer (컨텍스트 조정 계층): Atlas와 같은 지식맵을 참조하여 필요한 데이터 소스를 파악하고, MCP 기반의 API 게이트웨이를 통해 안전한 데이터 호출 정책을 적용합니다.

3. Knowledge Retrieval Layer (지식 검색 계층): Vertica, Snowflake 등 DW에서 정형 데이터를 쿼리하고, 보고서나 시장 리포트 같은 비정형 데이터는 RAG 인덱스(Vector Store)를 통해 연결합니다.

4. Reasoning Layer (추론 계층): OpenAI GPT 모델이 검색된 데이터를 기반으로 추론을 수행합니다. 이때 SQL 자동 생성, 차트 시각화, 사전 학습된 ML 모델 호출 등 다양한 'Tool'을 사용하며, ReAct 패턴을 통해 추론과 도구 사용을 순차적으로 수행합니다.

5. Insight Delivery Layer (인사이트 전달 계층): 최종 분석 결과를 KPI 요약, 시각적 차트, 자연어 설명이 포함된 '대화형 리포트' 형태로 사용자에게 전달합니다.

4. 기술 동향과 현실적 접근법

컨텍스트 그래프(CGR3)와 그 너머

RAG를 고도화하기 위한 연구로 '컨텍스트 그래프'가 주목받고 있습니다.

이는 전통적인 지식 그래프(KG)에 "왜, 언제, 어떤 근거로 연결되었는가"라는 맥락 정보를 추가하여 정적 관계를 동적 의미 네트워크로 확장하는 개념입니다.

2024년 6월 발표된 CGR3 논문은 이 가능성을 보여주었으나, 데이터 누수, 비용 및 지연, 출처 신뢰도 문제 등 현실적 한계도 명확합니다.

C-IKG, KELP 등 관련 연구들은 지식 그래프 구성의 표준화, 간접적 의미 관계 추론 등을 통해 이러한 한계를 극복하려는 시도들입니다.

에이전트 생태계의 급격한 발전

AI 기술은 모델 자체의 발전을 넘어 상호작용 프로토콜과 사용자 경험의 혁신으로 빠르게 확장되고 있습니다.

• 기술 발전 타임라인: GPT-1(2018)에서 GPT-4o(2024), 그리고 에이전트 간 상호운용 표준인 MCP(2024)와 더욱 단순하고 확장성 높은 Claude Skills(2025)에 이르기까지 발전이 가속화되고 있습니다.

• 생성형 웹 애플리케이션: Perplexity, Atlas와 같은 AI 네이티브 브라우저의 등장은 사용자가 디바이스에 구애받지 않고 자연어로 웹 애플리케이션을 즉시 생성하고 활용하는 시대의 개막을 예고합니다.

5. 금융 AI 인재 전략

요구되는 인재상: 문맥을 설계하는 전문가

AI 산업이 성숙하면서 금융권은 단순히 모델을 개발하는 엔지니어를 넘어, 비즈니스 문제를 이해하고 데이터의 '문맥을 설계할 줄 아는 AI 인재'를 원하고 있습니다.

직무와 역량의 변화

은행 AI 전문가가 밝힌, 아무도 말해주지 않는 4가지 진실

도입: AI 시대, 금융의 미래는 정말 '버튼' 하나로 해결될까요?

생성형 AI와 AI 에이전트가 모든 것을 자동화하고 해결해 줄 것이라는 기대감이 세상을 뒤덮고 있습니다.

마치 버튼 하나만 누르면 복잡한 금융 업무가 마법처럼 처리될 것 같은 환상에 빠지기 쉽습니다.

하지만 실제 금융 현장에서 바라보는 AI의 현실은 훨씬 더 복잡하고, 흥미로운 도전 과제들로 가득 차 있습니다.

기술의 화려함 뒤에 가려진 금융 AI의 맨얼굴은 어떤 모습일까요?

현업 전문가의 시선으로, 우리가 미처 알지 못했던 금융 AI의 예상치 못한 현실과 깊이 있는 통찰 3가지를 공개합니다.

1. 첫 번째 진실: 은행 AI가 힘을 못 쓰는 진짜 이유

금융권은 예금, 대출, 펀드, 신탁, 외환 등 상상 이상으로 방대한 상품과 서비스를 취급합니다.

이는 시스템 구조 자체가 근본적으로 복잡할 수밖에 없다는 의미입니다.

여기에 은행법, 종금법, 외환법, 골드법, 신탁법 등 수많은 법률 규제가 촘촘히 얽혀 있고, 데이터는 '스키마' 단위로 철저히 분리되어 접근 권한이 엄격하게 관리됩니다.

외부의 혁신가가 아무리 뛰어난 아이디어를 가지고 들어와도, 이 구조적 장벽 앞에서 "할 수 있는 게 없는" 현실에 부딪히게 됩니다.

2. 두 번째 진실: 데이터는 넘쳐나는데 쓸 수가 없다? 금융권의 '데이터 딜레마'

생성형 AI가 고객의 의도를 파악하고 맥락에 맞는 상호작용을 하기 위해 진정으로 필요한 것은 고객의 행동 흐름, 상담 기록, 상품 탐색 과정 등을 담은 '플로우 데이터(flow data)'입니다.

한 전문가는 이 문제를 다음과 같이 명확하게 지적합니다.

"생성형에서 쓸 만한게 많지가 않아. 예전에 들어 있잖아. 모델링 하려니까 데이터가 없다고 한 거랑 비슷한 거죠."

이 '데이터 딜레마'는 금융권이 RAG(검색 증강 생성) 같은 기술을 도입하면서도 그 효과를 극대화하기 어려운 근본적인 이유 중 하나입니다.

AI에게 먹일 '영양가 있는 음식'이 부족한 셈입니다.

3. 세 번째 진실: 'AI 에이전트'만 외치는 건 착각이다 - 진짜 핵심은 '문맥 설계'

진짜 핵심은 그보다 훨씬 더 본질적인 작업인 '컨텍스트 플로우(Context Flow)' 설계에 있습니다.

'컨텍스트 플로우'를 설계한다는 것은 AI가 상황을 제대로 이해하도록 업무의 뼈대를 세우는 과정입니다. 여기에는 최소한 네 가지 핵심적인 문맥 설계가 포함됩니다.

• Context of Relationship (고객): 고객의 인구통계학적 정보, 거래 패턴, 행동 데이터 등 고객과 관련된 모든 맥락을 정의합니다.

• Context of Offering (상품): 상품의 조건, 금리, 프로모션 정보, 성과 등 상품과 관련된 맥락을 체계화합니다.

• Context of Risk (리스크): 신용평점, 부채 비율, 시장 상황 등 리스크와 관련된 모든 변수와 규칙을 설계합니다.

• Context of Channel (채널): 영업점, 모바일 앱 등 각 채널의 특성과 전략에 맞는 상호작용의 맥락을 정의합니다.

이 복잡하고 어려운 작업 없이는 제대로 된 AI 에이전트를 만들 수 없습니다. 한 전문가는 이 점을 강력하게 강조합니다.

"제대로 모르는 사람들은 에이전트 만들면 되지 제대로 알지 못하니까 그런 얘기를 하는 거 말도 안 되는 얘기예요. 에이전트 만들 때 이걸 다 고려해야 해."

결론: 진짜 AI 전문가는 '문맥'을 설계하는 사람입니다

금융 AI의 성공은 단순히 최신 언어 모델을 도입하는 데 있지 않습니다.

진짜 승부처는 우리가 마주한 도메인의 복잡성을 인정하고, 데이터의 본질을 꿰뚫어 보며, 각 요소들 간의 '문맥'을 깊이 있게 이해하고 설계하는 능력에 달려 있습니다.

화려한 기술의 이름 뒤에 숨겨진 본질을 파고드는 것. 그것이 바로 금융 AI 시대를 이끌어 갈 진짜 전문가의 조건일 것입니다.

본 블로그를 읽는 당신에게 마지막 질문을 던져봅니다.

"우리는 지금 AI라는 '도구'의 유행을 쫓고 있나요, 아니면 우리가 풀어야 할 문제의 복잡한 '문맥'을 설계하는 진짜 전문가가 되고 있나요?"

발표 후 주요 질의 응답 요약

1. 그래프 RAG 및 관계 정의의 어려움 (도메인 지식)

질문: 그래프 RAG (Graph RAG)의 어려운 점 중 하나는 관계를 정의하는 데 도메인 지식이 필요하다는 것입니다. 은행 개발자들이 그러한 지식이 없을 경우 직무 수행에 문제가 없을까요?

답변:

• 지식 확보 방식의 변화: 과거에는 지식 정리 작업을 수작업으로 했지만, 이제는 지식이 부족할 경우 "이런 지식을 알려달라"고 좋은 모델에게 요청하면 모델이 지식을 추출합니다.

• 검증 절차: 모델이 추출한 지식은 현 담당자에게 검수를 받아야 합니다.

  사람이 모든 것을 하는 것이 아니라, LM이 SQL 메타 및 컨텍스트 메타를 생성해 주며, 여기에 밸리데이터(Validator)와 사람이 확인할 수 있는 대시보드가 있어 3중으로 검증합니다.

• 컨텍스트 엔지니어링의 핵심: 관계성 정의는 확률 게임이며, LM만 계속 신뢰하면 확률이 0에 가까워질 수 있습니다.

  따라서 컨스트레인트 조건(Constraint conditions)을 두어 이를 방지해야 합니다.

  예를 들어, 관계 확률이 0.85 이상이 되도록 기준을 설정하고, 낮으면 컨텍스트를 다시 고도화해 나가도록 루핑 구조를 설계하는 것이 컨텍스트 엔지니어링의 핵심입니다.

2. 생성형 웹 애플리케이션 시대의 브라우저와 보안 문제

질문: 아틀라스(Atlas)나 퍼플렉시티(Perplexity) 같은 브라우저를 사용할 때,

사람이 안 보이게 하얀 글씨로 썼을 때 LLM이 인식하여 메일을 보내거나 결제를 하는 취약점(인젝션)이 발견되었는데, 이에 대한 처리 방안이 있는지요?

답변:

• 취약점 및 대처: 이는 인젝션(Injection)의 일종이며, 이를 방지하기 위한 솔루션으로 가드레일(Guardrails)이 있습니다.

• 브라우저 사용 조언: 아틀라스나 코파일럿 같은 브라우저는 편리하지만, 크롬과 연동하여 모든 정보를 가져갈 위험이 있으므로, 크롬의 부계정을 생성하여 사용하는 것을 추천합니다.

3. 금융권의 AI 도입 문화 및 취업 전망

질문: 금융권은 보수적이고 리스크가 큰 곳이라 새로운 기술 도입이 어렵다고 들었는데, 실제 현황은 어떤가요?

답변:

• 직무 변화와 본질: 금융권에서 직무 이름(AI Engineer → Context Designer → AI Service Strategist)은 변하고 있지만,

  본질적인 능력(문제를 정의하고, 의미를 연결하며, 기술을 비즈니스 언어로 번역하는 능력)은 그대로입니다.

  이름만 바뀌는 경우가 많으며, 좋아하는 것을 꾸준히 하다 보면 연결시킬 수 있는 단어가 나올 때 접근하는 것이 좋습니다.

• 기회의 영역: 금융권은 아직 파편화되어 있고 해야 할 업무가 많으므로 기회가 많으며, 진입하기만 하면 비교적 안정적일 수 있습니다.