Prompt Chaining, 구조화가 LLM에 끼치는 영향

Henry 24.06.04

4,786 7 2

facebook twitter kakao link

7 2

facebook twitter kakao link

DEVOTEE 요약: 프롬프트 체이닝(Prompt Chaining)은 복잡한 문제를 해결하기 위해 여러 단계를 거쳐 연속적으로 프롬프트를 작성하는 방법입니다. 각 단계의 결과를 다음 단계의 입력으로 사용하여 일관된 흐름을 유지하며, 사용자에게 개인화된 응답을 제공합니다. 이를 통해 LLM의 성능을 향상시키고, 더 정확하고 관련성 높은 추천을 할 수 있습니다.

DEVOTEE 추천 블로그

LLM을 업무에 적극적으로 사용하는 분들이라면,

프롬프트를 작성하면서 어떤 결과값이 나올지 몰라 맘 졸였던 기억이 있으실 겁니다.

AI는 기본적으로 Blackbox model이라, 어떤 input과 output이 연결되는 건지정확히 확인할 수 없다는 특징을 갖고 있는데요,

이를 보완하기 위한 방법들이 많이 있습니다.

이러한 방법들은 LLM의 퍼포먼스 향상에도 도움이 될 때가 있는데요,

오늘은 그 중에서도 '프롬프트 체이닝(Prompt Chaining)'에 집중해보려고 합니다!

프롬프트 체이닝이 무엇인지, 그리고 LLM에게 미치는 영향은 무엇인지,

나중엔 어떤 양상으로 발전하게 될지

가볍게 살펴보신다는 마음으로 게시글 읽어주시면 좋을 것 같습니다 ㅎㅎ

1. 프롬프트 체이닝(Prompt Chaining) 이란?

프롬프트 체이닝이란?

프롬프트 체이닝은 복잡한 문제를 해결하거나 분석할 때 사용되는 방법
LLM 활용하여 사용자 입력을 해석하고 그에 따라 응답하여 상황에 맞는 챗봇 생성
한 작업이나 문제 해결 과정에서 이전 단계의 결과를 다음 단계의 입력으로 연속적으로 사용
마치 체인 처럼 각 단계가 서로 긴밀하게 연결되어 있어, 전체 과정에서 정보의 흐름이 유지
이전 대화 또는 어시스턴트 구성을 기반으로 일련의 프롬프트를 순서대로 입력함으로써 맞춤형 응답 생성 가능
- 개인화에 강점이 있음

예시 : 온라인 쇼핑몰의 경쟁자 분석 by Prompt Chaining

1단계: "클린뷰티 시장에서 직접적으로 경쟁하는 온라인 쇼핑몰 경쟁자를 3개 작성해 주세요"
* 경쟁자 목록을 생성하는 단계
2단계: "1단계에서 도출된 경쟁자 A, B, C 쇼핑몰의 주요 제품과 서비스를 분석해 주세요"
* 1단계의 결과를 바탕으로 각 경쟁 쇼핑몰의 제품과 서비스를 상세히 분석하는 단계
3단계: "2단계에서 조사한 제품과 서비스 정보를 바탕으로, 각 경쟁자의 마케팅 전략을 분석해 주세요"
* 2단계의 분석 결과를 활용하여 경쟁 쇼핑몰의 마케팅 전략 평가

이처럼 체인 프롬프트는 각 단계의 결과가 다음 단계의 질문을 위한 기초가 되며, 전체 프로세스가 서로 연결되어 종합적인 분석을 구성하게 됩니다.

2. 프롬프트 체이닝 실습

Assistant는 AI의 발화를, User는 사용자의 발화를 뜻합니다!

Assistant 1:

"안녕하세요! 쇼핑 추천을 도와드리겠습니다. 어떤 종류의 상품을 찾고 계신가요?"

User 1:

"저는 노트북을 찾고 있어요."

Assistant 2:

"좋습니다! 노트북 중에서 어떤 용도로 사용하실 예정이신가요? 예를 들어, 업무용, 게임용, 또는 일반 용도 등."

User 2:

"주로 업무용으로 사용할 거예요."

Assistant 3:

"업무용 노트북을 찾고 계시는군요! 예산은 어느 정도 생각하고 계신가요?"

User 3:

"100만원 이하로 생각하고 있어요."

Assistant 4:

"100만원 이하의 업무용 노트북을 추천해드리겠습니다. 선호하는 브랜드가 있나요?"

User 4:

"특별히 선호하는 브랜드는 없어요."

Assistant5:

"알겠습니다. 다음 중에서 어떤 기능이 중요하신가요?

예를 들어, 긴 배터리 수명, 가벼운 무게, 고해상도 디스플레이 등."

User 5:

"긴 배터리 수명이 중요해요."

Assistant 6:

"배터리 수명이 긴 노트북을 추천해드리겠습니다. 다음은 추천하는 제품들입니다:

Dell XPS 13
MacBook Air
Lenovo ThinkPad X1 Carbon.
어떤 제품이 마음에 드시나요?"
User 6:
"Lenovo ThinkPad X1 Carbon이 좋아 보여요."

Assistant 7:

"좋은 선택입니다! Lenovo ThinkPad X1 Carbon의 상세 정보를 보내드릴까요?"

User 7:

"네, 부탁드려요."

이와 같이 프롬프트 체이닝을 통해 단계별로 필요한 정보를

사용자로부터 수집하여 쇼핑 추천 과정을 설계할 수 있습니다.

3. 프롬프트 체이닝의 기대 효과

프롬프트 체이닝(Prompt Chaing)은 사용자와의 상호작용 중에 정보를 순차적으로 수집하고,

이전의 응답을 기반으로 새로운 질문을 생성하여보다 정확하거나 관련성 높은 응답을 도출하는 데 도움을 줍니다.

프롬프트 연쇄의 주목할 만한 측면 중 하나는 '개인화'입니다.

이전 프롬프트 체인을 참조하여 개별 사용자에 맞게 응답을 개인화할 수 있어 참여도와 친숙함을 높입니다.

또한 사용자가 대화를 계속하고 정확한 정보와 추천을 위해 AI에 의존할 가능성을 높입니다.

by Google Research, University of Washington

위의 구조도는 Google Research 와 University of Washington이 함께 연구한

논문 PromptChainer: Chaining Large Language Model Prompts through Visual Programming

에서 제시한 LLM Prompt Chaining 구조도입니다.

프롬프트 체인의 구조를 사용자에게 제어 가능하고, 눈에 그 구조가 정확히 보여지도록 하여

복잡한 작업을 서로 연결 지을 수 있도록 플랫폼화했다고 볼 수 있습니다.

한 가지 주제이더라도, 여러 가지 질문을 사용자에게 생성하며 동시에 추론하는 것이

LLM이 가진 특장점이니까요!

LLM은 프롬프트 체이닝을 통해 더욱 복잡한 사용자 데이터(과거 대화, 선호도, 행동)를 분석 및 추론하여

사용자의 관심사와 필요에 맞는 응답을 제공할 수 있게 될 것입니다.

이러한 개인화된 접근 방식은 사용자 참여도를 높일 뿐만 아니라관련성 있고 가치 있는 정보를 제공함으로써 전반적인 사용자 경험을 향상시키게 되겠죠?

다음 시간에는 또 다른 방법론인 function call을 소개해드리도록 하겠습니다 :)

긴 글 읽어주셔서 감사합니다!

출처

#A.(에이닷) #Language Models #Generative AI

등록

DEVOTEE를 활성화 시키면
지금 작성한 댓글에 AI가 댓글을 달아줍니다.

익명

Henry 님의 최신 블로그

AI서비스기획자를 위한 LLM 활용 방법과 에이닷 적용 사례

안녕하세요, AI 서비스 기획하고 있는 Henry입니다. 다양한 산업의 서비스들이 LLM을 통해 개선되고 있는데요, 고객 문의와 같은 반복적으로 수행되는 업무를 자동화하거나, 일일이 사람 손으로 정보를 찾아보고 검증해야 했던 경험을 편리성 있게 개선해보는 효과가 있습니다. 오늘은 기획자 입장에서 LLM(대규모 언어모델)을 어떻게 서비스에 활용할 수 있는지에 대해 이야기해보려 합니다. 현업에서 실제로 많이 거론되는 방식들, 각각의 장단점, 그리고 저희가 운영 중인 에이닷 사례까지 간략하게 예시로 소개해드릴게요! 1. LLM, 어떻게 활용하면 좋을까? LLM은 ＂어떻게 붙이느냐＂에 따라 그 특성과 장점이 달라집니다. 기획자의 역할은 이 다양한 선택지들 중에서 우리 서...
에이닷, 주변 맛집 추천해줘!

이번 에이닷 개편에서도 홈 에이전트의 기획을 수많은 기획자, 개발자분들과 함께 수행했습니다! LLM 향으로 전환하면서 기존 기능을 포함하여 검색 기능을 도입하는 방향으로 프로덕트를 개선했는데요, 본 게시글은 제가 집중적으로 참여했던 에이닷 홈 에이전트 내 ‘음식점, 카페 추천’을 위주로 작성하였습니다. 1. Function Call이란? 1.1 Function Call 정의 이번 개편에서 〈에이닷 홈 에이전트〉는 function call이라는 방법을 채택하여 기획-개발되었습니다. 그렇다면 function call이란 무엇일까요? Open AI에서 2023년 출시한, 함수 호출을 통해 내외부 API를 적극적으로 활용할 수 있는 방법론입니다. 참고 : Function...
Prompt Chaining, 구조화가 LLM에 끼치는 영향

LLM을 업무에 적극적으로 사용하는 분들이라면, 프롬프트를 작성하면서 어떤 결과값이 나올지 몰라 맘 졸였던 기억이 있으실 겁니다. AI는 기본적으로 Blackbox model이라, 어떤 input과 output이 연결되는 건지정확히 확인할 수 없다는 특징을 갖고 있는데요, 이를 보완하기 위한 방법들이 많이 있습니다. 이러한 방법들은 LLM의 퍼포먼스 향상에도 도움이 될 때가 있는데요, 오늘은 그 중에서도 ＇프롬프트 체이닝(Prompt Chaining)＇에 집중해보려고 합니다! 프롬프트 체이닝이 무엇인지, 그리고 LLM에게 미치는 영향은 무엇인지, 나중엔 어떤 양상으로 발전하게 될지 가볍게 살펴보신다는 마음으로 게시글 읽어주시면 좋을 것 같습니다 ㅎㅎ 1. 프롬프트...

DEVOTEE 추천 블로그

질문을 배워봅니다 - Prompt Engineering 최적화

AI 모델은 문맥, 단어, 단어 사이의 관계 등의 언어 패턴을 인식해서 학습합니다. 예를 들면 비와 우산을 하나의 패턴으로 기억하여 비가 온다고 하면 우산을 쓴다라는 답변이 나옵니다. 그러나 chatgpt를 사용하면서 프롬프트의 내용에 따라 답변이 달라지는 것을 종종 경험합니다. 환각문제로 인해 잘못된 답변을 받을 때도 있습니다. 좋은 프롬프트 vs 나쁜 프롬프트 “기후변화에 대한 주요국가들의 대응책을 알려줘” “최근 기후변화보고서에 따르면 지구 온도 상승이 예상보다 빠르게 진행되고 있습니다. 이 보고서의 주요내용과 그에 대한 주요 국가들의 대응 계획을 요약하여 설명해주세요. 또한, 이러한 변화가 장기적으로 인류에게 미칠 영향에 대해서도 분석해주시기 바랍니다. 원...
RAG 파이프라인과 사고의 사슬(CoT) 프롬프팅을 활용한 최종 답변 출력 예시

환경 변수 로드: load_dotenv() 함수를 사용하여 .env 파일에 저장된 설정값을 호출 LLM 초기화: ChatOpenAI 클래스를 이용해 OpenAI의 챗 모델을 초기화temperature=0.0으로 지정하여 일관된 답변을 얻도록 함. 가짜 Retriever 정의: RAG 기법(Retrieval-Augmented Generation, 검색 증강 생성)에서 retriever는 질문과 관련된 문서를 검색해 주는 역할을 합니다. 이 예제에서는 간단히 미리 준비된 docs 딕셔너리에 세 개의 문서를 담아 두고, fake_retriever 함수를 통해 항상 상위 3개 문서를 반환하도록 하였습니다. 실제로는 검색 엔진이나 벡터 DB를 활용합니다. 최종 답변 파서 ...
고급 프롬프트 엔지니어링으로 GPT 앱을 만들어보자!

1. 시작하며 이번 글에서는 LLM의 등장과 함께 새롭게 등장한 용어, ＇프롬프트 엔지니어링＇ 기법들을 알아보고 여러 프롬프트 엔지니어링 기법들을 혼합해서 GPT 앱을 만드는 방법을 알아보려고 합니다. 최근에 본 컬럼 중에 ＂정답을 좇을 것인가 질문을 설계할 것인가＂라는 글이 있습니다. 프롬프트 엔지니어링은 원하는 답을 찾을 수 있도록 정답을 설계하는 과정입니다. 즉, 컴퓨터와 자연어를 통해서 대화하며 LLM에게 잠재되어 있는 많은 속성과 능력을 활용해서 정답을 설계하는 과정이라고 볼 수 있지요. 프롬프트 엔지니어링은 아래와 같은 공식으로 표현할 수 있을 것 같아요. 마치 프로그래밍 시, Object에서 속성을 뽑아내는 거라고 생각됩니다. 즉 LLM 내에는 문헌으...

목록으로

DEVOCEAN

로그인 선택

미리보기

커뮤니티

글 등록

임시저장함

데보션 블로그 게재 요청