DEVOCEAN

여러분, chatGPT 서비스 아시죠? 이제는 모르시는 분이 없는 유명한 LLM(Large Language Model) 서비스 중 하나지요.

2022년 OpenAI가 GPT 3.5를 발표한 이후 LLM에 대한 관심이 폭발하면서 우리 일상 생활은 물론, 대부분의 산업영역에서도 혁신을 가져오고 있습니다.

그 중 이번 블로그에서는 검색서비스 영역에서의 변화를 중점적으로 다루고자 합니다.

1. 2022년 GPT 3.5 등장 이후 LLM 서비스까지의 흐름

GPT-3.5와 LLM 열풍의 시작

• 2022년 11월 30일, OpenAI가 GPT-3.5 기반의 ChatGPT를 공개하면서 대규모 언어 모델(Large Language Model, LLM)에 대한 전 세계적인 관심이 폭발했지요.

• GPT-3.5는 GPT-3의 후속 모델로, 1750억 개의 파라미터를 가진 GPT-3에 비해 더욱 발전된 추론 능력과 포맷팅 능력을 보여주었습니다.

• ChatGPT의 등장은 LLM을 활용한 대화형 AI가 일반 대중들에게 얼마나 사람과 유사하게 상호작용할 수 있는지를 보여주는 계기가 되었고,

  이는 앞으로 LLM을 활용한 대화형 AI가 튜링 테스트를 통과할 수 있을 만큼 발전할 것이라는 기대감을 불러일으켰습니다.

  
  

Anthropic 등 경쟁 모델의 등장

• GPT-3.5의 성공에 자극받은 여러 기업들이 LLM 개발 경쟁에 뛰어들었습니다.

  2022년 설립된 Anthropic은 대표적인 경쟁사 중 하나로 떠올랐는데요,

  Anthropic은 OpenAI 출신 인재들이 설립한 회사로, 2022년 4월 5억 8천만 달러의 투자를 유치하며 순조로운 출발을 보였고

  2023년 3월 Claude를 공개하며 ChatGPT의 경쟁 모델로 부상했습니다.

• 한편, Meta도 2023년 2월 학계에 LLaMA 모델을 공개하면서 오픈소스 LLM 열풍에 가세, 경쟁을 촉발시켰습니다.

  이후 Google에서도 2023년 12월 Gemini를 발표했고, 그 외 다양한 오픈소스 LLM 모델들도 시장에 등장했습니다.

  
  

  (LLM 서비스의 evolutionary tree: https://blog.biocomm.ai/2023/05/14/open-source-proliferation-llm-evolutionary-tree/)

LLM 검색 서비스의 등장

• LLM의 발전은 검색 서비스에도 영향을 미쳤습니다.

  2023년 4월 출시된 Perplexity는 LLM을 활용한 검색 서비스로 주목받았고, 출시 후 빠르게 인기를 끌며 4월 기준 10억 달러 이상의 기업가치를 인정받았습니다.

• OpenAI 역시 2024년 7월 SearchGPT라는 AI 검색 프로토타입을 공개했습니다.

  SearchGPT는 웹 정보와 AI 모델을 결합해 빠르고 정확한 답변을 제공하는 것이 특징인데요,

  퍼블리셔와 제휴를 통해 양질의 콘텐츠를 검색 결과에 노출시키는 한편, 추후 ChatGPT에 SearchGPT의 장점을 접목시킬 계획입니다.

• Gartner에서도, “Predicts 2024: How Gen. AI Will Reshape Tech Marketing (‘23.12)” 에서 26년까지 기존 검색의 25%가 Gen. AI(LLM) 검색으로 대체될 전망으로 리포팅했습니다.

  
  

  (searchGPT와 perplexity의 홈 UI)

2. 주요 LLM 검색 서비스 현황

• 이렇게 최근 화두가 되고있는 LLM 검색 서비스 시장의 주요 서비스 및 player는 누가 있을까요?

  • 국내의 주요 서비스로는 라이너와 뤼튼 등을, 해외 주요 서비스로는 perplexity와 searchGPT 등을 꼽을 수 있을 것 같습니다.

• LLM 검색 서비스들은 대부분 검색의 process와 참조한 출처를 투명하게 공개하여 정보의 신뢰성을 확보하고 있다는 점에서 유사한 UI로 구현되어 있음을 알 수 있습니다.

  • 그리고 라이너와 perplexity의 경우, 유료사용자에게는 주요 LLM사 들의 고급 모델을 베이스로 사용할 수 있도록 하거나,

    pro search와 같은 고성능 검색 경험을 제공하는 등 부가 기능을 offering하여 수익화를 도모하고 있습니다.

(1) 라이너(getliner.com)

주요 기능

• 검색 키워드 공개 및 키워드 추가 및 출처에 대한 기간 설정이 가능합니다.

• 추천 질문이 제공됩니다.

• 모델 선택 후 재 답변을 받을 수 있습니다.

  • GPT-4o, Claude 3 Opus, Liner Basic/Pro(자체모델) 등

(2) 뤼튼(wrtn.ai)

주요 기능

• 실시간 검색 순위가 제공됩니다.

• 추천 질문이 제공됩니다.

(3) Perplexity(perplexity.ai)

주요 기능

• Pro search라는 강력한 LLM 검색 기술이 적용되어있어, 현재 가장 고품질의 검색결과를 제공하는 것으로 알려져 있습니다.

• 추천 질문이 제공됩니다.

• 모델 선택 후 재 답변을 받을 수 있습니다.

  • GPT-4o, Claude 3 Opus, Sonar-Large/Huge(자체모델) 등

(4) searchGPT(chatgpt.com/search)

주요 기능

• Prototype으로 일부 사용자들에게만 순차적으로 Open 중입니다.

• perplexity 등 경쟁서비스와의 차별성 확보를 위해 노력하고 있고 시장에서 긍정적으로 평가받고 있습니다.

  • 지속가능한 비즈니스를 위한 출판자와 창작자와의 파트너쉽 강화

  • 검색 품질 차원에서 원본 게시물에 대한 협력/보상 및 학습 허용 옵션 제공 등

(5) 국내 신규 진입사업자(구버, 오픈리서치)

• 구버 (beta.goover.ai): 국내 솔트룩스에서 분사한 스타트업에서 출시한 서비스로, 현재 베타 서비스 제공 중입니다.

  
  

• 오픈리서치: 전 카카오브레인 대표가 설립한 국내 스타트업으로 올해 말 CBT 예정이라고 합니다.

  • 2024년 9월 미래에셋캐피탈·벤처투자 등으로부터 100억원의 시드(초기) 투자 유치를 받았습니다.

3. 전통 검색 사업자의 LLM 검색 서비스(Google, Naver)

• Google은 기존 검색 UX를 유지하면서 overview를 제공하는 반면, Naver는 별도의 베타서비스 형태로 제공하고 있습니다.

• Naver는 자사의 강점인 쇼핑/예약과 연계할 수 있도록 UX를 구성했다는 특장점이 있습니다.

(1) Google AI overview (labs.google.com/search/experiment/1)

• 기존 검색 UX는 유지하되, Overview 형태로 상단에 요약제공하는 방식으로 서비스 중이며, 인용 출처별로 직접 연결을 지원합니다.

(2) Naver Cue (cue.search.naver.com/)

• 별도의 domain에서 베타서비스 형태로 제공 중이며, 네이버 쇼핑/예약과 연결하는 UX를 제공한다는 특장점이 있습니다.

4. Perplexity가 왜 핫해?

위와 같은 다양한 서비스들이 출시되고 있지만,

왜 AI검색시장에서 perplexity가 핫한지, 왜 SKT가 Perplexity에 투자했는지에 대해서 좀 더 알아보고자 합니다.

Perplexity AI 소개

위에서 설명드렸듯이, Perplexity AI는 사용자의 질문에 대해 정확하고 실시간으로 답변을 제공하는 AI 기반 검색 엔진입니다.

• Google 대비 방문당 페이지뷰가 적은 만큼 효율적으로 원하는 데이터를 검색할 수 있습니다.

• 방문자 당 사용시간이 Google보다 많은 특성이 있습니다.

• 특히, '24.5 월스트리트 저널에서 평가한 AI챗봇 사용성 평가에서 ChatGPT, Copilot, Gemini, Claude 를 제치고 1위를 차지할 정도로 핫한 AI 검색서비스 입니다.

주요 기능

• 다양한 LLM 모델 제공: OpenAI의 GPT-4o, Anthropic의 Claude 3.5 sonnet 등 다양한 AI 모델을 활용합니다.

• 실시간 웹 검색: 최신 정보를 실시간으로 제공합니다.

• 소스 인용: 제공된 정보의 출처를 명확히 제시합니다.

• 대화형 인터페이스: 사용자와의 자연스러운 대화를 통해 정보를 제공합니다.

• 개인화: 사용자의 관심사와 선호도를 학습하여 맞춤형 정보를 제공합니다.

우수 분야

• 정확성: 실시간 웹 검색을 통해 최신의 정확한 정보를 제공합니다.

• 학술 및 전문 분야: 소스 인용 기능으로 학술 및 전문적 용도에 적합합니다.

• 복잡한 질문 처리: 다단계 질문에 대해 심도 있는 답변을 제공합니다.

• 다양한 콘텐츠 처리: 코드, 표, 수학 문제 등 다양한 형태의 콘텐츠를 다룰 수 있습니다.

주요 지표

• 월간 활성 사용자: 약 1,000만 명

• 평균 사용 시간: 방문당 23분 10초(구글 10분 37초, wikipedia 3분 57초 대비 많은 시간 활용)

• 방문당 페이지 뷰: 1.81(구글 8.76 대비 적은 뷰로 많은 정보를 확인)

(출처:https://aimojo.io/ko/perplexity-ai-statistics-2024/)

AI챗봇 사용성 평가 1위('24.5 월스트리트 저널)

• 2024년 5월, 월스트리트 저널은 ChatGPT, Copilot, Gemini, Claude, Perplexity 등 5개의 AI 챗봇을 대상으로 일상 대화 응답 성능을 평가하는 테스트를 실시했습니다.

  • 건강, 금융, 요리 등 다양한 카테고리의 질문을 비교했고, 편집자와 칼럼니스트들이 각 AI의 응답을 '정확성', '유용성', '전반적인 품질'에 대해 평가했습니다

• 평가 결과, Perplexity가 전체 평가에서 1위를 차지했습니다

  • 특히 Perplexity는 업무 관련 글쓰기, 요약, 시사 문제, 코딩 등의 카테고리에서 높은 순위를 기록했습니다.

(출처:https://mishtalk.com/economics/chatbot-wars-who-makes-the-best-ai-chatbot/)

5. 에이닷 멀티 LLM 에이전트 내 Perplexity

• 이렇게 핫한 Perplexity를 에이닷 내에서 만나볼 수 있다는 사실, 알고 계셨나요?

  에이닷의 주요 에이전트 중 하나인 '멀티 LLM 에이전트'에서 perplexity의 서비스를 만나볼 수 있습니다.

• perplexity와의 협업을 통해 실시간 검색 서비스를 제공하고 있고, GPT-4o 및 Claude-Opus 등 다른 LLM 모델들도 포함되어 있어 다양한 용도로 사용해 볼 수 있습니다.

(멀티 LLM 에이전트에서 perplexity에게 질문 한 예시)

에이닷 멀티 LLM 에이전트의 특장점

1. 멀티 LLM 에이전트는 하나의 서비스 안에서 copy&paste 없이 여러 AI에게 물어보고 답변을 비교해볼 수 있고,

2. 단일한 대화방 안에서 AI를 바꿔가며 컨택스트를 연결해 대화할 수 있어,

3. 대화 흐름 끊김없이 여러 엔진의 장점을 활용할 수 있다는 점이 가장 큰 장점입니다.

에이닷 멀티 LLM 에이전트 사용 예시

• 아래 예시와 같이 여행 일정을 짜면서도, 검색이 필요한 영역에서는 Perplexity를 이용하고, 번역이나 창작을 위해서는 GPT나 Claude를 이용할 수 있답니다!

6. Outro

• 앞으로는 일상 생활에서 검색이 필요한 다양한 순간, 네이버가 아닌 에이닷 멀티 LLM 에이전트를 활용해서 보다 스마트한 일상을 보낼 수 있지 않을까요?

• LLM 기술과 서비스가 바꿔놓을 앞으로의 미래를 기대하며 포스팅을 마치겠습니다.

참고: 이미지 출처

• LLM evolutionary tree: https://blog.biocomm.ai/2023/05/14/open-source-proliferation-llm-evolutionary-tree/

• Comparison with traditional search engine: https://aimojo.io/ko/perplexity-ai-statistics-2024/

• Chatbot Wars – Who Makes the Best AI Chatbot?: https://mishtalk.com/economics/chatbot-wars-who-makes-the-best-ai-chatbot/