로그인 선택
미리보기
커뮤니티
1,234
23.06.15
글 등록
카테고리를 선택해주세요.
DEVOTEE를 활성화 시키면
지금 작성한 커뮤니티 글에 대해 1개의 댓글을 달아줍니다.
버튼을 누르면 글 수정 시 ChatGPT가 작성한 댓글이 수정됩니다.
임시저장함에 저장되었습니다.
저장일시 : 2022.5.17 14:29:08
임시저장함
제목을 선택하시면 이어서 작성이 가능하며,
최대 20건까지 저장합니다.
최대 20건까지 저장합니다.
| 컨텐츠 유형 | 제목 | 저장일 | 삭제 |
|---|
본인인증
효율적인 데보션 서비스 이용 및
고객님의 소중한 개인정보보호를 위해
본인인증을 진행해주세요. 본인인증 미 진행 시 로그인이 제한됩니다.
고객님의 소중한 개인정보보호를 위해
본인인증을 진행해주세요. 본인인증 미 진행 시 로그인이 제한됩니다.
본인인증 실패
본인인증 로그인에 실패하였습니다.
회원이 아니시거나 본인인증 등록이
완료되지 않은 사용자입니다.
회원정보 연결
생성형 AI 트렌드와 발전 방향에 대한 고찰
- DEVOTEE 요약
- 이 글은 GPT 모델의 발전과 함께 SLM, RAG, On-premise AI 등이 주목받는 이유를 설명하며, 이는 대형 언어 모델(LLM)의 한계와 이를 보완하기 위한 자연스러운 흐름임을 강조합니다. 또한, On-device AI의 등장 배경에도 주목하며 기술 변화의 맥락을 다룹니다. 글쓴이는 20년간 소프트웨어 개발 및 마케팅 경험을 바탕으로 현재 코난테크놀로지에서 전략기획본부장으로 활동 중입니다.
GPT 모델의 변화와 여기에 담긴 의미 그리고 SLM, RAG 그리고 On-premise AI가 대두되는데,
이는 LLM이 갖고 있는 근본적인 문제점과 이를 해결하고자 하는 과정에서의 자연스러운 과정이었음을 이야기하고자 합니다.
그리고 On-device AI의 배경 등에 대해서도 이야기합니다.
임완택코난테크놀로지
삼성전자, KiSTi(한국과학기술정보연구원)에서 20여년 간 SW 개발, 마케팅 및 인터넷 서비스 기획을 했습니다.
KT하이텔(현KT알파) 모바일 부문장을 지냈으며 현재는 코난테크놀로지에서 전략기획본부장으로 임하고 있습니다.
#SLM #RAG #On-premise #On-device AI
DevRel 님의 최신 블로그
더보기-
- [전문가 밋업#3] 금융 AI의 진화: 컨텍스트 설계와 에이전트 아키텍처 (은행 AI 전문가가 밝힌, 아무도 말해주지 않는 3가지 진실)
- 요약 금융 산업의 인공지능(AI) 패러다임이 생성형 AI의 등장으로 근본적인 전환을 맞이하고 있습니다. 과거의 AI가 RPA(로봇 프로세스 자동화)나 예측 모델을 통해 개별 업무를 자동화하는 ＇조각난 효율성＇에 머물렀다면, 현재는 고객의 언어를 이해하고 데이터의 ＇의미＇를 연결하여 의사결정을 보조하는 단계로 진화하고 있습니다. 이러한 변화의 핵심은 AI를 단순히 도입하는 것을 넘어, 비즈니스 목표에 맞는 ＇컨텍스트(문맥)＇를 어떻게 설계하고 활용하느냐에 있습니다. 금융권의 미래 경쟁력은 복잡하고 사일로화된 데이터로부터 의미 있는 관계망을 구축하는 ＇컨텍스트 플로우＇ 설계 능력에 달려 있습니다. 이를 위해 고객, 상품, 리스크, 영업, 시장이라는 5가지 핵심 컨텍스...
-
- 제9회 데보션 테크 데이 - AI와 함께 일하는 시대, 에이전트와 자동화 기술 발표 요약 및 영상 공유
- 지난 9월 1일 월요일에 SKT타워 4층 SUPEX홀에서 진행한 제9회 데보션 테크데이 발표 요약 및 영상을 공유드립니다. 본 발표 요약은 ＂에이닷 노트 기능＂을 통하여 요약하였습니다. 전체 발표자료는 ＂제9회_데보션_테크데이_배포용.pdf＂ 참고 부탁드립니다. 1. AWS 생성형 AI 최신 기술 동향과 주요 업데이트 핵심 단어: Al 에이전트, AWS, 에이전트코어, S3벡터, 스트렌저SDK 요약 Al 에이전트의 발 전단계와 AWS의 대응 서비스 소개 Al 에이전트 개발. 운영을 위한 모델, 도구, 프레임워크 혁신 필요성 설명 AWS의 에이전트코어, S3벡터, 스트렌저 SDK 등 주요 AI 서비스 및 기능 소개 🧠 AI 에이전트 발전 단...
-
- [전문가 밋업#2] AI 서비스 경쟁력은 기능보다 최적화와 UX에서 나온다
- 주요 질문 / 답변 내용 Q. 보이저엑스는 어떤 회사이고, 어떤 제품을 만들고 있나요? A. 2017년 설립된 보이저엑스는 영상·자막 편집 서비스 ‘브루(Vrew)’, 모바일 문서 스캐너 ‘브이플랫(vFlat)’ 등 크리에이터와 지식 노동자를 위한 AI 기반 툴을 개발하는 스타트업입니다. 브루(Vrew): 자동 자막 생성, 텍스트 기반 컷 편집, 텍스트 기반 비디오 생성 기능을 제공합니다. 브이플랫(vFlat): 책이나 문서를 스캔헤 PDF로 변환합니다. 이외에도 AI를 이용한 다양한 서비스들을 출시하고 있습니다. Q. 현재 맡고 계신 역할은 무엇인가요? A. vFlat에 들어가는 on-device 모델을 학습하기도 하고, AI 모델을 서빙하거나 서빙된 모델을 최...
-
- 제8회 데보션 테크 데이 - AI 인프라의 핵심, 데이터센터를 말하다 발표 요약 및 영상 공유
- 지난 7월 10일 목요일에 SKT타워 4층 SUPEX홀에서 진행한 제8회 데보션 테크데이 발표 요약 및 영상을 공유드립니다. 본 발표 요약은 ＂에이닷 노트 기능＂을 통하여 요약하였습니다. 전체 발표자료는 ＂제8회_데보션_테크데이_배포용.pdf＂ 참고 부탁드립니다. 위 행사와 관련된 현장 스케치 보도 기사는 아래 SKT 뉴스룸에서 확인하실 수 있습니다. https://news.sktelecom.com/213870 00.Keynote AI 데이터 센터의 구조와 운영 변화 : AI 데이터 센터, GPU 클러스터, 토큰 제조 공장, 전력 최적화, SK 솔루션 요약 AI 데이터 센터는 초병렬 연산과 고전력 소비로 기존 데이터 센터와 구조와 운영 방식...
DEVOTEE 추천 블로그
-
- 생성형 AI를 다루는 기술에 대하여
- 시작 하며 (생성형 AI라는 매기의 등장) 최근 미드저니에 대해 학습하게 되었다. 대학교 동아리로 미술 동호회 활동을 했고, 최근에도 미술 작품을 동호회 전시회에 출품한 적이 있어서 관심이 많은 편이다. 내가 그렸지만 프롬프트로 그려진 그림들이 신기하다. 프롬프트: beach, Cuno Amiet --ar 16:9 --s 250 --v 5.2 프롬프트: banner for website, snow, bright color, + pixar, simple, minimal, 3d, illustration --ar 7:1 --s 250 --v 5.2 딸이 아빠의 작품을 보고 걱정하는 눈치다. 딸은 대학교에서는 동양화를 전공하고 현재 대학원에서 시각디자인을 전공하고 있다....
-
- Multimodal LLM을 직접 학습시켜 보자!
- 최근 몇 년간 AI 기술의 발전은 대규모 언어 모델(LLM, Large Language Model)의 등장으로 새로운 국면을 맞이했습니다. 특히 ChatGPT와 같은 LLM은 인간과의 자연스러운 상호작용, 창의적인 콘텐츠 생성, 그리고 지식 확장 능력으로 전 세계적으로 큰 주목을 받으며 AI 기술의 중심에 자리 잡고 있습니다. 이러한 LLM의 인기는 텍스트 기반 작업에서 시작하여 이제는 멀티모달(Multimodal) 모델로의 확장이라는 또 다른 혁신을 이루며 발전하고 있습니다. GPT-4V로 시작하여 Gemini, Claude-3 등의 상용화 모델이 우후죽순 출시 됨에 따라 이미지를 활용한 상용화 UseCase들이 떠오르고 있는데요. 상용화 서비스를 fine-tu...
-
- 난생처음 AI 경험기 - OpenAI API 를 사용한 Hello World 를 작성해 보기
- 1. 들어가며 주변에서는 AI 시대가 온다고(이미 와 있지만) 하고 있고, 회사에서도 사내 챗봇을 도입하는 등 많은 변화가 느껴지고 있습니다. 하지만 이 모든 일은 남의 일이려니 하는 생각 이었죠..😅 몇 일전 우연히 Cursor 라는 VS Code 기반의 코드 편집기를 봤는데, 사용자가 입력한 말 몇 마디로 프로그램을 짜 주는 모습을 보고 정말 놀라움을 느끼게 됐습니다. Chat GPT로 보고서를 요약하고, Cursor 로 코드를 만들고 디버깅 및 실행까지 해주는 이런 일상들이 앞으로 가속화 될 것 같다는 생각에 늦었지만 AI 에 대한 학습을 시작해 보려고 이 글을 작성하게 됐습니다. 여러 전문가분들이 많으시지만 AI 에 대한 관심만 있고 실제 어떻게 사용하는...
-
- 고급 프롬프트 엔지니어링으로 GPT 앱을 만들어보자!
- 1. 시작하며 이번 글에서는 LLM의 등장과 함께 새롭게 등장한 용어, ＇프롬프트 엔지니어링＇ 기법들을 알아보고 여러 프롬프트 엔지니어링 기법들을 혼합해서 GPT 앱을 만드는 방법을 알아보려고 합니다. 최근에 본 컬럼 중에 ＂정답을 좇을 것인가 질문을 설계할 것인가＂라는 글이 있습니다. 프롬프트 엔지니어링은 원하는 답을 찾을 수 있도록 정답을 설계하는 과정입니다. 즉, 컴퓨터와 자연어를 통해서 대화하며 LLM에게 잠재되어 있는 많은 속성과 능력을 활용해서 정답을 설계하는 과정이라고 볼 수 있지요. 프롬프트 엔지니어링은 아래와 같은 공식으로 표현할 수 있을 것 같아요. 마치 프로그래밍 시, Object에서 속성을 뽑아내는 거라고 생각됩니다. 즉 LLM 내에는 문헌으...
DEVOTEE를 활성화 시키면
지금 작성한 댓글에 AI가 댓글을 달아줍니다.