로그인 선택
미리보기
커뮤니티
1,234
23.06.15
글 등록
카테고리를 선택해주세요.
DEVOTEE를 활성화 시키면
지금 작성한 커뮤니티 글에 대해 1개의 댓글을 달아줍니다.
버튼을 누르면 글 수정 시 ChatGPT가 작성한 댓글이 수정됩니다.
임시저장함에 저장되었습니다.
저장일시 : 2022.5.17 14:29:08
임시저장함
제목을 선택하시면 이어서 작성이 가능하며,
최대 20건까지 저장합니다.
최대 20건까지 저장합니다.
| 컨텐츠 유형 | 제목 | 저장일 | 삭제 |
|---|
본인인증
효율적인 데보션 서비스 이용 및
고객님의 소중한 개인정보보호를 위해
본인인증을 진행해주세요. 본인인증 미 진행 시 로그인이 제한됩니다.
고객님의 소중한 개인정보보호를 위해
본인인증을 진행해주세요. 본인인증 미 진행 시 로그인이 제한됩니다.
본인인증 실패
본인인증 로그인에 실패하였습니다.
회원이 아니시거나 본인인증 등록이
완료되지 않은 사용자입니다.
회원정보 연결
A.X : SKT 자체 AI 모델 개발에 대하여
- DEVOTEE 요약
- SK텔레콤은 자체 개발한 대규모 언어모델(A.X LLM)을 통해 B2C 서비스 '에이닷'과 다양한 B2B 영역에서 혁신을 이루고 있습니다. 회사는 2018년부터 KoBERT, KoGPT-2, KoBART 등 언어모델을 개발해왔으며, A.X 모델은 현재 인프라, 법무 등 여러 분야에 적용되고 있습니다. 앞으로도 A.X LLM의 진화를 통해 AI 기술 활용을 확대해 나갈 계획입니다.
SK텔레콤이 자체 개발한 A.X LLM을 소개합니다.
SK텔레콤은 2018년부터 KoBERT, KoGPT-2, KoBART 등의 언어모델을 개발해왔고, 현재 Infra, PR, HR, 법무 등 다양한 영역에 A.X가 적용되어 일하는 방식을 혁신하고 있습니다.
에이닷을 필두로 한 B2C 서비스 뿐 아니라 여러 B2B 사업으로도 확장하고 있는 A.X LLM의 개발 이야기와 앞으로의 진화 방향을 여러분께 소개하고자 합니다.
김태윤SK텔레콤
SK텔레콤 Global/AITech 사업부 AI Model 과 Enterprise AT TF LLM Model 모델 조직에서 foundation model 학습팀을 리드하고 있습니다.
#LLM #AI Service #Foundation Model #Pre-Training #Model Alignment
DevRel 님의 최신 블로그
더보기-
- [전문가 밋업#3] 금융 AI의 진화: 컨텍스트 설계와 에이전트 아키텍처 (은행 AI 전문가가 밝힌, 아무도 말해주지 않는 3가지 진실)
- 요약 금융 산업의 인공지능(AI) 패러다임이 생성형 AI의 등장으로 근본적인 전환을 맞이하고 있습니다. 과거의 AI가 RPA(로봇 프로세스 자동화)나 예측 모델을 통해 개별 업무를 자동화하는 ＇조각난 효율성＇에 머물렀다면, 현재는 고객의 언어를 이해하고 데이터의 ＇의미＇를 연결하여 의사결정을 보조하는 단계로 진화하고 있습니다. 이러한 변화의 핵심은 AI를 단순히 도입하는 것을 넘어, 비즈니스 목표에 맞는 ＇컨텍스트(문맥)＇를 어떻게 설계하고 활용하느냐에 있습니다. 금융권의 미래 경쟁력은 복잡하고 사일로화된 데이터로부터 의미 있는 관계망을 구축하는 ＇컨텍스트 플로우＇ 설계 능력에 달려 있습니다. 이를 위해 고객, 상품, 리스크, 영업, 시장이라는 5가지 핵심 컨텍스...
-
- 제9회 데보션 테크 데이 - AI와 함께 일하는 시대, 에이전트와 자동화 기술 발표 요약 및 영상 공유
- 지난 9월 1일 월요일에 SKT타워 4층 SUPEX홀에서 진행한 제9회 데보션 테크데이 발표 요약 및 영상을 공유드립니다. 본 발표 요약은 ＂에이닷 노트 기능＂을 통하여 요약하였습니다. 전체 발표자료는 ＂제9회_데보션_테크데이_배포용.pdf＂ 참고 부탁드립니다. 1. AWS 생성형 AI 최신 기술 동향과 주요 업데이트 핵심 단어: Al 에이전트, AWS, 에이전트코어, S3벡터, 스트렌저SDK 요약 Al 에이전트의 발 전단계와 AWS의 대응 서비스 소개 Al 에이전트 개발. 운영을 위한 모델, 도구, 프레임워크 혁신 필요성 설명 AWS의 에이전트코어, S3벡터, 스트렌저 SDK 등 주요 AI 서비스 및 기능 소개 🧠 AI 에이전트 발전 단...
-
- [전문가 밋업#2] AI 서비스 경쟁력은 기능보다 최적화와 UX에서 나온다
- 주요 질문 / 답변 내용 Q. 보이저엑스는 어떤 회사이고, 어떤 제품을 만들고 있나요? A. 2017년 설립된 보이저엑스는 영상·자막 편집 서비스 ‘브루(Vrew)’, 모바일 문서 스캐너 ‘브이플랫(vFlat)’ 등 크리에이터와 지식 노동자를 위한 AI 기반 툴을 개발하는 스타트업입니다. 브루(Vrew): 자동 자막 생성, 텍스트 기반 컷 편집, 텍스트 기반 비디오 생성 기능을 제공합니다. 브이플랫(vFlat): 책이나 문서를 스캔헤 PDF로 변환합니다. 이외에도 AI를 이용한 다양한 서비스들을 출시하고 있습니다. Q. 현재 맡고 계신 역할은 무엇인가요? A. vFlat에 들어가는 on-device 모델을 학습하기도 하고, AI 모델을 서빙하거나 서빙된 모델을 최...
-
- 제8회 데보션 테크 데이 - AI 인프라의 핵심, 데이터센터를 말하다 발표 요약 및 영상 공유
- 지난 7월 10일 목요일에 SKT타워 4층 SUPEX홀에서 진행한 제8회 데보션 테크데이 발표 요약 및 영상을 공유드립니다. 본 발표 요약은 ＂에이닷 노트 기능＂을 통하여 요약하였습니다. 전체 발표자료는 ＂제8회_데보션_테크데이_배포용.pdf＂ 참고 부탁드립니다. 위 행사와 관련된 현장 스케치 보도 기사는 아래 SKT 뉴스룸에서 확인하실 수 있습니다. https://news.sktelecom.com/213870 00.Keynote AI 데이터 센터의 구조와 운영 변화 : AI 데이터 센터, GPU 클러스터, 토큰 제조 공장, 전력 최적화, SK 솔루션 요약 AI 데이터 센터는 초병렬 연산과 고전력 소비로 기존 데이터 센터와 구조와 운영 방식...
DEVOTEE 추천 블로그
-
- 우리 회사 서비스 캐릭터들이 AI를 만나면 어떤 아이들이 될까? (feat. 멀티 LLM 플레이그라운드＆AI 프롬프톤 사례 공유)
- 안녕하세요, 판교 SK플래닛 DevRel ＆ 기술교육 담당자 입니다! ChatGPT가 출시된 이후 계속해서 생성형 AI 기술을 활용한 서비스 개발 고도화뿐만 아니라, 각 기업 내 구성원들의 AI 활용을 높이기 위한 노력 또한 더욱 커지고 있는데요. 따라서 AI를 잘 활용하기 위한 기업의 환경 조성 및 활용 문화의 확산 또한 중요해지고 있습니다. (2025년 SK그룹 최태원 회장님 신년 메시지 중) SK플래닛에서는 이미 2024년 여름, 사내 구성원들이 다양한 LLM(Large Language Model)을 실제로 체험할 수 있는 LLM 플레이그라운드를 사내에 시범 오픈하고, 이를 활용한 프롬프톤(프롬프트 + 해커톤) 이벤트를 사내 개발팀과 지원팀의 콜라보레이션으로...
-
- EMNLP24 늦은 후기 1탄: 텔레콤 LLM 벤치마크 TelBench 발표 이야기
- 고객센터는 왜 ‘텔코 LLM’을 꿈꾸었는가? 통신사 고객센터의 하루는 복잡합니다. 각기 다른 상담원이 여러 차례 전화를 받으며 문제를 파악하고, 요금제와 부가서비스를 안내하고, 후속 조치를 남겨야 합니다. 대화는 길고 전문 용어가 많으며, 고객의 감정도 제각각입니다. 이런 과정을 일관성 있게 처리하려면 숙련된 상담사가 필요하지만, 교육과 유지에는 많은 시간과 비용이 듭니다. 바로 이 지점에서 SK텔레콤 AI Data Engineering팀은 ‘텔코 특화 LLM’의 가능성을 보았습니다. 기존 범용 LLM이 상담 대화 요약과 후속 업무를 자동화할 수 있다면 상담 효율이 크게 향상될 수 있을 것입니다. 그러나 현실은 녹록지 않았습니다. 일반 LLM은 통신 도메인의 복잡...
-
- AI로 SKT 고객 응대 패러다임을 바꾼 이야기. 콜봇과 챗봇 그리고 상담사 Assistant
- SK Telecom의 고객 응대는 여러 형태로 이루어집니다. 상담사를 대신해 전화로 고객을 응대하는 콜봇과, 고객이 직접 메시지를 통해 요구 사항을 해결하는 챗봇이 있습니다. SK Telecom에서는 LLM, 음성 인식, 음성 합성 기술을 활용하여 상담사 개입 없이 고객의 요구사항을 해결하는 서비스를 어떻게 개발했는지 그 과정을 공유하고자 합니다. 또한, 콜봇과 챗봇으로 해결할 수 없는 경우, 고객센터 상담사들을 AI가 효율적으로 지원할 수 있는 기술에 대해 설명드리고자 합니다. 특히 고객 상담 내용을 학습한 LLM을 어떻게 활용했는지, 그 개발 과정을 보여 드리겠습니다. 박병관SK텔레콤 SK Telecom AI Tech Product에서 음성인식/합성, LLM ...
-
- Enterprise AI 혁신을 이끄는 RAG 최적화 전략과 사례
- SK그룹 내 AT(AI Transformation) Use case 발굴과 글로벌 시장 경쟁력을 갖춘 솔루션 개발을 목표로, 2024년 6월 SK텔레콤 산하 Enterprise AT TF가 출범하여, RAG(Retrieval-Augmented Generation) 기술 개발을 진행하고 있습니다. LLM(대규모 언어 모델) 기반의 AT Usecase 구현에서 RAG는 중요한 요소이며, B2B 고객의 가장 큰 요구사항 중 하나는 SOTA 수준의 RAG 성능을 제공하는 것입니다. 저희 팀은 B2B 사업 지원과 Enterprise AT TF Usecase 지원 관점에서 RAG 성능 최적화를 수행하였으며, 이 과정에서 겪은 시행착오, 성공 사례, 그리고 개발 관련 노하우를...
DEVOTEE를 활성화 시키면
지금 작성한 댓글에 AI가 댓글을 달아줍니다.