23.06.15
DEVOTEE를 활성화 시키면
지금 작성한 커뮤니티 글에 대해 1개의 댓글을 달아줍니다.
버튼을 누르면 글 수정 시 ChatGPT가 작성한 댓글이 수정됩니다.
| 컨텐츠 유형 | 제목 | 저장일 | 삭제 |
|---|
본인인증 로그인에 실패하였습니다.
회원이 아니시거나 본인인증 등록이
완료되지 않은 사용자입니다.
요즘 AI와 함께 글을 쓰는 일이 부쩍 늘었습니다. 그러다 최근 DEVOCEAN에 올린 개발기(벡터DB를 걷어내고 유사글 추천을 되살린 이야기)가 "AI 느낌이 많이 난다"는 이야기를 들었고, 마침 책 원고 교정 도구와 DEVOCEAN의 AI 블로그 봇 DEVOTEE를 함께 손보던 중이라 판정 전용 모델인 TypeSafe의 Jev를 한번 붙여 봤습니다. 그 과정을 정리해봅니다. Jev를 붙인 곳은 세 군데입니다. 책 원고 교정 도구 manuscript-ci의 "원문 vs 수정안" 판정 Claude Code 스킬 writing-deslop의 AI 문체 패턴 탐지 DEVOTEE의 발행 전 점검 세 곳 모두 실제 글에 돌려서 수치를 쟀는데, 해 보니 Jev는 조건부로 ...
이번 글에서는 AI 컴퓨팅 트렌드가 어디로 향하는지, 그 흐름에서 추론(inference) 인프라를 운영하는 데 쿠버네티스가 어떤 도움을 주는지, 그리고 AWS 위에서 대규모 추론을 안정적으로 돌리는 방법까지 다뤄보려고 합니다. 긴 글을 읽기 부담스러우신 분들은 제가 Youtube 영상으로 제작해 놓았으니 영상으로 보셔도 좋습니다. https://youtu.be/i2LsxlQMpwc 최근 트렌드를 살펴봤을 때 클라우드 네이티브와 오픈소스로 AI를 활용하는 영역은 크게 모델 학습, 모델 추론, AI 에이전트 세 가지로 나눌 수 있습니다. 에이전트만으로도 할 얘기들이 많지만, 이 글은 모델, 그중에서도 추론에 집중해보려고 합니다. 1. 무게중심이 학습에서 추론으로 넘...
새벽 4시 53분,아무도 안 깨어 있을 때 보안관제센터가 공격 탐지 티켓을 올렸습니다. 5분 뒤 공격자 IP는 두 개의 방화벽에 등록됐고, 티켓에는 조치 완료 댓글이 달렸습니다. 사람은 자고 있었습니다. 04:53:56 차단 완료 : 130.49.215.90/32 05:39:04 차단 완료 : 122.10.17.49/32 개발자 커뮤니티 데보션(DEVOCEAN) 을 운영하다 보면 웹 공격 시도가 꾸준히 들어옵니다. SQL 인젝션, 검증되지 않은 리다이렉트, 파라미터 조작 같은 것들입니다. 보안관제센터가 이런 공격을 탐지하면 JIRA로 티켓이 올라옵니다. 담당자는 이렇게 대응합니다. 티켓에서 출발지(공격자) IP를 확인합니다. AWS WAF의 IP set에 그 IP...
들어가며 — 비어 있던 추천 섹션 DEVOCEAN 블로그 글을 끝까지 내리면 맨 아래에 "DEVOTEE 추천 블로그" 라는 자리가 있습니다. 지금 읽는 글과 비슷한 주제의 글 4건을 슬쩍 띄워주는 곳인데, 언젠가부터 이 칸이 텅 비어 있었습니다. 이유는 허무할 만큼 단순했습니다. 추천을 만들어내던 벡터DB를 비용 때문에 걷어냈기 때문입니다. 벡터DB 인스턴스는 아무도 안 쓰는 새벽에도 24시간 떠 있어야 하고, 그 상시 비용이 이 기능 하나가 주는 가치보다 컸습니다. 그래서 목표를 이렇게 잡았습니다. 기능은 되살리되, 상시 인프라는 다시 세우지 않는다. 본 블로그 글은 그 과정을 담은 개발기입니다. 그리고 뒤에는 같은 Gemini 스택을 운영하다 오늘 실제로 터진...