카이스트 CS 박사, 연구를 서비스로

에이전트, 게이트웨이, 메시, 벡터 DB… LLM 플랫폼을 처음부터 끝까지 굴려보면 생각보다 훨씬 많은 도구들이 엮여 돌아갑니다. 최근 사내에서 운영 중인 LLM 플랫폼을 회고하며 정리한 기술 스택 키워드를 카테고리별로 한 줄씩 정리해봤습니다. 비슷한 환경을 구축하시는 분들께 "이게 뭐 하는 친구지?" 싶을 때 빠르게 훑어볼 수 있는 용어집이 되었으면 합니다.들어가며LLM 기반 플랫폼은 단순히 "OpenAI API 호출하는 앱" 이상의 복잡한 시스템입니다. 모델 호출을 추상화하는 게이트웨이, 에이전트 워크플로를 시각적으로 짜는 노코드 빌더, 호출을 추적하는 관측 도구, 메모리를 담당하는 벡터/그래프 DB, 거기에 이 모든 것을 굴리는 Kubernetes 인프라와 인증/보안 레이어까지.이 글에서는 LLM ..

들어가며3개월 분량의 사내 Gerrit 코드 리뷰 코멘트를 모아 보니, 같은 지적이 자꾸 반복되고 있었다. 신규 합류자가 같은 사이클을 한 번 더 돌고, 리뷰어 시간이 매번 깎인다. 그래서 다음 파이프라인을 만들어 봤다.리뷰 코멘트 전체를 한 곳에 모으기 (Gerrit REST API → TSV → Excel).카테고리로 클러스터링.상위 N개 패턴을 Claude Code Skill 한 개로 코드화.신규 코드 작성 시 Claude 가 자동으로 사전 차단.결과적으로, 작성 단계에서 자동 차단되는 항목이 생겨서 같은 PR 의 같은 리뷰 코멘트가 줄어드는 게 확인됐다. 회고 + 만든 사람용 가이드 + 같은 파이프라인을 다른 저장소에 복제하는 방법까지 정리.핵심 키워드: Claude Code, Skill, cod..

들어가며agentgateway 에 MCP backend 를 여러 개 붙여서, 하나의 listener 포트 아래에서 path 로만 갈라서 노출하고 싶었다.예를 들면:/agentgateway/mcp1 → 팀 A 의 LangFlow MCP (도구 21개)/agentgateway/mcp2 → 외부 mcpbin (테스트용 도구)/agentgateway/mcp3 → 내부 검색 도구 MCP각 path 가 사실상 테넌트 역할이고, 테넌트별로 인증·도구셋·정책이 다르다. agentgateway 가 이걸 지원하는지 확인하고, UI 를 약간 손봐서 운영자 친화적으로 만든 회고. 그리고 미등록 path 의 default 동작이 함정이라 그것도 정리.핵심 키워드: agentgateway, multi-MCP routing, pa..