# AI 직원 시리즈 제5회: CS 담당에 “내부 정보를 참조하여 답변을 생성하도록 설계”

> https://bookfactory.kr/board/ai-tech/16838
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-16T18:13:49.643Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/311701806/rectangle_large_type_2_7e1a9d27898f5f07f13ee556619dd825.png?width=1280)

클루드 코드에 “AI 직원”을 고용했습니다. 메인 에이전트는 사장이고, 그 아래에 비서, 회계, 마케팅 담당자가 있는 구조입니다.

지난번에는 회계 담당 디자인을 작성했습니다. 이번에는 CS 담당(고객 지원) 디자인입니다. 이전과 마찬가지로 아직 운영하지 않은 디자인에 대한 내용이므로, 숫자는 포함되어 있지 않습니다.

CS 담당을 설계하는 과정에서 가장 먼저 걸림돌이 있었던 것은 바로 이것이었습니다.

AI에게 제 정보가 담긴 내용을 확인한 후 답변해 주시기 바랍니다.

일반적인 설명으로는 도움이 되지 않습니다. “Claude Code 환경 구축은 ~”과 같은 일반적인 설명이 아닌, “제 서비스가 어디까지 커버하고 있으며, 요금은 얼마이고, 과거에 같은 질문에 어떻게 답변했는지”를 고려하여 답변을 부탁드립니다.

평소라면 RAG를 구축하는 상황입니다. 하지만 부업으로 개인적으로 RAG 기반을 구축하는 것은 과도합니다. 그 기반을 직접 만들지 않고도 해결할 수 있는 설계를 고려했습니다.

## RAG(Retrieval-Augmented Generation)을 구축하는 것은 개인에게는 부담이 될 수 있습니다.

RAG는 “AI에게 사내 문서를 검색하게 하고, 그 내용을 근거로 답변을 생성하는 방식”입니다.

할 일은 보통 이렇게 됩니다.

- 문서를 적절한 길이로 분할합니다.
- 각각을 숫자 벡터로 변환한다.
- 특정 데이터베이스에 저장하도록 하기 위해
- 질문이 들어오면 유사한 내용의 조각을 검색하여 가져옵니다.
- 추출한 조각들과 질문을 함께 AI에 전달했습니다.

각 단계별로 미세 조정이 필요합니다. 분할 길이를 잘못 설정하면 문맥이 끊어지거나, 검색 정확도가 낮을 경우 관련 없는 조각들이 섞일 수 있습니다. 운영에 착수하면 문서 양이 증가함에 따라 수정할 수 있는 시스템도 마련해야 합니다.

회사에서 할 경우 합당한 투자입니다. 하지만 제가 다루고 싶은 것은 서비스 설명, 요금, 그리고 과거 문의 10여 건입니다. 이 규모로 RAG를 구축하는 것은 명백히 과도했습니다.

## 클로이드 코드는 원래 파일을 읽을 수 있습니다.

생각해보면, Claude Code에는 처음부터 이 기능이 있었습니다. 로컬 파일을 읽을 수 있습니다.

즉, 내부 정보를 Markdown 파일로 보관하고, Claude.md 파일에 “답변하기 전에 이것을 먼저 읽어라”라고 작성해 두면, 그것만으로도 “정보를 참조하여 답변한다”는 것이 성립됩니다.

- 벡터 데이터베이스는 필요하지 않습니다.
- 분할도 변환도 필요 없습니다.
- 정보를 업데이트하고 싶을 때는 Markdown을 수정하면 됩니다.

물론 모든 것을 해결해 주지는 않습니다. 정보량이 증가하면 전부를 읽을 수 없게 됩니다. 수백 파일의 규모가 되면 검색 기능이 필요합니다.

단지, 그 경계는 생각보다 먼저 존재합니다. 그리고 다음에 쓸 이유로 AI社員의 구성에 한 경우, 그 경계에 도달하기 어려워집니다.

## 직업에 따라 참조 범위가 부당하게 좁아진다.

여기서 이번에 가장 중요하게 다루고 싶었던 점입니다.

RAG(Retrieval-Augmented Generation)에서 검색 정확도가 떨어지는 한 가지 이유는 검색 대상이 너무 넓게 설정될 때입니다. 전체 문서가 하나의 위치에 모여 있으면 회계 규정, 고객센터 FAQ, 개발 설계 문서 등이 같은 장소에 나열됩니다. 그 중에서 적절한 조각을 추출하는 것이 어려워집니다.

AI 직원 구성에 대해서는 먼저 이 문제를 해결하고 있습니다.

- CS 담당자는 FAQ, 서비스 사양, 과거 대응 이력을 확인합니다.
- 회계 담당자가 보는 것은 매출 장부와 비용 규정뿐이다.
- 비서는 달력만 봅니다.

직업별로 구분된 경우, 참조 범위가 분리됩니다. 검색할 필요 없이 해당 폴더만 읽어보면 충분합니다.

정보가 너무 많아서 전부 다 읽을 수 없는 문제는 전사의 정보를 1명의 AI에 쏟아 부어 발생하는 것이다. 담당별로 나누어 분담하면 1명이 감당하는 양은 줄어든다.

직원들에게 배분하는 것 자체가 간편한 검색 정확도에 대한 대책이 되고 있습니다. 이것이 AI 직원과 파일 참조의 시너지가 좋은 이유라고 생각합니다.

덧붙여, 권한 분리도 자연스럽게 할 수 있습니다. CS 담당에게 매출 장부를 보여줄 이유가 없습니다. 폴더를 분리해 놓으면, そもそも 보이지 않게 됩니다.

## 【설계】CS 담당자에게 전달할 정보

저장할 파일은 다음과 같이 결정되었습니다.

- 서비스 사양 … 제공하는 내용과 대상 제외 항목, 비용 및 소요 시간
- FAQ … 자주 묻는 질문과 실제로 답변한 내용
- 넘어져서 대처 수집… 환경 구축으로 막히는 부분을 증상별로 정리한 것
- 상담 내역 … 이전 문의 사항 및 답변
- 대답하지 않아야 할 것들 … 판단을 내리기 어려운 주제, 무료로 제공하지 않는 범위

마지막 하나가 중요합니다. 써놓지 않으면 AI는 친절하게 대답해 버립니다. 대응 범위 밖의 일까지도 “가능합니다”라고 답한다면, 나중에 곤란한 것은 저뿐입니다.

대화 기록을 분리하는 이유는 FAQ에 게시하기에는 정리되지 않은 대화를 그대로 보관하기 위해서입니다. 정리를 먼저 하지 않으면 저장할 수 없는 규칙이 있어서 기록이 중단되었거든요. 우선 그대로 남겼습니다.

## [설계] 가장 중요한 규칙은 ‘아는 것을 바탕으로 대답하지 마세요’입니다.

제가 설계했던 부분이 최대의 함정이라는 것을 깨달았습니다.

AI는 Claude Code의 일반 지식을 가지고 있습니다. 그래서 파일에 기록되지 않은 내용에 대해서도 충분히 설득력 있는 답변을 할 수 있습니다.

예를 들어 “Windows에서 Claude Code가 작동하지 않는” 경우에 질문받았을 때, 제 문제 해결 및 대처집에 기록되어 있지는 않지만, 일반론으로서의 답변은 충분히 제시할 수 있습니다. 그리고 그것은 대부분 정확해 보일 것입니다.

하지만 CS에서 이렇게 하면, 자신이 인지하지 못한 내용이 자신의 이름으로 고객에게 전달됩니다. 나중에 “그런 설명을 들었다”고 하더라도, 자신이 무엇에 답변했는지 자신이 알 수 없습니다.

그러므로 이렇게 쓰기로 했습니다.

파일에 근거 없는 질문에는 답변을 생성하지 않고, ‘확인 후 답변하겠습니다’라는 초안을 제시한다.

겉보기에 낭비처럼 보일 수 있지만, CS에서는 올바른 판단이라고 생각합니다. 모르는 것을 모른다고 답하는 것은 틀린 답변보다 안전합니다. 그리고 그 자리에서 스스로 조사하여 그 결과를 FAQ에 추가한다면, 다음부터는 답변할 수 있게 됩니다.

## [설계] 답안은 초안까지 포함하며, 전송하지 않습니다.

지난 회계 담당 시, 제가 맡기는 범위는 3단계로 나누었습니다. CS에도 동일한 틀이 적용됩니다.

- 기록… 대응 기록 보존, FAQ에 추가. 전부 위임합니다.
- 판단 … 답변 문 작성. 초안까지
- 책임… 고객에게 전달 중입니다. 위임하지 않습니다.

현재 규모에서는 위험이 더 커질 수 있습니다. 발송 전에 직접 제가 읽어보는 것만으로도 대부분의 사고를 예방할 수 있습니다.

반대로, 초안이 준비되어 있다면 부담이 크게 줄어듭니다. CS에서 시간이 오래 걸리는 것은 질문을 작성하는 과정이 아니라 “과거에 유사한 질문이 있었는지”, “서비스 범위 내에 해당하는지”를 확인하는 과정이기 때문입니다. 그 부분은 파일을 읽을 수 있는 AI의ほうが 더욱 확실합니다.

## 실물 담당 클로드.md

제가 설계한 것을 올려드립니다.

## 디자인하면서 겪은 깨달음들

글을 다 쓰고 나서 깨달은 것은 RAG가 필요한지 여부는 정보량 문제에 달려 있다는 것이고, 처음부터 필요한 것은 아니라는 점이었습니다.

AI에게 내부 정보를 참조시키고 싶다는 생각을 하면, RAG 구축이 바로 떠오릅니다. 하지만 진정으로 필요한 것은 “AI가 근거를 보고 답하는 것”이며, 그 수단이 벡터 검색이라는 필수는 없습니다. 손에 든 정보가 수십 파일이라면, 폴더에 넣어 읽어주기만 하면 충분합니다.

또한, AI 직원처럼 직종으로 나누면 한 사람이 부담하는 정보량은 자연스럽게 줄어듭니다. 조직의 형태를 그대로 모방하는 것이 곧 설계상의 이점으로 이어지는 것을, 실제로 시도해보지 않았더라면 눈치채지 못했을 것입니다.

또 하나. FAQ를 먼저 완벽하게 만들어야 한다는 생각은 설계상의 발견이었습니다.

처음에는 괜찮습니다. 대답할 수 없는 질문이 올라오면, 찾아보고 덧붙여서 답변을 추가하면 됩니다. 그렇게 반복하면 실제로 제기된 질문들로만 구성된 FAQ를 만들 수 있습니다. 상상으로 쓴 FAQ보다 훨씬 더 확실하게 도움이 될 것입니다. 키우는 것을 전제로 하는 방식이, 완성하려고 하는 방식보다 훨씬 빠르게 움직일 수 있습니다.

## 지금까지 5명에게서 나타난 것

행정, 마케팅, 회계, CS 및 설계 업무를 수행하면서 공통적으로 나타난 두 가지 측면이 있었습니다.

- 먼저 범위를 먼저 결정한다. 기록은 묵살하고, 판단은 초안까지, 책임은 묵과한다.
- 직무에 따라 범위와 권한이 자연스럽게 분리된다.

AI 직원들을 고용하는 것에 대해 “많이 고용하면 쉬워질 것이다”라는 생각이 드는 경우가 많지만, 실제로는 분할 방식의 설계가 더 효과적이었습니다. 무엇을 시킬 것인지보다 어디에 선을 긋느냐가 더 중요합니다. 이 선을 결정하는 것만으로도 그 이후 내용은 뒤에서 키우는 방식으로 진행할 수 있습니다.

다음 AI 직원 시리즈에서 뵙겠습니다!

## 코로나에서 AI 직원과의 상담이 증가하고 있습니다.

최근 코코나라에서 인공지능 직원 구성에 대한 상담 요청이 꾸준히 늘고 있습니다.

말을 해보면, 막히는 문제는 기술이 아닌 설계쪽이라는 점을 느낄 수 있습니다. 이번에 CS 담당을 맡은 분들이 “RAG를 만들어야 하는가?”라는 질문에 멈추어 버리는 경우가 많을 거라고 생각합니다. 실제로는 우선 폴더에 넣어 읽게 하는 것부터 시작하면 대부분 충분한 경우입니다.

어느 직종에서 고용할지, 무엇을 참조하게 할지, 어디까지 위임할지. 업무 내용에 따라 답변이 달라지므로, 제 구조를 그대로 따라 해도 대부분 맞지 않습니다.

만약 “자신의 업무를 어떻게 구성해야 할지” 고민하고 계신 분이 있다면, 언제든지 상담 주시면 함께 설계해 드리겠습니다.

## SKILL.md 샘플 모음을 무료로 공개하고 있습니다.

이 기사에서 소개된 CLAUDE.md와 같이 AI 직원 역할 정의는 글로 작성하는 것만으로 만들 수 있습니다. 반복적으로 사용하는 절차의 경우에는 스킬(SKILL.md)로 저장해두면 한마디로 호출할 수 있습니다.

프로ンプ트大全에서는 이 기사와 같은 지침을 그대로 사용할 수 있도록 구성된 SKILL.md 샘플을 20종류 이상 무료로 공개하고 있습니다.

회의록 작성, 비즈니스 문서, 개발, 사무 작업 등 모두 복사-붙여넣기 방식으로 도입할 수 있는 것들뿐입니다.

자동화의 범위를 한층 더 넓히고 싶다면, 꼭 한번 살펴보세요.

클로이드 코드 자작 스킬 모음집｜SKILL.md 샘플 20선 (복사-붙여넣기 방식으로 도입)

## 문의 및 지원 관련 사항

코코나라에서 Claude Code의 환경 구축부터 활용 방법 강습, 활용 방법 상담까지 제공하고 있습니다. “자신의 업무에 사용할 수 있는지 시험해 보거나 ‘잘 작동하지 않는다’는 어려움이 있다면 언제든지 활용해 주세요.”

클로이드 코드 활용 상담은 여기서 신청하시기 바랍니다 (채팅 버전)

클로이드 코드 활용 상담은 여기서(비디오 통화 버전) 이용 가능합니다.

노트 팔로우 및 이 글에 "좋아요"를 눌러주신 분들께는 500엔 할인 캠페인이 진행 중입니다!

**출처:** [note 원문](https://note.com/osaka0114/n/nebb5e2aa7d08)

*번역: Gemma 3(.44) 초벌 + 교정 63청크*

[원문 보기](https://note.com/osaka0114/n/nebb5e2aa7d08) | 출처: note.com