# #10 AI 직원도 지시대로 일했지만, 회장님의 지시가 전달되지 않았다. [AI로만 회사 만드는 #10]

> https://bookfactory.kr/board/ai-tech/21444
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-13T09:53:30.015Z

---

AI만으로 회사 만드는 실험을 계속하다가, 뜻밖의 문제에 부딪혔습니다. AI 직원들은 제대로 일하고 있습니다. 조사도 하고, 자료도 만들고, 또 다른 AI가 품질 검사까지 해줍니다. 게다가 QA 평가가 95점입니다. 일면으로는 아무 문제 없어 보이는군요. 하지만 완성된 결과물을 확인하던 중, 한 가지 깨달음을 얻었습니다. “어? 처음 요청했던 내용이 전부 들어있지 않아.” AI 직원은 지시대로 작동했지만, 그 지시는 회사의 사장인 제가 처음 내린 것과 약간 달랐던 것입니다. 이번 이야기는 AI만으로 발생한 “지시가 전달되지 않는 문제”와, 이를 해결하기 위해 COO(최고 실행 책임자)의 역할을 재검토한 이야기입니다.

1. AI 직원은 뛰어납니다. 하지만 그것만으로는 회사에너지 되는 지금까지의 연재에서는 OpenAI, Gemini, Claude 등 여러 AI를 조합하여 회사 만들었습니다. 시장 조사 담당 AI, 경쟁 분석 담당 AI, 기획 및 자료 제작 AI, 결과물 검토 QA 담당 AI 등 각각에 역할을 부여하여 하나의 요청을 여러 AI가 분담하여 진행할 수 있게 되었습니다. 예를 들어 실제로 진행했던 “상영의 바 집객 전략을 생각하는” 사례입니다. COO가 일을 분해하면 15개의 작업이 만들어졌습니다. 시장 조사, 경쟁 분석, 가치 설계 등 필요한 일을 분담하여 진행하는 시스템입니다. 실제로 AI 직원이 결과물을 만들고 QA가 95점을 줘 승인된 작업도 있었습니다. 여기까지 상당히 순조로웠습니다. 그런데 회사 전체적으로 보면, 한 가지 문제가 남아 있었습니다. 하나하나의 일이 제대로 되어 있어도, 최종적으로 사장의 요청을 충족하는 것은 아니라는 것입니다. 이 차이가 상상 이상으로 중요했습니다. 2. 사장의 지시가 중간에 사라지는 경우를 생각해 봅시다. 예를 들어, 사장이 다음과 같이 요청했다고 가정해 보겠습니다. “오노 바의 매출을 개선하고 싶다. 시장 조사와 경쟁사 비교를 한 후, 여성 고객을 늘리는 방안을 생각해 줘. 예산도 고려하여 실행 절차까지 정리해 줘.” 이 요청에는 여러 가지 조건이 있습니다.

*   시장을 조사해야 합니다.
*   경쟁사와 비교해야 합니다.
*   여성 고객을 유치하는 것을 중요하게 고려해야

![画像](https://assets.st-note.com/img/1791873168-ifHcb6auk5R4FgMsKIj0AGVy.png?width=1200)

3. QA가 95점이었음에도 불구하고, 안심할 수 없는 이유가 있었습니다. AI 직원들이 만든 결과물은 또 다른 AI가 품질 검수를 진행하고 있었기 때문입니다. 정확성은 어떠한가, 근거는 있는가, 내용에 모순은 없는가, 실행 가능한 제안으로 이어지고 있는가 등과 같은 항목들을 평가하여 점수를 매기고 있었습니다. 실제 검증 과정에서 95점이라는 평가가 나온 적도 있었습니다. 하지만 잘 생각해 보면 이상한 점이 있습니다. QA가 확인하고 있는 지시 자체에 불완전한 부분이 있었다면 어떻게 될까요? 예를 들어, 원래 요청에는 “예산 10만 엔 이내”라는 조건이 있었지만, 중간에 그 조건이 사라진 경우를 생각해 볼 수 있습니다. AI 직원은 20만 엔의 제안을 할 수 있습니다. QA는 전달받은 조건에 비추어 “실행 가능성이 높다”고 평가하고, 결과적으로 95점을 받게 됩니다. 하지만 사장님에게는 불합격입니다. 즉, AI의 품질 평가가 높다는 것과 사장의 요청을 충족한다는 것은 별개의 문제입니다. 이는 AI를 활용하여 업무를 수행하는 과정에서 상당히 큰 함정이라는 느낌을 받았습니다. 제9화에서는 AI 직원이 100점을 받았음에도 불구하고, 사전에 사장의 의사를 묻지 않고 엉뚱한 일을 수행하게 되는 상황을 다루었습니다. 이번에는 그보다 더 앞선 문제입니다. AI가 올바른 일을 하고 있는지 확인해야 했습니다.

4. 이에 COO(최고 운영 책임자)의 역할을 재검토했습니다. AI 컴퍼니에도, 일을 분해하여 AI 직원에게 할당하는 COO의 시스템이 있었습니다. 하지만 일을 분해하는 것만으로는 충분하지 않다고 생각했습니다. 필요한 것은, 처음 받은 사장의 요청을 끝까지 지키는 책임자입니다. 그래서 COO의 역할을 재검토했습니다. 우선, CEO가 내린 원래 요청의 내용을 보존했습니다. 다음으로, 그 요청을 작업으로 분해합니다. 각 AI 직원에게는 담당 업무에 필요한 조건을 전달합니다. 그리고 AI 직원이 만든 결과물을 확인합니다. 여러 결과물이 있는 경우에는, 필요에 따라 통합 담당 AI가 하나로 묶어줍니다. 마지막으로 COO가 완성된 결과물과 CEO의 원래 요청을 비교합니다. 만약 조건이 누락되었다면, 담당 AI에게 다시 돌려줍니다. 이것이 이번에 목표로 삼기로 한 새로운 책임 체계입니다.

![画像](https://assets.st-note.com/img/1791873212-BrXoPW1utbfH5p0QdCciY2Gj.png?width=1200)

5. COO에게 “업무를 완료할 책임”을 부여하는 이번에 특히 중점적으로 고려한 것이 COO의 완성 책임이다. 기존의 AI 시스템에서는 업무를 분해하고 각 AI가 결과물을 만드는 데 중점을 두었다. 하지만 일반적인 회사에서는 직원이 자신의 담당 업무를 완료하는 것만으로는 업무가 완료되지 않는다. 예를 들어 영업 자료를 만드는 업무의 경우, 시장 조사 담당자가 조사를 끝내고, 경쟁 분석 담당자가 비교표를 만들고, 기획 담당자가 전략을 구상한다. 여기서 모든 사람이 “완료”를 보고하더라도 회장님이 요구하는 제안서가 완성되지 않았다면 업무는 끝나지 않는다. 필요한 것은 각 담당의 결과물을 하나로 모아 전체적으로 모순이 없는지 확인하고 최종적인 요청을 충족하는 것이다. 이에 COO에게 다음 역할을 부여할 방향으로 결정했다. ① 회장이 처음 제안한 원본을 관리하여 회장이 처음 무엇을 요청했는지 확인 가능하게 한다. ② 업무의 분해와 배분을 관리하여 누가 무엇을 담당하고 무엇을 완료해야 하는지 명확하게 한다. ③ 지시의 누락을 감지하여 원래 요청에 포함된 필수 조건이 업무나 최종 결과물에서 누락되지 않았는지 확인한다. ④ 필요에 따라 여러 AI가 만든 결과물을 회장이 판단할 수 있는 하나의 형태로 통합한다. ⑤ 마지막으로 CEO의 요청과 비교하여 품질이 높고 요청된 내용이 모두 포함되었는지 확인한다. 중요한 것은 COO가 모든 일을 직접 하는 것이 아니라는 점이다. COO는 업무를 수행하는 AI가 아니라 업무를 완료하는 책임을 지는 AI이다.

6. AI 회사도 일반적인 회사와 같은 문제에 직면하는 이번 문제는 조금 흥미롭게 느껴졌다. 왜냐하면 AI만으로 운영되는 회사인데도 불구하고, 일반적인 회사와 마찬가지로 문제에 직면하기 때문이다.
저런 문제들이 발생할 수 있는 회사와 비슷한 문제였기からです. 사장이 방향을 정하고, 관리자가 부하 직원에게 지시를 내리고, 부하 직원이 일을 진행합니다. 하지만 중간에 의도가 전달되지 않아, 결국 완성된 결과물이 사장의 기대와 일치하지 않습니다. 인간 조직에서도 흔히 나타나는 이야기라고 생각했습니다. AI는 정확하게 지시를 전달해 줄 것이라고 생각했습니다. 하지만 실제로는 AI도 지시를 요약하거나, 중요도를 판단하거나, 일을 분해합니다. 이러한 과정에서 정보가 누락될 위험이 있습니다. 그래서 단순히 AI를 늘리는 것만으로는 부족하고, 조직으로서의 시스템이 필요합니다. 누가 지시를 내릴 것인지, 누가 책임을 질 것인지, 누가 품질을 확인하고, 누가 최종적으로 승인할 것인지 등과 같은 규칙을 만드는 것이 AI만으로 회사를 운영하기 위해서는 필수적이라고 느꼈습니다. 7. AI COO를 만들어도, 사장은 필요했던… 지금까지 COO의 역할을 강화하는 설계에 대해 이야기해 왔습니다. 하지만 이 시스템이 모든 경우에 완벽하게 작동하고, 모든 프로젝트에서 문제없이 진행되는 것은 아니었습니다. 실제 프로젝트에서 COO가 업무를 분해하거나 AI 직원에게 품질 평가를 하는 것은 확인했지만, CEO의 지시를 끝까지 정확하게 이행하는 시스템에 대해서는 지속적으로 구현하고 검증해야 했습니다. 그리고 또 한 가지. COO에게 완성 책임까지 맡겨도, 최종적인 경영 판단은 인간 CEO가 할 것입니다. AI가 95점의 제안을 내놓더라도, 그 정책에 돈을 쓰는 것은 또 다른 문제입니다. AI가 SNS 게시물을 만들어도, 회사의 이름으로 발신해도 되는 것은 또 다른 문제입니다. AI가 계약서를 만들어도, 그 내용으로 계약을 해도 되는 것은 또 다른 문제입니다. COO가 일을 관리하고, QA가 품질을 확인하고, 인간 CEO가 최종 판단을 내립니다. 목표하는 것은
다음은 3/3 본문 청크의 자연스럽고 정확한 한국어 번역입니다.

다음으로, AI 직원들을 외부로 보내는 시도를 했습니다. AI 컴퍼니의 조직 설계 개선을 진행한 결과입니다. AI 직원만 늘리는 것만으로는 회사가 될 수 없었습니다. 업무를 분해하는 것만으로는 부족했습니다. 첫 번째 요청을 끝까지 지키고 완성품에 책임을 지는 시스템이 필요했습니다. 그리고 다음으로 진행한 것은 X(구 트위터)와의 연동입니다. 기존에는 AI 직원들이 조사나 기획을 수행하는, 즉 내부 업무가 중심이었습니다. 하지만 회사로서 활동하려면 외부로의 발신도 필요합니다. AI 직원들이 게시글을 작성하고, QA가 내용 검토를 하고, COO가 업무를 관리하고, 인간 CEO가 승인하는 시스템을 실제 X 계정에 연결하는 것을 목표로 했습니다. AI 컴퍼니가 처음으로 SNS와 연동한 사례입니다. AI 직원은 어디까지 인간을 대신하여 업무를 수행할 수 있을까요. 아직 실험은 계속되고 있습니다. 이 연재에서는 AI만으로 회사 만드는 과정을, 성공과 실패를 포함하여 기록하고 있습니다. 이미 구현된 기능과 앞으로 구현될 설계는 구분하여 소개하겠습니다. #AI #생성AI #개인개발 #AI에이전트 #ChatGPT #Claude #창업 #AI컴퍼니

**출처:** [note 원문](https://note.com/tokyo_worklog/n/n2f632c9f0d32)

*번역: Gemma 3(.44) 초벌 + 교정 2청크*

[원문 보기](https://note.com/tokyo_worklog/n/n2f632c9f0d32) | 출처: note.com