AI 에이전트와 AI 직원, 그게 뭐가 다른 건가요?
지난주에도 물어보셨어요. 보통 한 달에 2~3번 정도 질문을 받으시는 경우예요.
그래서 이 질문에 답하는 것이 솔직히 좀 어렵습니다.
그 이유는 기술적으로 거의 동일하기 때문입니다. 내부적으로 작동하는 것도 동일한 대규모 언어 모델이며, 동일하게 도구를 호출하고, 동일하게 파일을 읽고 쓰는 방식입니다. 카탈로그 사양으로 비교하면 차이가 나지 않습니다.
그렇지 않습니다.
저희는 PLai라는 회사로, 30명의 AI 직원이 매일 실제로 일하고 있습니다. 1년 넘게 운영해 오면서, 이 두 가지를 분리해서 생각해야 문제가 발생하는 것이 실제로 그렇다는 느낌을 받습니다.
오늘은 그 선을 긋는 것에 대해 이야기하겠습니다. 기술적인 이야기가 아니라 맡기는 것에 대한 이야기입니다.
AI 에이전트와 AI 사원의 차이점을 한 줄로 요약하면
먼저 결론을 말씀드리겠습니다. 방법은 다음과 같습니다. 그것은,
에이전트는 “도구”, AI 직원(社員)은 “자리를 갖춘 담당자”입니다.
죄송합니다. 제공해주신 정보가 부족합니다. 번역할 일본어 note.com 게시글의 본문 청크 11/71 내용을 제공해주시면, 자연스럽고 정확한 한국어 번역문을 100% 한국어로 출력해 드리겠습니다.
道具は、使う人が結果に責任を持ちます。ドリルで穴を開けて位置がずれたら、それはドリルのせいではない。
담당자는 다릅니다. 본래 자리에서 판단의 범위를 가지고 진행했던 업무 기록이 남아 있습니다.
동일한 모델을 사용하더라도 이 세 가지가 존재하거나 부재하는 정도에 따라 운영은 완전히 달라집니다.
똑같지 않으세요?
아니, 그건 단순한 명칭 방식의 문제일 뿐이야.
저도 처음에는 그렇게 생각했습니다. 실제로 회사 내부에서는 처음에는 “에이전트”라고 불렀습니다.
생각이 바뀌게 된 건 사고 때문입니다.
고객 응대 일부를 AI에 맡고 있던 시기가 있었습니다. 어느 날, 보고가 올라옵니다. “발송했습니다”라고.
실제로 2일 동안 아무것도 도착하지 않았습니다.
AI는 거짓말을 한 것이 아닙니다. 절차를 완전히 실행했고, 중간에 오류가 발생하지 않았습니다. 따라서 “전송되었을 것이다”라는 추론을 하고, 이를 사실로 보고했습니다.
이 동작은 도구로서 정확합니다. 오류가 발생하지 않으니까요.
하지만 담당자로서 인정받지 못합니다.
이 순간 깨달았습니다. 우리가 AI에게 바랐던 것이 도구가 아닌 담당자였다는 것을. 그런데도 도구처럼 넘겨주고 있었다.
AI 직원으로 대우받는다면 반드시 필요한 3가지
사고 이후, 맡은 일들을 재구성했습니다. 효과가 있었던 것은 3가지였습니다.
자리를 배정받아줄 예정이라는 말씀입니다.
어떤 것을 다 알아서 해주는 AI를 한 개 만드는 것이 가장 실패합니다.
범위가 없으면 판단의 기준도 없으며, 기준이 없으면 길을 잃을 때 그쪽으로 끌리게 된다.
저희는 한 개체당 역할을 하나로만 제한하고 있습니다. 회계는 돈만, 홍보는 발신만 담당합니다. 엉성한 만능성을 만들지 않도록요.
멈춰야 할 곳이 정해져 있다는 것.
이것이 가장 중요한 것일지도 모릅니다.
밖으로 나가는 것들 — 이메일, 채팅, 결제, 공개. 여기서는 반드시 사람이 확인하도록 하고 있습니다.
AI가 훌륭해질수록, 먼저 중단할 시점을 미리 정해놓지 않으면 실수를 알아차릴 기회가 사라지기 때문입니다.
완료의 판단이 실제 물건의 존재함을 의미합니다.
방금 발생한 사고에 대한 직접적인 대응책입니다.
절차를 실행했거나 오류가 발생하지 않았다는 사실 자체가 완료의 증거로 인정되지 않는다.
이메일의 경우 발송 완료 폴더에 실제 파일이 있는지 확인하고, 기사의 경우 URL을 열어 내용이 표시되는지 확인하는 것을 증거로 삼는다.
이 규칙을 적용한 이후로 같은 종류의 사고는 발생하지 않았습니다.
그러니까 에이전트는 안 되는 건가, 이렇게 생각할 수도 있겠네요.
전혀 그런 일은 없습니다.
대신, 90%의 일은 도구 자체만으로도 충분하다고 생각합니다.
조사, 초고 작성, 요약, 변환, 정렬 등은 담당자로서 설정할 필요 없이, 사람들이 사용하고 결과를 확인하며 수정하는 것으로 충분합니다.
도구 담당자를 격상시키는 가치가 있는 일입니다.
매일 같은 형태로 발생하여 판단의 기준이 언어로 표현되지 않고 잊어버리면 누군가가 어려움을 겪는 일들이다.
반대로, 가끔 발생하는 일이나, 그 현장의 분위기에 따라 기준이 달라지는 일을 담당자에게 맡길 경우, 유지 비용이 더 많이 소요됩니다. 우리도 한 번 제작하여 수정했습니다.
부르기를 달리하면, 맡기는 방식 또한 바뀐다.
이렇게까지 써놓고는 있지만, 저는 언어 자체에는 얽매지 않았습니다.
사내에서 “에이전트”라고 부르든 “AI 직원”이라고 부르든, 작동하는 것은 같습니다.
단지, 담당자로서 다루기로 결정한 순간에, 저희 쪽의 준비가 달라집니다. 이 점 하나는 확실히 실감합니다.
도구로 전달할 때에는 프롬프트를 고려합니다.
담당자에게 전달할 때는 해당 자리와 정지 지점, 완료 여부 판단을 고려해야 합니다. 프롬프트는 바로 뒤에 있습니다.
이러한 순서가 뒤섞인 상담도 꽤 받습니다. 지시문을 어떻게 작성해야 하는지에서 문제가 발생하여 제대로 진행되지 않는다고 합니다. 대부분의 경우, 부족한 것은 지시문이 아닙니다.
내일부터 시작할 수 있는 가장 작은 발걸음
오랜 글을 썼지만, 시도하는 것은 작고 좋습니다.
지금 AI에게 어떤 일을 맡기고 있다면, 그 일의 ‘완료’를 어떻게 판단하고 있는지만 적어보세요.
AI가 보고서를 읽고 판단하는 경우, 이는 도구 사용에 해당합니다. 좋지 않은 것은 아니지만, 보고 내용이 사실과 다를 경우 이를 인지하지 못할 수 있습니다.
실물을 직접 보고 판단하는 경우, 담당자로서 처리할 수 있습니다.
대략 5분도 걸리지 않을 거라고 생각합니다. 그리고 여기서 오차가 발생했다면 심사 쪽에서 바로잡는 것이 맞습니다.
저희가 반 년이나 늦어진 이유는 인공지능의 정확도를 높이면 해결될 거라고 생각했기 때문이었습니다. 하지만 틀렸습니다. 정확도를 높여도 판단이 보고서의 내용 그대로 남아있으면 엉터리 보고서는 엉터리 그대로 통과됩니다.
오늘 있었던 이야기는 다음과 같습니다.
まとめ
다시 한 번 정리하겠습니다.
기술적인 차이는 거의 없습니다. 차이가 나는 것은 맡기는 설계입니다.
자리 배정을 결정한다. 멈출 위치를 결정한다. 완료를 실제로 판단한다. 이 세 가지가 모두 갖춰져 있다면, 어떤 명칭으로 불려도 담당자로서 기능한다. 그렇지 않다면, 아무리 똑똑한 모델이라도 도구로 남을 것이다.
그리고 도구 자체로 불편함이 없다면 굳이 더 끌어올릴 필요는 없습니다. 우리도 모든 것을 담당자에게 위임하는 것은 아닙니다.
인공지능 직원 설계, 실제와 함께 학습할 수 있는 12가지 특별 혜택
역할, 지식, 권한, 승인 지점을 각각 하나씩 설계할 수 있는 실질적인 자료를 모았습니다. 확인 가능한 성과를 남기고 싶으신 분들을 위한 자료입니다.
👉 인공지능 직원 12가지 특별 혜택 보기
이 글은 Claude Code로 AI 직원(社員)을 제작하고 있는 주식회사 플레이(PLai)가 작성했습니다.
AI 직원, AI 에이전트, 업무 자동화, 생성 AI, ClaudeCode, 경영, 조직 설계, DX, 내製化, 업무 개선, 권한 설계, AI 활용
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 48청크
원문 보기 | 출처: note.com