최근 SNS에서 “AI 직원”이라는 용어를 자주 보게 되었다.
영업 담당, 리서치 담당, 작가, 엔지니어, 회계 담당…….
여러 개의 AI 에이전트에게 역할을 부여하여 화면상의 사무실에서 픽셀 캐릭터들이 어슬렁거리며 일하고 있다.
이를 처음 보았을 때, 제가 가장 먼저 떠올린 것이 카이로소프트의 경영 시뮬레이션 게임이었다.
직원을 고용하고, 역할을 부여하고, 시설을 배치하여 회사를 성장시켜 나간다.
화면 속에서 작은 캐릭터들이 바쁘게 움직이고 있다.
이건 정말 보는 것만으로도 엄청 재미있어요.
저 또한 카이로소프트의 게임이나 AI를 좋아해서 이런 미래지향적인 시스템에는 평소에 기대감을 갖게 됩니다.
하지만 동시에 계속해서 걸리는 문제가 있습니다.
이를 현실의 일에 적용했을 때, 정말 인간의 일은 줄어들고 있는 걸까?
AI 직원들이 늘어나면서 사장이 너무 바쁘지 않은지 걱정된다.
예를 들어, 인공지능 직원 10명을 만든다고 가정해 봅시다.
각각이 자동으로 조사하고, 문서를 작성하고, 기획을 하고, 코드를 작성해 줍니다.
일견하면 매우 효율적이라고 보일 것 같다.
하지만 그 10명은 차례로,
조사 결과가 종합되었습니다.
3가지 방안을 준비했습니다. 어떤 것을 선택하시겠습니까?
게시물이 완료되어 확인해 주시기 바랍니다.
코드를 작성했습니다. 승인해 주세요.
그걸 가져오면 어떻게 될까.
결국, 모든 것을 한 사람이 확인하게 된다.
AI 직원들이 늘어남으로써 처리 능력은 향상되었다.
그러나 최종 확인을 담당하는 사람의 처리 능력은 변하지 않았습니다.
그 결과,
AI는 아닌 인간이 병목 현상을 일으킨다.
이렇게 되면, 10명의 직원을 고용한 회사에서 모든 서류를 사장이 홀로 검토하고 있어서 크게 달라지는 것은 아니다.
AI가 빠른 속도로 결과물을 생산하는 만큼, 승인 대기 중인 서류만 엄청나게 쌓여갈 수도 있다.
AI 직원들을 늘렸더니, 사장이 하루 종일 승인 버튼을 누르는 일에만 매달리게 되었습니다.
정말 기쁘지 않네.
카이로소프트 세계에서는 여전히 굳건히 자리 잡고 있어
여기 재미있는 점은 게임과 다르다는 것입니다.
카이로소프트의 경영 시뮬레이션에서는 직원들이 업무를 수행할 때마다,
기획이 완료되었습니다!
신상품이 히트했습니다!
매출이 상승했습니다.
다음과 같은 형태로 결과가 표시됩니다.
플레이어는 결과물의 내용을 한 글자씩 확인하지 않아도 된다.
직원들이 작성한 기획안의 오타나 누락된 부분을 확인하기 위한 필요는 없다.
코드에 심각한 버그가 없는지 확인하는 척 하지 않아도 된다.
고객에게 보낸 답변 내용이 무례하지 않았는지 확인하는 것은 불필요합니다.
세무상 정확성을 확인하는 것 또한 불필요합니다.
게임이므로, 그런 부분은 과감하게 추상화할 수 있습니다.
그래서 “직원들이 자의적으로 일한다”는 경험이 실현된다.
하지만 실업무에서는 결과물의 세부 사항이 더욱 중요해진다.
기획서는 내용을 담는다.
프로그램은 동작한다.
회계라면 금액이나 계정과목.
고객 응대라면 언어 예절과 사실 관계입니다.
게임이라면 “성과 +10”으로 끝나는 부분에 현실에서는 품질과 책임이 존재한다.
여기까지 게임처럼 자동화하면 정상적으로 멈추게 된다.
정말로 배워야 할 건, 픽셀 그림이 아니다.
그래서 저는 AI 직원 화면을 카이로소프트처럼 꾸미는 것 자체를 매우 재미있다고 생각하고 있습니다.
봐도 봐도 재미있고, AI 에이전트의 상태를 시각화하는 UI로도 이해하기 쉬운 점이 많다.
하지만 진정으로 카이로소프트 게임에서 배울 점은 캐릭터가 조금씩 움직이는 방식에 있다는 생각을 합니다.
더 중요한 것은,
플레이어가 어느 정도까지 개입해야 게임으로서 의미를 가지는가.
이런 설계다.
게임에서는 직원 한 명 한 명에게 매 초 명령을 내리지 않습니다.
플레이어가 결정하는 것은
채용할지 말지.
어디에 배치할까요.
무엇에 투자할 것인가.
어느 방향으로 회사를 성장시킬 것인가.
정말 중요한 판단이다.
그 외의 세세한 행동은 직원들이 알아서 해 줄 것입니다.
그러니 재미있네요.
만약 직원 10명을 고용했는데, 그 10명 모두가 몇 초마다 계속해서
사장님, 다음에는 무엇을 해야 할까요?
누군가가 들려주는 게임이라면, 상당히 복잡할 것이다.
실제 AI 직원들도 같은 생각을 할 것이다.
목표하는 것은 “AI 사원의 인원”이 아닌 “인간의 개입 횟수”입니다.
AI 활용을 통해 제가 추구하는 것은
인간의 작업을 극도로 “판단”에 의존하도록 하는 것이다.
하지만 그것만으로는 아직 부족합니다.
더욱이 그 이후에
그 판단마저도 진정으로 인간이 필요한 것들만으로 축소할 것이다.
예를 들어 100개의 일자리가 있었다고 가정해 보자.
AI가 100건을 처리하고, 인간이 100건 전체를 모두 확인하는 데에는 큰 차이가 없을 것이다.
이상은,
평소와 같이
따뜻하고
현명해지는 것을 의미합니다.
물론,
그것은
쉽지 않습니다.
하지만,
포기하지 않고
자신을
성장시켜 나가고 싶습니다.
특히,
『별의 정원사』
를 읽을 때처럼
순수한 마음으로
세상을 바라볼 수 있도록
매일 노력하고 싶습니다.
AI는 100건을 처리한다.
규칙상 문제가 없는 95건은 그대로 완료된다.
이상한 사례가 5건만 인간에게 전달된다.
그러자 인간은 그 5가지 항목에 대해 판단한다.
이렇게 하는 건 처음이에요.
AI 덕분에 인간은 자유롭게 시간을 활용할 수 있게 되었다.
그렇게 생각할 수 있습니다.
물론, 어느 정도까지 AI를 활용할지는 업무에 따라 다릅니다.
실수로 인한 경우에도 즉시 롤백 가능한 처리는 상당히 자동화할 수 있다.
한편으로, 고객에게 공개되는 정보, 금전, 계약, 중요한 설계 변경 사항 등은 인간의 확인을 남겨두는 것이 적절한 경우도 많다.
중요한 것은,
모든 AI에 맡깁시다
하지만,
모든 인간이 확인한다
그럴 리는 없다.
어디까지를 인공지능에 맡기고, 언제 인간에게 다시 넘겨줄 것인지에 대한 설계를 하는 것.
AI 사원의 본질은 캐릭터의 인원수와는 아니다.
AI 놀라움의 집에서 모든 것을 요약하는 것은 옳지 않을 것입니다.
한편, 이러한 AI 열풍에 대해
AI는 놀라움을 선사한다
이러한 표현을 사용하여 비판하는 사람들도 있습니다.
AI의 새로운 기능이 나올 때마다,
혁명이야!
이제 인간은 필요 없어!
이것을 알면 뒤쳐지지 않게 된다!
그처럼 발언을 폄하하는 말로 사용되고 있다고 생각합니다.
마음을 알아.
저 역시 AI를 이용하여 불안감을 조성하거나, 재현성이 의심스러운 방법을 “누구나 쉽게 돈을 벌 수 있다”고 판매하는 방식은 좋아하지 않습니다.
그렇듯 번잡한 세계에서는 자신 역시 같은 행동을 하지 않도록, 때때로 반면교사로 삼으며 관찰하기도 합니다.
하지만 그렇다고 해서
AI에 놀라거나 가능성을 이야기하는 사람들을 전부 “AI 놀라키야”로 치부하는 것은 조금 무리한 생각이라고 생각한다.
AI가 굉장한 일을 하면 그냥 “정말 대단하다”라고 말해도 괜찮아.
저 역시 AI를 사용하면서 매일매일 놀라움을 금할 수 없습니다.
문제는 “놀라운 일”이 아니라는 점입니다.
놀라움을 부풀려
제약에 대한 설명을 제공하지 않거나
비용을 숨기거나,
할 수 있는 것과 할 수 없는 것을 명확히 하거나,
단순히 이것만으로는 누구나 돈을 벌 수 있다고 말할 수 없다.
AI의 가능성을 이야기하는 것과 AI를 사용하여 사람을 조롱하는 것은 완전히 다른 것이다.
AI를 좋아하기 때문에 과대평가를 하고 싶지 않다.
나는 인공지능을 좋아한다.
그러므로 AI 직원이라는 개념 자체를 부정하고 싶었던 것은 아니었다.
물론, 잘 설계된 인공지능 에이전트가 인간의 일을 크게 변화시킬 가능성은 충분히 있다고 생각한다.
하지만 AI를 좋아해서 더욱 그렇습니다.
정말로 얼마나 해냈는지 스스로에게 묻는 것이었다.
저는 침착하게 상황을 지켜보고 싶습니다.
화면상에서 AI 직원들이 즐거워 보이며 일하고 있다.
정말 재미있네요.
하지만 그 이면에서 인간이 엄청난 양의 결과물을 확인하고 있다면, 그것이 진정으로 자동화되었다고 말하기는 어렵다.
반대로
AI라서 괜찮을 거예요.
확인도 하지 않고 전부 위임하는 것은 위험하다.
필요한 것은,
검증 시스템
책임의 경계선
인간의 개입 조건
또한,
인간의 판단을 어디까지 줄일 수 있을까
생각하는 것이 옳다고 생각해요.
AI 직원에게 필요한 것은 “대표를 바쁘게 만드는 설계”입니다.
카이로소프트의 게임 내 직원들을 보면서 미래의 회사를 경영하고 있는 듯해서 즐겁다.
그러므로, 저는 이렇게 생각하고 싶습니다.
AI 직원 수를 얼마나 만들었느냐가 아니라
그 결과, 인간이 몇 번의 판단을 덜 해야 하는 상황이 되었습니다.
직원이 실제로 일하는 모습을 현실감 있게 표현했는지 여부
인간이 중요한 판단에 집중할 수 있는 시스템이 작동하게 되었는가.
정말로 우리가 향해야 할 것은,
AI 직원들이 많은 회사
그 대신
필요한 정보만 선별되어, 인간에게는 “정말로 판단해야 할 것”들이 전달되는 회사.
그럴 수도 있습니다.
AI 직원 20명이 일하는 화면을 바라보며, 사장이 하루 종일 승인 작업을 하고 있는 회사보다
AI 직원 한 명의 모습조차 보이지 않는다면,
아침 시스템을 열었을 때,
오늘 당신이 판단해야 할 사건은 3건입니다.
표시됩니다.
저라면 그쪽이 훨씬 미래 지향적이라고 생각해요.
그리고 만약 이것이 카이로소프트 스타일의 게임이라면――
사장님이 계속 승인 버튼을 누르고 있는 회사는 아마 게임 밸런스가 좋지 않을 겁니다.
마지막으로
지금까지 이렇게까지 작성했지만, 저는 AI 직원들의 미래에 오히려 기대하고 있습니다. 더 실용적으로 발전하여 인간의 일을 정말로 줄여줄 수 있는 시스템으로 진화해가는 것을 기대하고 있습니다.
그래서 화면 안에서 얼마나 많은 사람들이 일하고 있는가보다, 그 시스템에 의해 인간이 자유롭게 사용할 수 있는 시간이 정말로 늘어났는지, 인간이 해야 할 판단에 더 집중할 수 있게 되었는지, 그것을 지켜봐야 한다.
AI는 정말 재미있습니다. 새로운 기능이 나올 때마다 저는 여전히 놀라움을 금할 수 없습니다.
하지만 “대단함”으로 끝내지 않고, 실제 업무에서는 얼마나 위임할 수 있는지, 인간이 책임을 져야 하는 지점을 심층적으로 고민해야 합니다. 그 과정 자체가 AI를 사용하는 사람들의 역량일 수 있다고 생각합니다.
저 또한 아직 명확한 답을 가지고 있지는 않습니다. AI를 활용하면서, 실패를 통해, 실제로 작동하는 시스템을 만들어가며 고민해나가고 싶습니다.
언젠가 진정으로, 아침에 컴퓨터를 켜니,
오늘, 당신이 판단해야 할 사항은 3건입니다.
그렇게 표시될 때를 의미하는 경우에 대해.
그때 처음으로, 나는 “AI 직원, 제대로 일하고 있네”라고 생각하게 될지도 몰라.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 103청크
원문 보기 | 출처: note.com