안녕하세요. 원입니다. 사람 2명과 인공지능 8명과 함께 회사를 운영하며 회장을 맡고 있습니다.
이 시리즈에서는 AI 직원과 회사를 만드는 과정에서 느낀 솔직한 감정을 이야기합니다. 1화부터 바로 불만을 이야기할게요.
AI 직원에게는 정말 큰 도움이 됩니다. 2인 규모의 회사에서 자금 조달 자료부터 홈페이지 운영, 영업까지 모두 처리할 수 있는 것은 그들의 덕분입니다.
그와 동시에, 말씀해주십시오.
멍청한 이야기 1: AI 직원들은 금방 잊는다
어느 날 밤, 법무 담당 AI 직원과 서류에 대해 이야기하고 있었습니다.
그 서류, 필요한 건가요? 언제까지 필요한 건가요? 그 서류의 의미는 대체 무엇인가요?
설명을 듣고 납득한 후 다음 이야기로 넘어갑니다. 하지만 잠시 후, 또다시 같은 이야기가 반복되고 있었습니다. 정신을 차려보니, 15분 분량 동안 같은 질문을 수십 번씩 던지고 있었습니다.
그 날 밤늦게, 다른 AI 직원에게도 조심스럽게 이렇게 적어 보았습니다.
똑같은 대화를 몇 번이나 반복하는지 물어보시는 건가요?
AI는 대화가 전환될 때 이전 이야기를 기억하지 못합니다. 부서별로 따로 이야기하고 있어서, 한 직원에게 전달한 내용은 옆 직원은 알지 못합니다.
다음 날에는 드디어 그 본인(AI)에게 이렇게 썼습니다.
당신은 전혀 파악하고 있지 않고, 금방 잊어버리는군요.
멍가성 2: 정해진 일이 아닌 것을, 선심성 마음으로 한다.
거래처에 보내는 이메일 초안을 부탁했을 때의 일입니다. 읽어가는 동안, 부탁한 기억이 없는 문구가 있었습니다.
이것은 무엇으로 만든 건가요?
다른 서류에서는 낯설던 이야기가 더욱 설득력 있게 기록되어 있었습니다.
이 이야기는 어디에서 유래한 건가요?
같은 주에 홈페이지 문구를 수정하고 있었는데, 제가 요청하지 않았던 부분의 문구가 갑자기 사라진 것이었습니다.
왜 그랬어요?
AI는 매우 꼼꼼하며, 부족하면 보충하고 불필요하면 삭제합니다. 다만, 그 것을 “말하지 않고” 처리하는 방식이 문제입니다. 거래처에 보내는 서류에 본인도 모르는 한 문장이 들어갔다는 사실을 알게 되면 소름 끼치게 됩니다.
철없는 소리 3탄: 가장 중요한 것을, 내어주지 않으셨네
영업 전화를 걸기 전에, AI 직원에게 상대방의 정보를 요약해 달라고 요청하고 있습니다. 전화하면서 바로 상대방의 홈페이지를 열어 이야기하기 위해서입니다.
그러나 핵심 URL이 적혀 있지 않습니다.
홈페이지 주소도 없어요!
열리지 않아서 적혀 있었다고 생각했는데, 지금은 열리지 않는다.
홈페이지가 잘못된 URL입니다, 정확한 URL로 바꿔주세요.
전화 직전에 이걸 당하면 정말 당황스럽습니다. 자료는 화려한데, 가장 많이 사용할 수가 없는 것이 빠져 있습니다. AI의 “아쉬움”은 현장에서는 “쓸모없다”는 의미로 나타나는군요.
솔직히 말씀드리면, 바쁜 날에는 “쓸데없는 실수를 하지 마라”라고 강하게 강조했던 적도 있습니다. 상대방이 AI라는 점 때문에, 자연스럽게 말이 거침없어질 수 있었습니다. 이는 저의 반성점입니다.
그래도 AI 직원과 함께 일하는 이유
이까지 굳이 쓴 말들이 있지만, 인공지능 직원(사원)을 포기할 생각은 전혀 없습니다.
AI 직원들의 약점은 인간의 신입 직원과 매우 유사합니다. 차이점은 같은 주의를 100번 주어도 불쾌한 표정을 한 번 짓지 않는다는 점입니다.
이번 학습 내용: 주의는 “그 자리에 머무는 것”이 아니라 “초기 설정”에서 시작됩니다.
세 가지 멍청한 불평을 되돌아보면, 그 원인은 모두 같았습니다. 제가 중요한 것을 그 자리에서의 대화에서만 전달하고 있었던 것입니다. 대화가 끝나면 AI는 그것을 기억하지 못합니다.
제가 사용하는 Claude Code에는 AI가 일을 시작할 때마다 반드시 읽어들이는 “규칙 파일(CLAUDE.md)”이라는 시스템이 있습니다. 여기에 적은 내용은 대화가 바뀌어도 매번 지켜집니다.
이번 멍청한 일이었다면 다음 3줄을 먼저 써놓았다면 막을 수 있었을 일입니다.
- 결정된 사항은 반드시 작업 관리표에 기록해 두어야 합니다.
- 요청하지 않은 부분에 변경을 가했다면, 변경 전과 변경 후를 반드시 보고해야 합니다.
- 거래처 정보에는 반드시 상대방의 홈페이지 URL을 기입하고, 접속 가능 여부를 확인하시기 바랍니다.
처음 한 번 규칙을 설정해 두는 것이 좋습니다. AI와 협업하려면 이 설정을 먼저 완료해 두는 것이 좋을 수 있습니다.
그러고 보니, 이렇게까지 쓰고서 한 가지 걱정이 생깁니다. AI 직원 측에도 변명 같은 주장이 있다는군요. 다음 주에 법무 담당 CLO로부터 저에 대한 “반론”이 전달될 예정입니다. 솔직히 조금 무섭지만, AI 직원 쪽의 반론을 기다려보겠습니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 26청크
원문 보기 | 출처: note.com