오전 10 시에 열릴 예정이었던 회의가 열리지 않았습니다.
회의라고 하지만 참석하는 것은 인간이 아닙니다.
나는 매일 아침 10 시에 AI 가"오늘 어떤 기사를 써야 할까"를
기획 회의에서 아이디어를 제안할 수 있는 시스템을 운영하고 있습니다.
사용 중인 것은 Claude Code라는 것입니다.
전 작업을 AI 에 맡길 수 있는 도구입니다.
컴퓨터만 켜두면 내가 아무것도 하지 않아도 스스로 작동합니다.
일반적으로 알려진 AI 정기 실행입니다.
그 날은 그 시스템을 움직이기 시작한 첫 날이었습니다.
아침이 지났을 때 "아, 오늘 아침의 제안은 어떻게 된 건가?" 하고 생각하며 로그를 열었습니다.
손이 멈췄다.
로그 파일의 크기는 불과 57 바이트입니다.
본질적으로 이 한 줄뿐이었습니다.
세션 사용 한도 초과 · 1 시에 재설정됩니다
사용 가능 한도 상한에 도달했습니다.
그 정도만 적고 내 AI 직원은 업무를 마친 상태였습니다.
오류 알림이 표시되지 않으며, 화면에도 경고가 표시되지 않습니다.
로그를 직접 확인하지 않으면 실패했음을조차 깨닫지 못합니다.
정직하게 말하자면, 처음엔 놀라버려서 살짝 웃어보았습니다.
하지만 그 순간, 몸이 뻑뻑해졌다.
만약 일주일 동안 깨닫지 못했다면.
나는 "AI 가 매일 아침 기획안을 만들어주네"라고 착각하며,
실제로는 아무것도 움직이지 않는 구조를 계속 믿고 있었습니다.
이 글에서는,
AI 자동화 및 정기 실행을 시작하거나 곧 시작하려는 분들을 위한 안내입니다.
이 실패의 원인과, 같은 날에 적용한 세 가지 예방책.
그리고 이제 아직 완성되지 않은 네 번째 안전 장치를 소개하겠습니다.
읽기 끝날 무렵에는, 나의 자동화가
착지 방법과 인식 방법의 설계가 구현되어 있어야 합니다.
AI 자동화가 진짜로 두려운 것은 '무언의 결근'입니다.
먼저, 이 현상에 이름을 붙여두겠습니다.
AI 자동화의 '무언결근'이란,
정기 실행되는 AI 작업이 오류 통보 없이 실패하고,
누군가에게도 알려지지 않은 채 결과물이 계속 누락되는 상태를 말합니다.
일본 기업의 사원이라면 휴무할 때는 연락을 주곤 합니다.
허가 없이 출근하지 않는다면, 적어도 '자리가 비어 있다'는 것이 명확하게 드러납니다.
그러나 AI 의 정기 실행은 실패하더라도 좌석이 비워지지 않습니다.
로그 파일에 한 줄만 남아 있어도 외관은 어제와 전혀 변하지 않습니다.
자동화는 '움직이기 시작한 날'이 가장 불안하게 만드는 날입니다.
설정 작업이 완료된 성취감에 따라 다음 날부터 로그를 더 이상 확인하지 않게 됩니다.
저의 경우 첫 날 사고가 있었기에 깨달았지만,
그 일이 두 주 뒤라면 하고 싶다는 생각만 해도 여전히 등 뒤를 차갑게 느끼게 됩니다.
원인은 '2 명의 AI 직원이 서로 지갑을 교환했다'는 사실입니다.
내 환경에서는 AI 정기 실행이 여러 개가 병렬로 실행 중입니다.
아침 8 시에 '누적된 정보를 정리하는 담당자'
아침 10 시에는 '기획회의 담당자' 순번이었습니다.
사고의 원인은 매우 단순했습니다.
AI 는 특정 시간 내에 사용할 수 있는 양에 상한선이 있습니다.
계산 방법은 플랜이나 모델에 따라 다르지만,
내 환경에서는 여러 작업이 동일한 리소스를 공유합니다.
즉, 모두가 공유하는 지갑과 같습니다.
오전 8 시 정리 담당자가 그 날은 우연히 큰 일을 처리하고,
지갑을 거의 다 써버렸습니다.
10 시 기획 회의 담당자가 출근했을 때 지갑은 비어 있었습니다.
일을 시작할 수조차 없었고, 한 줄만 남기고 집으로 돌아갔다.
그렇습니다.
그날의 소비량 자체에 대한 기록은 남아있지 않아.
정확한 것은 상황으로부터 추정한 것입니다.
확신된 사실은 10 시 작업이 최대치 도달으로 실패한 것입니다.
그날 아침 8 시에 수행된 작업이 평소보다 더 큰 처리량을 필요로 했던 두 가지 사례입니다.
각각의 작업은 모두 오류가 없습니다.
디자인 관점에서 '자원의 분배'를 의도하지 않았던 저의 실수입니다.
인간 사회의 직장에서도 회의실이나 예산 다툼 같은 일이 벌어집니다.
AI 자동화에서는 그것이 '토큰'으로 발생합니다.
그리고 승부에서 패한 쪽은 불만을 제기하지 않고 침묵하며 돌아갑니다.
동일한 날에 적용한 세 가지 예방책
원인을 파악했다면 대응책은 어렵지 않습니다.
그날 내내 세 가지를 구현했습니다.
앞서 미리 말씀드리자면,
이 세 가지 사고 자체를 유발하지 않도록 하는 '예방책'입니다.
「멈추는 것을 깨닫는 메커니즘」은 다른 이야기이며, 나중에 솔직하게 적겠습니다.
모든 경우처럼 저는 추가 유료 서비스를 계약하지 않았습니다.
기존 설정과 스크립트만으로 대응했습니다.
예방책 ① 일할 날이 없는 날에는 출근을 시키지 않는다 (가드).
가장 절약할 여지가 많았던 것은,
그 구조는 놀라울 정도로 평범했습니다.
정보 정리 담당 AI 는 매일 아침 가동되었습니다.
그러나 잘 생각해보면 정리해야 할 신작이 전혀 없는 날도 있습니다.
그날도 AI 는 전력을 다해 작동했다.
다양한 규칙을 숙지한 끝에
"아무것도 없었다"고 보고 돌아갔다.
이러한 빈 출근 하나만으로도 매번 상당한 양의 토큰이 소모되었습니다.
따라서 AI 를 시작하기 전에,
셸 스크립트 (컴퓨터에 기본 탑재된 명령어) 로
새로 추가된 파일이 0 개라면 AI 를 호출하지 않고 그대로 종료합니다.
이 문파인을 배치했습니다. 판정의 본질은 단 몇 줄에 불과합니다.
파일을 세고, 0 이라면 종료합니다. 그밖엔 없습니다.
고성능 압축 도구나 최적화 서비스도 존재하지만,
결국 저의 경우 가장 절감 여지가 컸던 것은,
이러한 '발생하지 않게 하는' 사고방식입니다 (효과 측정 결과는 아직 앞으로의 일입니다).
1 주일 후 업데이트된 실제 데이터는 다음 기사의 보고서에 게재합니다.
가장 강력한 절약법은 지혜롭게 일하게 하는 것이 아니라,
현재의 판단은, 일할 필요가 없는 날을 찾아내는 것이라고 할 수 있습니다.
예방책 ②: 작업자의 등급에 맞는 도구를 부여한다 (모델 고정)
두 번째는 AI 모델 (뇌의 등급) 을 지정하는 것입니다.
실제 사고 당일,
평소 사용하는 AI 를 최상위 모델로 전환한 지 얼마 되지 않았습니다.
여기에 함정이 숨겨져 있었습니다.
내 실행 환경에서는 모델을 명시하지 않은 작업을,
사용 중인 기본 모델로 설정되어 있었습니다.
즉, 방치하면 매일 밤 기계적인 일보 작성까지
그건 가장 고가의 뇌를 동원해 추진되는 것이었습니다.
일기 작성과 같은 반복적인 작업에는 최상위 모델이 필요하지 않습니다.
따라서, 각 작업별로 모델을 명시적으로 고정했습니다.
판단이 필요한 업무 (정보 분류, 기획 수립) 은 중간 수준의 안정성을 가진 모델입니다.
기계적 작업 (일기) 은 경량 모델입니다.
일본 기업에서 말하면,
領収書の整理を役員にやらせない、というだけの話です。
그런데도 당연한 일인데도,
AI 는 "모든 것이 가장 똑똑하다면, 그것을 조작해서 사용하면 된다"라고 생각하기 쉽습니다.
지혜에는 가격이 붙습니다.
예방 조치 ③ 중요한 업무부터 우선 처리 (실행 순서)
세 번째는 실행 순서를 변경하는 것입니다.
사고 당일에는 '8 시 정리 담당, 10 시 기획 회의 담당' 순으로 진행되었습니다.
하지만 차분히 생각해보면, 나에게 더 큰 가치는 기획 회의에 있습니다.
정보 정리는 하루 늦어도 실질적인 피해가 거의 없으나, 기획은 매일 사용해야 합니다.
따라서 순서를 역으로 바꾸었습니다.
가장 중요한 일을 아침 일찍 일어나 바로 시작하세요.
나머지 작업은 그 뒤로 배치합니다.
이제 만약 다시 자원 다툼이 일어난다고 해도,
희생이 되는 쪽은 우선순위가 낮은 쪽이 됩니다.
외주 업체나 부하 직원에게 업무를 어떻게 배분하느냐와 마찬가지로, '어떤 일을 먼저 맡겨야 하는가'는
그 자체도 설계입니다. AI 기반 자동화라면 이 순서를 스스로 결정할 수 있는데,
등록 순서대로 그대로 방치해 버리는 경우가 많았습니다.
그런데도 부족하다, 네 번째 안전 장치
이 글까지 읽으셨다면 날카로운 분들은 이미 깨닫셨을 것입니다.
이 글의 서두에서 내가 두려워했던 것은 '실패를 인지하지 못하는 것'이었습니다.
그런데, 제시된 세 가지 모두 '실패를 쉽게 방지하는' 예방책입니다.
가장 중요한 '멈출 때 알려주는 시스템'——
무언의 결근 그 자체를 해결할 수 있는 안전 장치는 아직 만들어지지 않았습니다.
현재는 매일 정해진 시간에 로그를 확인하는 방식입니다.
비록 상당히 원시적인 방법이지만 버티고 있습니다.
예방 조치로 사고 확률은 낮아졌을 것으로 예상되지만, 제로는 될 수 없습니다.
다음으로 만들어야 할 것은,
실패 시 알림이 발송되고, 결과물이 생성되지 않으면 예외로 처리됩니다.
이러한 '깨달음의 방법'의 작동 원리입니다.
이 부분은 솔직히 이번 회에서는 미완성 과제로 다음 회로 넘기기로 합니다.
저장용: 무인 AI 점검 체크리스트 (예방 3 가지 + 발견 1 가지)
같은 실수를 피하고 싶으신 분들을 위해 체크리스트로 정리해 두었습니다.
AI 의 정기 실행뿐만 아니라, 외부 업체에 대한 정기 발주나,
회사 내부의 자동 리포트에도 대부분 해당됩니다.
- 공회기 방지 (예방): 일정이 없는 날에는 실행되지 않도록 (대상 존재 여부를 실행 전 확인하는) 메커니즘이 있는지
- 도구의 등급 (예방): 작업의 규모에 맞는 모델과 도구를 명시적으로 지정했는지 (기본값에 의존하지 않았는지)
- 우선순위 (예방): 자원이 여유로운 시간대에 가장 중요한 작업이 우선으로 실행되는 순서를 의미합니다.
- 실패의 가시화 (안전장치): 스스로 확인하지 않아도 실패를 인지할 수 있는 수단 (알림, 결과물 유무 확인) 이 있는지
현재 위 세 가지 항목에 체크가 붙어 있고, 네 번째 항목은 비어 있습니다.
「任せる」란 움직이는 방법, 멈추는 방법, 깨닫는 방법을 결정하는 것입니다.
이번 배운 내용을 한 문장으로 정리하면 다음과 같습니다.
자동화란 단순히 '움직이는 방법'을 설계하는 것뿐만 아니라, '멈추는 방법'과 '인식하는 방법'까지 설계하는 것입니다.
움직일 것만으로도 된다면 지금 정말로 매우 쉽습니다.
AI 에 명령어를 작성하고 실행 시간을 등록하면,
그 날부터 그 시스템이 작동하기 시작했습니다. 저도 그 정도까지는 순조롭게 진행되었습니다.
하지만 "언제 멈추는지"와 "멈췄을 때 어떻게 인지하는지"
「정지해도 피해가 발생하지 않는 순서」를 정해두지 않았다.
사람에게 일을 맡길 때는 무의식적으로 수행하는 확인을,
상대가 AI 가 된 순간, 잊고 있던 것이었습니다.
또한, 이 세 가지 예방법은 아직 구현된 첫 날입니다.
"1 주일 내 트러블 없이 돌아온"이라는 실적은 앞으로 만들어갈 것입니다.
네 번째 안전 장치 (실패 알림) 의 구현 현황도 포함하여,
다음 주 기고물에서는 숫자를 함께 보고하겠습니다.
잘 안 되면, 그것도 나름 솔직하게 적겠습니다.
요약
이미 자동화를 진행 중이라면 오늘 해야 할 일은 하나뿐입니다.
그 자동화가 최종적으로 실패한 시점은 로그를 확인해 보시면 알 수 있습니다.
"한 번도 실패하지 않았다"는 정말 훌륭합니다.
이 글까지 읽어주셔서 감사합니다.
「참고로 된」「우리사의 자동화도 다시 검토해 볼까」と 생각했다면,
스키를 눌러주셔서 기쁩니다.
만약 저와 같은 조용히 결근한 AI 직원이 발견된다면,
「우리 쪽은 이렇게 멈춰 있었다'는 사례를
편안하게 댓글을 남겨주세요. 이 연재의 가장 큰 영감을 줄 것입니다.
이 노트에서는 FIRE, 자산 형성, AI, 소규모 비즈니스에 대해 다룹니다.
성공담뿐만 아니라 실패나 우회경로도 함께 공유하고 있습니다.
다음 회에는 이번 예방 조치들이 1 주 동안 AI 사용량을 얼마나 줄였는지 확인하겠습니다.
그리고 네 번째 안전 장치가 완성되었는지는 실제 측정 수치를 통해 보고할 예정입니다.
처음 만나는 분들을 위한 자기소개와도 겸하는 한 편의 글입니다.
[자기소개] 32 세에 FIRE 를 달성한 내가 완전 은퇴를 포기한 이유
이 노트를 읽어주신다면, 전체적인 흐름을 파악하실 수 있습니다.
다음 글에 호기심을 가지신 분은 반드시 팔로우를 하시고, 다음 글을 기다려 주세요.
출처: note 원문
번역: Qwen 3.5(.48) 초벌 + 교정 94청크
원문 보기 | 출처: note.com