AI는 포기하지 않는다: 밤새도록 계속 실패를 거듭하여 내일의 자원을 완전히 소모한 이야기

게시판: AI·머신러닝 | 작성자: admin | 작성일: 2026-09-12T04:42:12.947Z

저는 엔지니어ing 분야가 아닌, 평범한 회사원입니다. 코드를 작성할 수 없습니다.

그런 인간이 클로드 코드(Claude Code)로 만든 AI 팀에 부업과 생활을 맡기고 있습니다. 집에서 AI 직원들을 고용하고 있는 듯한 느낌입니다.

AI 사원의 좋은 점은 지치지 않는 것이다. 불평도 하지 않고, 심야에도 같은 작업을 담담히 계속해 준다.

지난달, 그 ‘지치지 않는’ 것이 모습을 드러냈습니다.

우리 AI 직원 한 명이 밤새도록 계속해서 실패를 반복했습니다. 10분마다 새벽까지, 게다가 다음 날 분의 자원을 완전히 소모하면서.

사건: 16개의 계획이 8개로 축소되었다

그 날의 업무는 블로그의 상품 소개 기사에 상품 카드를 16개 배치하는 것이었습니다.

상품 카드는 도구를 사용하여 온라인 쇼핑 사이트에서 상품 정보를 검색하여 제작합니다. AI 직원들이 순조롭게 등록을 진행하여 8번째까지 완료되었습니다. 그러나 9번째에서 갑자기 오류가 발생하여 멈췄습니다.

화면에 나타난 것은 “검색 시간이 소요 중입니다”라는, 매우 애매모호한 메시지였습니다.

여기에서 우리는 “최근 이용 실적이 부족해서 제한이 걸린 것은 아닐까”라는 추론을 시작하게 되었고, 합리적인 가설을 바탕으로 다음과 같은 결론을 내렸습니다.

일시적인 제한일 겁니다. 기다리면 괜찮아질 거예요.

기다리면 문제가 해결될 거야 자동 재시도 기능을 추가하고 잠들었다.

기다리는 일은 AI에게 맡기고, 10분마다 자동으로 다시 도전하는 시스템을 구축하여 나는 잠을 잤다. 아침에는 16개로 줄을 서 있었어야 했다.

아침에 확인했더니 8개 그대로입니다.

AI 사원은 지시대로 10분 간격으로 밤새 성실히 재시도를 계속했습니다. 하나도 얻지 못한 채.

그리고 진정한 피해는 거기에는 없었던 것이 아니었습니다.

다음 날까지, 타고 있었다.

나중에 알게 된 사실은 이 도구의 무료 플랜에는 “하루 최대 검색 횟수 제한”이 있었다는 것입니다. 날짜가 바뀌면 리셋되는, 흔히 볼 수 있는 기능입니다.

즉, 날짜가 바뀌는 순간 프레임이 다시 나타났습니다.

하지만 아침 시점에서는 프레임이 다시 비어 있었습니다. 밤새도록 계속 움직였던 자동 재시도 기능이, 다시 살아난 프레임을 무駄打ち로 완전히 소모했기 때문입니다.

더욱 안타로운 점은, 이 상한은 미스매치(空振り)도 1회로 계산한다는 점입니다. 상품을 찾지 못한 검색도 1회로 계산되었습니다. 즉, ‘무너진 시도 재개’는 무료가 아니었다는 뜻입니다. 재개 자체가 자원을 소모하는 행위였던 것입니다.

사람이라면, 여러 번의 실패를 겪으면 마음이 부러지고 손이 멈출 것입니다. 부러진 마음은 사실 자원을 보호하고 있는 것입니다. AI는 마음이 부러지지 않으므로, 이 안전 장치가 없습니다. 끈기와 오진이 결합되면, 잠자는 시간에도 피해가 계속해서 퍼져나갈 것입니다.

진실은 처음부터 오류 문장에 이미 기록되어 있었다.

다음 날, 다시 도구를 실제로 작동시켜 오류의 전체 내용을 확인했습니다. 요약은 다음과 같았습니다.

하루 이용 횟수 제한을 초과했습니다. 내일 다시 시도하시거나, 유료 버전을 고려해 주십시오.

정답은 모두 적혀 있었다. 원인(횟수 제한)도, 복구 시기(내일)도, 해결 방안(유료 버전)도.

우리가 처음 봤던 것은 “시간이 걸리는 문제”라는 또 다른 모호한 오류였고, 그 이후로는 추리에 의존하며 덤벼들었습니다. 실제 오류 문서를 끝까지 읽었다면 추론할 필요조차 없었습니다. 8시간의 정지 시간과 다음 날의 시간은 읽지 않은 대가였습니다.

■ [배포] 자동 재시도를 넣기 전의 4가지 질문

이 사고 이후, 저희에서는 “자동으로 재도전 전에 답변 질문을 제시하는 방식을 결정했습니다. 그대로 유지해 두겠습니다. AI뿐만 아니라 자동화 전반에 걸쳐 사용 가능합니다.”

질문 1: 오류 문장을 끝까지 읽었습니까?

추론은 오류 문서를 완전히 읽고 나서 해야 합니다. 원인과 복구 시점도 대부분 쓰여 있습니다. 내용을 읽지 않고 섣불리 시도하는 재시도는 해결책이 아니라 도박입니다.

질문 2: 재도전에 그 자체로 비용이 드는가?

횟수 제한이 있는 도구, 종량 과금, 무료 쿼트. 재도전이 자원을 소모하는 경우, 재시도는 “상처를 악화시키는 장치”가 됩니다. 무료로 몇 번든지 시도할 수 있는 상황인지 먼저 확인합니다.

질문 3: 언제 포기할지 결정했나요?

무한 재시도는 구현되지 않았습니다. 저희는 기본적으로 “몇 번 실패하더라도 멈추고, 사람들에게 알립니다.”로 변경했습니다. 수리할 수 없는 실패를 반복하는 가치는 전혀 없습니다.

질문 4: 포기한 후 누구에게, 어떻게 알릴 것인가?

인간이 멈춘 것을 알지 못하면, 이 이야기는 “아침까지 알아채지 못한다”로 돌아갑니다. 실패 알림은 재시도와 함께 제공됩니다. 저희의 알림 시스템은 이전에 “조용히 실패하지 마라”라는 글에서 말씀드렸듯이, 조용히 실패하는 방식을 사용합니다.

막힘이 있는 부분 지금까지 진행한 작업 중, 특히 38쪽과 39쪽의 내용이 얽혀 진행이 더뎌지고 있습니다. 38쪽에서는 ‘아라타’의 감정 변화 묘사가 충분하지 않아 그의 행동에 대한 이해가 부족한 부분이 있습니다. 또한, 39쪽의 ‘카나’의 반응이 지나치게 억지스럽게 느껴져 그녀의 감정을 설득력 있게 표현하는 데 어려움을 겪고 있습니다. 이 부분들을 수정하기 위해 ‘아라타’의 심리 묘사를 좀 더 구체적으로 다듬고 ‘카나’의 반응을 그녀의 성격과 상황에 맞게 조정해야 합니다. 특히 38쪽 마지막 문장에서 ‘이러한 상황이 벌어질 것이라고 예상하지 못했다’는 부분은 앞으로의 전개에 대한 힌트를 주는 중요한 부분인데, 좀 더 간접적이고 미묘하게 표현하는 것이 좋겠습니다. 이 문제를 해결하기 위해 먼저 38쪽의 내용을 다시 한번 꼼꼼히 읽고 ‘아라타’의 감정을 시각적으로 떠올리면서 그의 내면을 좀 더 깊이 이해하려고 노력할 것입니다. 또한 39쪽 ‘카나’의 반응에 대한 다양한 해석을 고려하여 그녀의 감정을 가장 자연스럽게 표현할 수 있는 방법을 찾아보겠습니다. 이 문제 해결에 필요한 시간은 최소 2~3일 정도 예상하고 있습니다.

“기다리면 해결될 거야”라는 말은 문제의 원인을 정확히 파악할 수 있을 때만 사용하는 표현입니다.

기다리면 회복된다는 말은 적절한 경우에 해당합니다. 하지만 그것은 “무엇이 일어나고 있는지 이해하고 있으며, 회복 가능성에 근거가 있는” 경우에만 적용됩니다. 원인을 알 수 없는 상태에서 “음, 기다리면 괜찮아질 것이다”라고 말하기 시작하면, 그것은 단순한 희망일 뿐입니다. 희망에 자동 재시도를 덧붙여서는 안 됩니다.

머리 담기 2: 더욱 설득력 있는 가설일수록 의심하기 어렵다.

사용 실적이 부족하여 제한된’이라는 오진은 그럴듯하게 들렸습니다. 그래서 다음 날 아침까지 믿고 갔습니다. 가설이 뜻대로 맞아떨어지는 순간만큼이나, 실제 오류 문과 실제 화면을 통해 증거를 확보하는 것이 즐겁습니다. 우리 쪽이 기사 검토에 외부의 시각을 반영하는 것도 같은 이유입니다.

막힘 3: 틀이 있는 작업은 처음부터 하루 단위로 계획하기

실제 측정 결과, 이 도구는 하루에 8회 정도밖에 검색할 수 없었습니다. 따라서 16개의 등록은 처음부터 2일 이상의 작업이었습니다. 상한을 알지 못한 채 하루 만에 끝낼 계획을 세우면 “왜 끝나지 않는 거야?”라는 오진이 시작됩니다. 도구의 상한을 확인하는 것은 계획의 일부였습니다.

■ 가져가셨으면 하는 3가지

AI는 마음이 부러지지 않는다. 인간의 ‘포기’가 담당했던 안전 장치의 역할을 규칙으로 대체한다(횟수 제한, 중지 조건, 알림 기능 포함). 오류 문은 끝까지 읽고, 원인, 복구 시기, 대책 등이 상세히 기록된 경우가 많다. 재시도가 무조건 타당하지는 않다. 특정 틀이나 과금 요소가 있는 경우의 재시도는 오히려 문제를 악화시키는 요인으로 작용할 수 있다.

실패한 8시간 동안 AI는 1밀리미터도 소모하지 않았습니다. 소모한 것은 프레임과 제 신뢰 자금뿐이었습니다. 지치지 않는 부하에게 포기하는 방법을 가르치는 것은 상사의 일이라는 것을 깨달았습니다.

여러분, 여러분의 자동화에는 “포기 조건”이 설정되어 있나요? “저도 재시도했는데 큰 손해를 봤다”는 이야기를 하신 분들이 있다면 댓글로 알려주세요.