# AI가 “65건이 일치한다고” 말한 서류는 모두 비어 있었습니다.

> https://bookfactory.kr/board/ai-tech/16792
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-16T16:37:02.797Z

---

며칠 전, 우리 AI 직원에게 밤늦게 8개를 한꺼번에 멈춰 섰다는 이야기를 썼었습니다. 그때 AI는 아무 말 없이 멈춰 있었습니다.

이번에는 반대로 활기차게 “준비됐습니다”라고 보고했는데, 내용물이 전부 텅 비어 있었습니다.

65건, 모두 완료되었습니다.

회계 서류 정리와 관련된 이야기입니다. 1년 동안의 영수증을 모으는, 그 지극히 평범한 작업.

전체적인 초안은 AI에게 맡겼습니다. 나온 결과는 2단계였습니다. 먼저 필요한 영수증의 위치를 전부 정리하고, 나중에 그걸 모아서 제 자리에서 확인하는 방식이었습니다. 이렇게 목록을 만들면 누락된 부분을 세어볼 수 있었습니다. 매우 합리적인 방법이었습니다.

작업이 끝나 AI가 검토해 주었습니다. “65건, 일치합니다.” 저는 솔직하게 기뻐했습니다.

念のためフォルダを開きます。ファイルは確かに65個あります。1つ開きました。

영수증이 아닌 오류 알림 화면이었습니다. 두 번째와 세 번째도 동일했습니다.

힌트는 처음부터 화면에 나타나 있었다.

나중에 다시 보니까 답은 목록에 제대로 표시되어 있었습니다. 65개의 파일이 전부 다 정확히 같은 용량을 가지고 있었거든요. 각각 2킬로바이트였죠. 문자로 환산하면 대략 수백 자 정도 됩니다.

영수증은 주문마다 내용이 다르므로 무게도 다르게 나타나는 것이 일반적입니다. 모든 영수증이 같은 무게로 나온다는 것은 모든 것이 똑같은 1장의 종이였다는 의미입니다.

저는 그 장면을 보지 못했습니다. 건수만 세어보고 일치하는지 확인했기에 안심하고 있었습니다.

엉뚱한 용의자를 2시간 45분 동안 추적했다.

처음 의심했던 것은 “상대의 사이트가 일시적으로 혼잡한 건 아닐까” 였습니다. 그것처럼 들리죠.

그래서 기다렸습니다. 45분이나 기다렸는데, 시간이 되었다는 말에 더 2시간이나 기다렸습니다. 결과는 1밀리미터도 변하지 않았습니다.

진범은 완전히 다른 곳에 있었습니다.

수령 확인서 위치를 나타내는 링크에는 30분 정도 유효 기간이 있었습니다.

그러다 목록을 만들다가 처음 모은 링크들을 순서대로 하나씩 사라져갔다. 다시 찾아보려 할 때는 이미 전부 만료된 상태였다.

게다가 증거는 처음부터 제 손에 있었습니다. 목록을 작성한 직후에 떨어뜨린 초기 몇 건만이 제대로 된 영수증 내용이 담겨 있었습니다. “2단계로 나누는 것이 더 안전하다”는 판단이 오히려 사고의 원인이 되었습니다.

가져가고 싶은 문장

같은 작업의 결과가 “모든 것이 완벽하게 맞아 같은 실패”라면, 혼잡이나 불調가 아닌, 기한 내에 완료되지 않았다는 점을 의심해 보십시오.

혼잡이 원인이라면 결과는 불규칙합니다. 10번째는 성공하고 30번째에 실패하는 식으로요. 모든 것이 깔끔하게 같은 모습으로 실패할 때는 기다려도 고쳐지지 않습니다. 조건 자체가 바뀌었습니다.

덧붙여서, 만료 링크는 열람하는 순간 내용까지 확보합니다. “나중에 정리해서” 방식이 이런 작업에서는 가장 비효율적이었습니다.

AI는 “실수를 했습니다”라고 말해 주지 않습니다.

이 사건에서 가장 무서운 것은 AI가 거짓말 한 번도 하지 않았다는 것입니다.

요청받은 대로 목록을 만들고, 요청받은 대로 세어보니 65건이 나왔다고 보고했다. 모두 정확했다. 다만, 그 65건이 모두 진품인지 아무도 확인하지 않았다. 나도, AI도 마찬가지였다.

그 이후로 나는 AI에게 부탁하는 방식에 변화를 줬다. “끝났어?”라고 묻는 대신 “내용 하나를 열어서 보여줘”라고 묻도록 하고 있다. AI가 숫자를 세는 것은 훨씬 더 능숙하며, “이게 진짜야?”라고 의심하는 일은 현재는 인간 담당이 맡는다.

이러한 실패와 그 이후에 제작된 점검 방식은 AI에게 역할을 부여한 “AI 직원” 14명의 실록을 담아 한 권의 책으로 만들었습니다. 곧 이 계정에서 유료 기사 형태로 출판할 예정입니다. 시간이 괜찮으시다면 한 번 살펴보시면 좋겠습니다.

**출처:** [note 원문](https://note.com/denbo_ai8/n/n3f7f16984fed)

*번역: Gemma 3(.44) 초벌 + 교정 10청크*

[원문 보기](https://note.com/denbo_ai8/n/n3f7f16984fed) | 출처: note.com