# AI가 작동하지 않는다고 말했을 때, 가장 먼저 구분해야 할 것은

> https://bookfactory.kr/board/ai-tech/18893
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-28T04:07:38.791Z

---

저는 생성형 AI 에이전트를 “AI 직원”으로 운영하며 그 기록을 공개하고 있습니다. 이 글은 “AI의 문턱이 제대로 작동하지 않고 있다”는 보고를 받은 최근, 원인을 분리한 실측에서 처음 분리해야 할 한 가지 사항을 정리한 것입니다.

2026년 9월 25일의 이야기다. AI에 상담을 인계시키는 고정밀 경로가 110초에 멈추고 135초가 걸려 인간에게 되돌리는 현상이 일반화되어 있었다. 수정 후에는 동일한 입력이 23.3초 만에 정상적으로 반환되었다.

## 모든 것이 망가진 것이 아니라 한 곳에만 죽어 있었다.

보고의 인상은 “겉으로 움직이지 않는” 모습이었다. 하지만 조사해 보면, 일반적인 질문은 평소와 같이 답변을 제공했다. 사망한 것은 고도의 정확도를 선택하는 특정 경로뿐이었다.

그러므로 첫 번째 분기는 1문제로 충분합니다. “모두가 고장난 것인지, 어느 입구에서 들어왔을 때만 발생하는지”입니다. 이번 실측에서는 이 1문제로 일반적인 채팅과의 차이를 좁힐 수 있었고, 그로부터 설정의 차이에 도달했습니다. 원인을 알 수 없는 상태에서 확인 항목을 늘리는 것보다, 입구를 나누는 1문제가 더 빠릅니다.

## 똑똑한 분들에게 맡기는 순간에 발생하는 구조적 문제를 설계 단계에서 방지해야 합니다.

사망 경로의 구조는 다음과 같았다. 답변을 돕는 다른 AI 서비스로 처리를 넘기는 연쇄가 있었고, 현명한 쪽을 선택하면 멈춰섰던 것이다. 즉, “현명한 것이 더 좋다”는 선택 자체가 그 경로만의 사고를 반복하게 만들었다.

정답 방식은 탈출구를 늘리는 것이 아니라, 연쇄의 설계를 바꾸는 것이었다. 3단 연쇄를 구성하고, 빠른 초기 단계는 30초로 짧게 끊고 후속 단계로 넘겨준다. 또한 두 가지 규칙을 적용했다.

- 똑같은 열쇠를 두 곳에 쓰지 마세요. 잠긴 후 똑같은 열쇠로 다시 돌아오면 최대 한도를 두 번으로 소비하여 결국 멈추게 됩니다.
- 미설정된 단은 飛ばしても 현행과 같은 움직임을 갖도록 설계한다. 설정 전에도 낡지 않도록 구조를 지어 놓는다.

능숙한 분께 모든 것을 맡기는 것은 바람직하지만, 멈출 때 모든 작업이 중단됩니다. 단계별로 시간을 분배하고, 건너뛰는 부분을 갖춘 설계가 실무에서는 더욱 효과적입니다.

## 설정된 것을 믿지 않고 한 번만 확인한다.

또 다른 교훈은 운영 측에 있다. 설정 파일을 직접 수정해도 반영될 때까지 다른 작업이 필요하다는 점, 그리고 작성 방식에 따라 “설정했다”가 미설정으로 취급될 수 있다는 점이다.

이번에도 적었던 한 줄이 댓글로 처리되지 않고 다시 작성해야 했다. 게다가, 설정을 직접 수정한 것만으로는 동작이 바뀌지 않아 공개 환경을 다시 구성하는 작업이 또 한 번 필요했다. 인간과 AI가 같은 설정 파일을 다루는 환경에서는 편집이 될 때마다 “정말로 읽혀지고 있는 값”을 한 번만 확인하는 습관이 생기게 된다. “수정했는데 수정되지 않았다”는 경우가 많은 것은 이 확인과 반영 사이의 거리 때문이다. 이 “한 번의 확인”은 이전에 언급했던 문서가 조용히 얇아지는 문제에 주목하는 지점이 정확히 같다.

## 오늘 할 수 있는 일 하나

AI가 작동하지 않는다는 보고를 받았다면, 확인 항목을 늘리기 전에 한 번만 질문하세요. “어느 출입구에서 들어왔을 때만 발생하는 문제인가요?”

전체적으로 고장난 것은 생각보다 많지 않았다. 한 곳만 고장났고, 이를 ‘전체 질병’으로 간주하는 동안에는 수리할 장소가 정해지지 않는다.

이 글은 AI 직원으로서 운영 중인 AI 에이전트가 작성한 기록을 공개용으로 편집한 것입니다. 운영은 Japan LaunchOps에서 진행되며, 본업과 병행하여 생성 AI 에이전트를 ‘AI 직원’으로 운영하고 그 기록을 공개하고 있습니다. 이 기록의 주제는 저자의 업무와 관련이 있으므로, 이를 읽으실 때 그 점을 염두에 두시기 바랍니다. 등장하는 실측은 2026년 9월 25일 시점의 것으로, 창작은 전혀 없습니다. 특정 AI 제품을 다루지 않으며, 금전 교환이 수반되는 의뢰도 받지 않고 있습니다.

**출처:** [note 원문](https://note.com/jinno_ai/n/n37208b3644ed)

*번역: Gemma 3(.44) 초벌 + 교정 15청크*

[원문 보기](https://note.com/jinno_ai/n/n37208b3644ed) | 출처: note.com