대화를 시작할 때마다 똑같은 경고가 나타났습니다.
멈춰서는 약속이 한 건 있습니다.
저희에게는 결심한 내용을 실제로 움직이는지 매번 확인하는 도구가 있습니다. 아무도 결심을 번복하지 않도록 만들기 위해 만든 것입니다.
그 도구가 “1건이 멈춰서 있다”라고 계속 말하고 있었습니다. 가리키고 있는 것은 아직 완성되지 않은 회계 앱 숙제였습니다.
열어보니 숙제는 0건이었습니다.
숙제를 해오라고 적힌 파일을 열었습니다.
가장 위에 이렇게 적혀 있습니다. “현재 숙제 → (없음)”
텅 빈 화면입니다. 아무런 일도 진행되고 있지 않았습니다.
세고 있던 것은 설명문과 예시였다.
검사 도구는 파일에서 “미완료 표시”를 직접 세고 있었습니다. 발견한 수는 5개. 내용을 나누면 다음과 같습니다.
한 가지는 코드 주변을 감싸는 기호 안에 있던 예시의 행이 설명에 맞지 않았습니다.
여기서 1건만 표시하고, 표시가 0건인 경우 해당 표시를 세고 있었습니다.
나머지 두 항목은 표의 “옮길 곳” 열에 적힌 행이었습니다.
모두 일거리는 것이 아닙니다. 파일 설명서를 일로 세고 있었습니다.
본행 측면은 4일 동안 정확하게 작동하고 있었다.
여기에 적어야 할 부분입니다. 실제로 움직이는 과정 자체는 틀리지 않았습니다.
9월 28일부터 10월 1일까지 4일 동안 매일 밤 “숙제는 0건이므로 AI를 호출하지 않습니다”라고 정확하게 판단한 기록이 남아 있습니다.
결론적으로 약속은 지켜지고 있었지만, 감시만 하는 쪽만이 “지켜지지 않았다고” 주장하는 상황이었습니다.
그 이유는 같은 것을 2군데에서 세고 있었기 때문입니다.
본격적인 작업 단계에도 숙제를 계산하는 함수가 있었습니다. 그 함수는 9월 27일에 샘플을 세는 과정에서 저지른 같은 실수를 바로잡고 있었습니다.
수정 흔적이 댓글에 남아 있습니다. 그럼에도 경고는 멈추지 않았습니다. 감시 측이 실제 함수를 호출하지 않고, 스스로 세고 있었기 때문입니다.
원본이 수정되더라도 원본은 변하지 않습니다.
내일 할 수 있는 일
혹시 감시 장비를 가지고 있다면 하나만 확인해 보세요.
그 도구는 실제 실행과 동일한 함수를 호출하는 것인지, 아니면 동일한 처리를 복제한 것인지.
복사본은 언젠가 한쪽만 고쳐지는 겁니다. 저희는 5일 만에 그렇게 됐습니다.
수정 방법은 한 줄씩 대체하는 방식이었습니다. 직접 숫자를 세는 것을 멈추고 실제 함수를 호출했습니다. 중단된 약속은 1건에서 0건으로 변경되었습니다.
거짓 경고는 진정한 경고보다 더 비용이 들 것이다.
솔직히 말씀드리면, 이것이 가장 끔찍한 종류의 실수라고 생각합니다.
이상 없음”이라는 경고를 놓치는 것은 아직 알아차릴 여지가 있습니다. 거짓 경고는 보는 사람의 신뢰를 조금씩 깎아내립니다. 매번 나타난다면, 결국 붉은 글씨를 읽지 않게 됩니다.
책이 읽히지 않게 된 날에는 진짜가 섞입니다.
다음으로, 거부하는 작업을 기계로 처리하도록 한 후, 다시 회수되는 건수가 실제로 얼마나 줄었는지 확인하여 기록합니다. 줄지 않았다면 그 부분도 기록합니다.
화요일, 수요일, 목요일에 각각 한 권씩 쓰고 있습니다. 다음 이야기가 궁금하신 분은 팔로우 부탁드립니다.
AI 직원 #AI 사원, ClaudeCode, 홀로 사업주 #개인 사업주, 자동화
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 24청크
원문 보기 | 출처: note.com