AI 직원에게 일을 맡기고 있는데, AI가 작성한 내용은 어디에 백업되어 있나요?
정답이 주어지지 않았습니다.
정확히 말하면 “잘 잡히는 줄 알았습니다.”라고 생각했습니다. 잡히지 않았습니다.
오늘은 그 날 분의 기록이 1,450행에서 24행으로 줄어든 일에 대해 이야기합니다. 그 원인, 복구할 수 없었던 이유, 그 날 제가 직접 입력한 대책 모두 실제 발생한 일입니다.
AI 직원들이 작성하는 장소는 평소 백업망에서 동시에 3개로 누출됩니다.
AI社員의 백업이, 어디에도 없던 날.
저희는 매일 30명의 AI 직원들을 운영하고 있으며, 그날 있었던 일은 1일 1파일로 기록해두고 있습니다.
저녁에 보았을 때, 그 파일은 24행이었습니다.
아침부터 누적된 건수는 1,450행을 넘어섰고, 사건의 경우 30건이었습니다. 단 1건의 사건 분으로 24행에 치환되고 있었습니다.
문제는 바로 알 수 있었습니다. 여러 세션을 동시에 실행하고 있었는데, 그 중 하나가 추가하려다가 의도치 않게 새로운 세션을 생성했기 때문입니다.
추가된 내용은 더해지고, 새로운 생성물은 기존 내용을 삭제합니다. AI의 관점에서는 둘 다 “파일에 쓰기”로만 해석됩니다.
찾던 장소, 세 곳 모두 비어 있었다.
복구를 시도했습니다. 여기가 오늘 가장 쓰고 싶은 부분입니다.
먼저, 동기화 서비스를 이용합니다. 경쟁사의 복제가 생성되지 않아 원본이 남아 있어야 했지만, 생성되지 않았습니다. 상書き는 경쟁사가 아니므로, 이는 당연한 결과입니다.
다음 OS 스냅샷입니다. 목록에는 시스템 업데이트용 스냅샷만 있었습니다.
마지막으로 버전 관리를 완료했습니다. 여기가 결정적인 부분이었고, 기록 저장 장소는 추적 대상에서 제외되어 있었습니다. 내용에는 일상적인 세부 경위가 담겨 있으므로 의도적으로 제외했습니다. 제외했다는 것은 히스토리가 없다는 의미입니다.
남아있던 것은 동기화 서비스의 버전 기록뿐이었습니다. 시간이 지날수록 불리해졌습니다.
평소의 백업은 잘 되는 것으로 생각했습니다. 잘 되던 것은 사람이 다루는 파일에 대해서만이었죠.
아니, 그건 그냥 놓친 것뿐이었을 뿐이에요?
저도 그렇게 말씀하시면 답할 수 없을 것 같습니다.
단지, 여기에는 약간 얄미운 구조가 있습니다.
AI에게 글을 맡기면, 추적을 피하고 싶은 공간과 거의 완전히 일치하는 공간이 됩니다.
매일 엄청나게 바뀌며, 내용이 길다. 사람이 읽는 것이 아니다. 차이점을 보더라도 의미가 없으므로 추적을 중단한다. 중단한 순간에 기록도 사라진다.
즉, “우연”이 아닌 운영 과정에서 올바른 판단을 쌓은 끝에 구멍이 뚫리는 것이다. 그것이 무서웠다고 생각했다.
알아보는 데 반나절이나 걸린다.
もうひとつ、書いておきたいことがあります。
손으로 쓴 부분이 발생한 것은 저녁 시간이었고, 제가 그것을 알아차린 것은 그 날의 끝이었습니다. 그 동안, AI 직원들은 평소처럼 업무를 수행했습니다. 아무도 멈추지 않았습니다.
어쩌면 쓰는 장소였기 때문이다.
그 날 해야 할 일들은 다른 파일에 적혀 있었다. 그래서 작업은 진행되었고, 진행된 만큼의 과정만이 사라진 그릇에 쌓여갔다.
이렇게 부서지는 모습은 정말 안타깝네요. 움직이고 있으니까.
저희가 “매일 정확하게 남아 있는지”를 기계로 확인하는 시스템을 갖추게 된 것은 이 날부터입니다. 처음 한 주에는 행 수를 세는 방식으로만 진행했습니다. 다음 주에는 전날보다 크게 줄어든 날을 알려주는 형태로 변경했습니다. 현재는 줄어든 즉시 기록 자체가 중단됩니다.
이야기는 사라졌고, 상태는 무사했다.
한 가지, 제가 살아남을 수 있었습니다.
저희는 기록을 두 개의 층으로 나누었습니다. 현재 상황과 그에 이어진 경과입니다.
상태는 사안별로 별도 파일에 기록하고 있었습니다. 따라서 승인 대기 상태 및 다음 작업을 진행하는 내용도 하나도 유실되지 않았습니다.
사라진 것은 경위의 층일 뿐이었습니다.
이는 꽤 큰 차이입니다. 경위가 사라지는 것은 고통스럽습니다. 하지만 상태가 사라지면 일이 멈추고, 멈추지 않았던 이유는 분리되어 있었기 때문입니다.
분할 이유는 원래부터 별개였고, AI에 매번 전부 읽어달라고 하니까 무거웠다는 것뿐입니다. 사고 대책으로 분한 것은 아니었습니다.
결과적으로, 그것이 보험이 되었다.
바로잡은 것은 두 가지였습니다. 그 중 하나는 의도적으로 고치지 않았습니다.
그 날 밤에 대비책을 마련했습니다. 판단이 필요한 상황이었기 때문에, 그 부분도 기록하겠습니다.
첫 번째는 회피입니다. 기록 장소에 작성하기 직전에 현재 상태를 다른 이름으로 복사합니다. 이를 중단하더라도 그대로 보존하며, 어느 쪽으로든 바로 직전의 모습이 하나라도 남도록 했습니다.
두 번째는 축소는 금지입니다. 기존 내용을 절반 미만으로 줄일 때만 중단하도록 합니다. 실제 사고의 경우 1,450행이 24행으로 줄어든 1.6%까지 축소되었으나, 동일한 방식으로 다시 시도하여 제대로 중단되는지 확인했습니다. 실측에서 거부되어 132행의 회피가 남아있었습니다.
그리고 수정하지 못한 것들이 있습니다.
편집 작업은 대상에서 제외했습니다.
덧붙이는 것 외에 나머지는 모두 중단하는 것이 논리적으로 옳지만, 그렇게 되면 사건을 닫고 파일을 이체하거나 오타를 수정하는 등 정당한 조작까지 멈추게 된다. 멈추게 되는 횟수가 늘어나면 사람들은 시스템을 우회하게 된다.
회피되는 방어는 방어가 없는 것보다 더 나쁘다고 생각합니다.
그래서 선을 “수정 시 반 이하로 줄일 때만” 그었습니다. 이는 실무상 거의 사고라고 보기 어려운, 그런 판단이었습니다.
AI 직원 백업으로, 오늘 결정할 수 있는 일
방법은 다음과 같습니다. 그것이,
AI가 작성하는 공간을 구체적으로 1곳으로 선택합니다.
입니다.
모든 것을 지키려고 하면, 아마도 아무것도 결정되지 않을 것입니다. AI 직원들이 매일 수정하고 있어서, 사라졌을 때 문제가 되는 곳을 딱 1곳만 꼽는다면, 그것으로만 보호 방식이 결정됩니다.
저희 경우에는 “그 날의 기록”이었습니다. 방법은 쓰기 전에 바로 이전 기록을 남기는 것뿐입니다.
오늘 해야 할 일 한 걸음
오늘은 하나만 다루겠습니다. AI 직원들이 작성한 폴더가 버전 관리 추적 대상에 포함되어 있는지 확인해 보세요.
받아보지 못했다면, 그곳은 사고가 발생한 순간으로 돌아갈 수 없는 장소입니다. 확인에는 5분도 걸리지 않습니다.
돌이킬 수 없다는 것을 알고도, 돌릴 수 있다고 생각하는 것과는 완전히 달라집니다.
오늘 있었던 이야기는 다음과 같습니다.
AI 직원들을 실제로 움직일 때 사용된 유형과, 발생한 사고 목록은 이 곳에 정리되어 있습니다.
## 12가지 특별 혜택 획득 안내
지금 바로 12가지 특별 혜택 획득에 참여하세요!
**1. 12가지 특별 혜택 목록:**
1. **[책 제목]** (책 제목)
2. **[책 제목]** (책 제목)
3. **[책 제목]** (책 제목)
4. **[책 제목]** (책 제목)
5. **[책 제목]** (책 제목)
6. **[책 제목]** (책 제목)
7. **[책 제목]** (책 제목)
8. **[책 제목]** (책 제목)
9. **[책 제목]** (책 제목)
10. **[책 제목]** (책 제목)
11. **[책 제목]** (책 제목)
12. **[책 제목]** (책 제목)
**2. 획득 방법:**
* [특전 획득 방법 상세 설명]
**3. 기간:**
* [기간 명시]
**4. 문의:**
* [문의처 정보]
**5. 주의사항:**
* [주의사항 명시]
AI 직원, 백업, 데이터 보호, 지식 관리, 사고를 통해 배우기, 업무 자동화, AI 에이전트, ClaudeCode, 운영 설계, 정보 관리, 경영, 위험 관리
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 40청크
원문 보기 | 출처: note.com