AI에 맡기는 일이 늘어날수록 지시서도 늘어갑니다. 어쩌다 보니 어디에 무엇을 썼는지 알 수 없는 상태가 되었습니다. 혹시 그런 경험 있으신가요? 저는 Antigravity와 같은 AI를 여러 명의 “사원”처럼 활용하고 있습니다. 그 중 한 번은 지시서가 지나치게 많아 AI가 혼란스러운 일이 발생했습니다. 이번에는 그 붕괴의 이유와 제가 재정비한 3단계 운영 방식을 정리합니다.
규칙을 더 추가할수록, AI는 망설임에 빠지기 시작했다.
처음에는 AI가 실수를 할 때마다 지시서에 1줄씩 추가했습니다. A 업무용, B 업무용, 또 그 AI 전용. 규칙이 늘어 파일도 계속 늘어났습니다. 발생한 문제는 3가지였습니다. 첫째, 읽어들이기가 느려지는 것이었습니다. AI는 매번 모든 지시서를 처음부터 읽었습니다. 둘째, 규칙의 불일치였습니다. 같은 내용이 다른 곳에 다른 방식으로 남아 AI가 무엇을 따라야 할지 혼란스러웠습니다. 셋째, 제가 직접 파악하기 어려워지는 것이었습니다. 어떤 규칙이 유효한지 아무도 알 수 없었습니다. 비유하자면, 입사 초일에 회사 내 규정을 전부 읽게 하는 회사와 같습니다. 중요한 1줄이 두꺼운 뭉치 속에 묻히는 것처럼요.
파탄을 방지하는 3단계 스킬 운용
1단계: 기본 스킬 활용 (필수)
2단계: 상황별 특화 스킬 활용 (전략)
3단계: 극대화 스킬 활용 (최종)
회복의 계기는 “읽는 양을 장면별로 나누는” 것에서 비롯되었습니다. 지시서를 다음 세 가지 계층으로 나눕니다.
1층. 정기 점검의 기본 규정 (매번 읽고 8항만)
여기에는 부수거나 되돌릴 수 없는 것들만 놓습니다. 예를 들어, 본편에 직접 쓰는 것을 방지하고, 비밀 키를 커밋하지 않으며, 데이터 삭제는 반드시 사람이 승인해야 합니다. 숫자는 8조까지 정했으며, 늘리고 싶다면 효과가 없는 것을 1개 줄여야 합니다. 이것을 지킨다면 매번 읽는 양이 일정하게 유지됩니다.
제2층. 사전 (필요할 때만 참고합니다)
세부적인 금지 사항 및 과거 사고 기록은 사전을 별도로 보관합니다. AI는 항상 낭독하지 않으며, 문제가 발생하거나 확인이 필요한 경우에만 참고합니다. 이는 회사 내 용어집이나 매뉴얼 책상과 유사합니다. 입사 첫날에는 전달하지 않더라도, 필요할 때 즉시 확인할 수 있습니다.
3층. 기술 (요청 시에만 참조)
정해진 작업 절차를 설명하는 문서입니다. 각 작업에 해당하는 스킬이 적용되며, 해당 스킬을 호출할 때만 내용이 로드됩니다. 절차가 변경되더라도 해당 스킬만 수정하며, 다른 작업에는 영향을 주지 않습니다.
기계를 활용하는 것을 지키는
3단계로 나누어 놓아도 글만으로는 무너집니다. 막고 싶어 하는 금지령은 테스트나 전송 전 검사로 하고, 기계에게도 감시를 맡깁니다. 이렇게 하면 AI가 잊더라도 반드시 멈추는 상태가 되었습니다.
분류 방법과 증가 규칙
이미 규칙이 늘어난 사람은 상품 철수부터 시작합니다. 절차는 3가지뿐입니다. 첫째, 모든 규칙을 한 장의 표에 적는 것입니다. 둘째, 각 규칙을 하나씩 “파괴하면 복구할 수 있는지”를 생각하는 것입니다. 셋째, 복구할 수 없는 것을 제1층으로, 복구할 수 있는 것을 제2층 또는 제3층으로 옮기는 것입니다. 망설인다면 제1층에는 넣지 않습니다. 항상 읽을 수 있도록 항상 여백을 남겨두려 하기 때문입니다. 표를 만들어보면 같은 의미의 규칙이 3개에서 4개나 발견됩니다. 이를 한 줄로 합치기만 하면 지침서는 상당히 얇아집니다. 읽는 양이 줄어들면 AI의 건너뛰기도 줄어듭니다. 통합된 규칙은 원래 위치에서 확실히 삭제합니다. 삭제를 잊는 것이 가장 큰 차이점의 원인입니다. 제 경우에는 64항이 있던 금지령의 대부분이 제2층의 사전에 이동했습니다. 제1층에 남은 것은 단지 몇 항뿐입니다. 늘리는 규칙도 미리 정해두는 것이 좋습니다. 같은 실수를 두 번 경험하면 처음으로 규칙에 추가합니다. 단, 규칙은 10항까지만 적용되며, 추가하는 것은 효력이 없는 것을 1개 줄입니다. 일회성 실수는 사전에 1행만 쓰면 충분합니다. 이렇게 하면 실수를 매번 급하게 지침서를 두껍게 만드는 일이 사라졌습니다.
늘리는 것보다, 보관할 자리를 정하는 것이 더 중요합니다.
AI 직원 수가 늘어나도 붕괴하지는 않았습니다. 규칙의 양이 아닌, 접근 방법을 명확히 한 탓입니다. 매번 읽는 것은 8조만 하고, 필요한 때에만 참조합니다. 지시 사항을 덧붙이고 싶을 때는 먼저 “어떤 계층의 내용인지”를 먼저 생각합니다. 지켜야 할 선은 1층, 조사 활동은 2층, 작업 절차는 3층입니다. 이것만으로도 덧셈 없이 명확한 운영이 되었습니다. 끝까지 읽어주셔서 감사합니다. 쇼타였습니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 13청크
원문 보기 | 출처: note.com