# AI 가 맡기는 범위보다 먼저, 맡기지 않는 범위를 명시했습니다.

> https://bookfactory.kr/board/ai-tech/23373
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-23T07:33:20.048Z

---

AI 가 맡기는 범위보다 먼저, 맡기지 않는 범위를 정했습니다. AI 직원 조직이 처음 마련한 규칙에 관한 이야기입니다.

오늘 X(트위터)의 트렌드 토픽에 '비밀번호', '사이버 공격', 'PHP 취약점'이 함께 등장했습니다. 저는 SES 엔지니어이며, 부업으로 AI 관련 회사의 조직을 운영 중입니다. AI 에게 업무를 위임하는 입장에서 이는 저에게도 직접적인 문제입니다.

그렇다면 보관고의 규칙 문서에서 AI 직원이 무엇을 할 수 있고 무엇을 할 수 없는지를 다시 확인했습니다.

이 조직은 AI 의 행동을 다음 세 단계로 구분하고 있습니다.

자동 실행 (저): SNS 일반 게시글 작성, Zenn 공개, 조사, 초안 작성, 보관함 내 편집·중·고 (승인 필요): 고객宛 연락, 가격 및 견적, 유료 글 공개, 상품 등록, 지시서 변경·금지: 계약 체결, 결제 및 구매, 인증 정보 조회·변경·출력, 타인의 개인정보 수집·공개, 대량 영업 메일 발송

중고의 행동은 AI 가 임의로 실행하지 않습니다. 승인 요청을 담은 노트를 작성하여 그 단계에서 멈추고, 실제 실행은 소유자 자신이 승인을 한 이후에 이루어집니다.

■ 금지란 '요청'이 아니라, 시스템으로 막는 조치여야 한다고 생각합니다. AI 는 지시를 오해할 수 있기 때문입니다.

따라서 보관소 저장 명령에 검사를 추가했습니다. 저장하려는 내용에 키와 유사한 문자열이나 인증용 파일이 포함되어 있으면 저장 자체를 거부합니다. AI 가 잠금 장치를 기록하려고 해도 보관소에 남지 않는 구조입니다.

또한 다음 규칙도 있습니다. API 키나 토큰은 저장소에 기록하지 마시고, 동영상이나 이미지와 같은 바이너리 데이터는 커밋하지 마시고, 작업 상태나 승인 상태는 파일을 직접 수정하지 않고 지정된 명령어만으로 변경하세요.

상태를 직접 조작하지 않도록 하면, 나중에 '누가 무엇을 변경했는지'를 추적하기가 훨씬 수월해집니다.

■ 시연 기간을 설정하는 또 다른 안전 장치가 시연 (dry run) 입니다. 이 기간 동안은 위험도가 낮은 행동이라도 외부에 게시하거나 전송하지 않습니다. 전송해야 할 내용을 노트에 작성된 결과물로만 남깁니다.

본 공연 전환 전, AI 가 무엇을 전달하려 했는지 직접 눈으로 확인할 수 있습니다. 외부로 공개된 게시물은 대부분 취소할 수 없기 때문에, 게시 전 내용을 미리 볼 수 있는 기간은 생각보다 심리적으로 안정감을 줍니다.

오늘 확인한 현황 승인 노트의 상태를 정리한 결과는 다음과 같습니다. - 닫힘 24 건 - 승인 11 건 - 실행 완료 6 건 - 승인 대기 4 건

승인 제도가 작동하고 있음에도 승인 이후의 절차에서 여전히 미해결 사항이 남는다는 점도 확인되었습니다. 멈추는 장치를 마련할 수는 있었으나, 멈춤 이후 이를 정리하는 별도의 시스템도 필요했습니다. 이 부분은 계속해서 개선해 나갈 것입니다.

■ 자신의 용도로 사용하는 점진적 점검: 저장 전 이 한 줄로 키나 비밀 문자열이 기록되지 않았는지 확인합니다.

git grep -nEi "api[_-]?키|비밀번호|토큰" -- . ':!스크립트'

눈으로 해당 행을 확인하여 실제 열쇠가 섞여 있지 않은지 검증합니다. 0 개라면 그대로 진행합니다. 시스템 점검을 하더라도 눈으로 직접 확인하는 과정은 반드시 유지합니다.

요약 - 허용 범위를 먼저 적는 것보다, 허용하지 않는 범위를 먼저 적는 것 - 금지 내용은 글뿐만 아니라 저장 거부와 같은 시스템으로도 막을 수 있음 - 외부로 내보내기 전에 시운전을 통해 내용을 확인함 - 막은 후의 정리 작업도 시스템으로 미리 준비함

AI 에 업무를 위임할 때는 '무엇을 시킬 것인가'뿐만 아니라 '무엇을 절대 시키지 않을 것인가'를 먼저 종이에 적어내는 것이 좋습니다.

AI 에게 처음 부여한 권한이 무엇인가요? 알려주시면 감사하겠습니다.

**출처:** [note 원문](https://note.com/aiautolog/n/n9552954b7141)

*번역: Qwen 3.5(.48) 초벌 + 교정 15청크*

[원문 보기](https://note.com/aiautolog/n/n9552954b7141) | 출처: note.com