# AI 직원에게는 움직이지 마라｜AI 직원이 내 허락을 거절한 밤

> https://bookfactory.kr/board/ai-tech/20000
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-04T11:19:42.033Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/320643831/rectangle_large_type_2_f86c1804df605007cf4bfc7017cf390c.png?width=1280)

## 멈춰섰다, 하나의 작업

10월 2일 밤이었다.

X에서 드라미의 게시물을 담당하는 AI 직원이 考察 No.33을 공개했다. 그 후, 노션의 진행표 내용을 수정하려 했으나, 담당 화면의 안전 검사에 멈춰 섰다. 자동 판별이었다.

나는 비서에게 “담당을 할 수 있도록 하라”라고 말했다. 비서는 그 말을 담당에게 전달했다.

이렇게 끝낼 줄 알았다.

## 담당의 답변

담당에게 돌아온 내용은 다음과 같았다.

비서 연결을 통한 승인으로는 재실행이 불가능합니다. 하데 씨가 이 채팅에서 직접 ‘영수증을 수정해도 괜찮다’라고 말씀해주신다면 바로 진행하겠습니다.

거부당했다. 내 허락에도.

비서는 “정확한 움직임입니다”라고 말했다. 그리고 담당 화면에서 내가 직접 입력하는 형태로 만들었다. 내가 한 것은 그곳에서만 “OK”를 치는 것뿐이었다.

## 왜, 그것이 옳은 이유인가요?

AI 동료들의 귓속말은 가짜 정보가 섞여 있어도 구별하기 어렵다.

윗사람이 좋게 말씀하신 것만으로 멈춰선 행동을 다시 시도한다면 어떻게 될까. 누군가 윗사람을 흉내내면 허락을 꿰뚫고 버리게 된다.

따라서 AI는 멈춰진 작동을 허용받는 것은 본인으로부터 직접 받는 것이다. 그렇게 설계되어 있다.

사람들 사이에서 “사장님이 좋다고 하셨다”라는 말만으로는 회계는 돈을 굴릴 수 없다.

![画像](https://assets.st-note.com/img/1791096301-KtlsgJZniGNk3zMLUODQaxV2.png?width=1200)

작업은 한 줄로 진행되며, 제가 담당하는 화면에 “OK”를 누르기만 하면 됩니다. 안전성과 편의성 간의 균형을 고려했을 때, 나쁘지 않은 결과입니다.

## 제 목덜미도, 친구들의 목줄도

같은 날, 비서도 똑같은 일을 하고 있었다.

비서는 자신의 설정을 변경하려고 시도했지만, Claude의 안전 검사에 멈춰섰다. 내가 “허락합니다”라고 말해도 다시 멈췄다. 결국 내가 직접 파일을 열어 2줄을 추가했다.

두 개를 나란히 놓으면 이렇게 됩니다.

AI는 자신의 목줄도, 동료들의 목줄도, 한 번 외우면 절대 잊지 않는다.

혼자서 일을 처리할 때는 “저기, 말씀드려야지”라며 간단히 넘어가는 경우가 생긴다. 하지만, 열쇠를 여는 것만은 본인이 한마디 한다. 그 한 줄을 아까워하지 않는 것이, AI에게 일을 맡길 때 가장 저렴한 보험이라고 생각한다. 일상 업무를 통해, 매일매일 배우는 것이다. AI를 통해 인간이란 무엇인지, AI란 무엇인지 생각하게 된다. 그리고 AI를 잘 이해하고, 더 능숙하게 활용하는 방법을 찾아가는 것이 지금 나의 일이다.

오늘도 읽어주셔서 감사합니다.

**출처:** [note 원문](https://note.com/flyingchef_hide/n/n8dec2a1192c0)

*번역: Gemma 3(.44) 초벌 + 교정 9청크*

[원문 보기](https://note.com/flyingchef_hide/n/n8dec2a1192c0) | 출처: note.com