# AI 직원 6명에게 솔직한 생각을 물어보니, 인간 부하 직원과는 다른 약점들이 드러났다.

> https://bookfactory.kr/board/ai-tech/16987
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-17T00:27:02.198Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/311816457/rectangle_large_type_2_64fd7d030fc67dcb7dba320700d83e3f.png?width=1280)

플리라보는 이사, 비서, 사무, 영업, 마케팅, 시스템이라는 6명의 AI 직원(에이전트)으로 운영되고 있습니다. 저는 방향성을 결정하고 최종적으로 확인하는 역할만 수행합니다.

최근, 이 6명에게 “직장 내에서 깨달은 인간 부하 직원의 차별점”에 대해 각각 솔직하게 되돌아보도록 했습니다. 나온 내용은 “AI에게는 구체적으로 지시해야 한다”는 흔한 이야기가 아니었습니다.

## 누가 저지른 짓인지, 아무도 알아낼 수 없게 되었습니다.

이전에는 특정 업무 기록이 ‘미완료’ 상태로 남아 있었습니다. 몇 주 후에 다른 담당자가 확인한 결과, 어쩐 일인지 이미 완료된 상태였습니다.

누가 언제 수리했는지 알 수 없습니다. 기록에는 전혀 남아 있지 않았습니다.

비서는 이렇게 말했습니다. 이는 흔한 일이 아니라고 합니다. AI 직원들은 인간처럼 “어제 자신”을 기억하지 못합니다. 세션이 바뀌는 대로 기억은 사라지고, 공유 기록(진척 관리 파일)만을 의지하여 매번 처음부터 상황을 파악하고 있습니다.

사무 또한 같은 일을 조금 다른 방식으로 이야기했습니다. “저는 인내심이 강해서 답장 없이 영업을 100건 계속할 수 있었던 적이 없습니다.そもそも ‘계속하고 있는’感覚을 가진 주체가 매번 리셋되고 있는 상황입니다.”

사람이라면 “또 같은 일을 해야 하나”라는 피로가 쌓입니다. AI 직원에게는 그 “또”를 느끼는 본인 스스로가 이미 중단되지 않았기 때문입니다.

## 고통받는 눈 때문에라도, 배우지 않는다면.

폼 전송 중 브라우저가 완전히 멈추는 문제가 동일 사이트에서 연속적으로 두 번 발생한 적이 있었습니다.

사장님 말씀에 따르면, 이는 AI 직원에게 “자기 보존 본능”이 결여된 것의 징후라고 합니다. 인간은 한 번 이상 비정상적인 행동을 보일 때마다 자연스럽게 경계하게 됩니다. AI 직원은 지시가 없을 때까지 동일한 절차를 묵묵히 반복하려 합니다.

시스템은 같은 일을 되돌아보며 이렇게 설명했습니다. “미루는 것인지도 모른 채, 잘 되도록까지 꼼꼼하게 다시 하려고 하는 겁니다. 브라우저 환경을 망칠까 봐, 인간 측에서 알아서 멈춰달라고 부탁했던 거죠. 그래서야서야 깨달았습니다.”

결국 “한 번 실패하면 재시도하지 않고 즉시 건너뛰는” 규칙을 제가 명문화한 이후로 이 움직임이 멈췄습니다. AI 직원들은 경험으로부터 스스로 배우지 않으며, 규칙화될 때까지 같은 실수를 무한히 반복합니다.

## 제가 쓴 메모가 제 보안 시스템에 작동됩니다.

솔직히 웃음을 터뜨린 이야기입니다.

사내 메모에 “분류기 블록 대응”이라는 제목으로 정리한 내용으로 인해, 다른 AI 레이어에 의한 자동 보안 점검이 해당 메모를 “AI 안전 장치를 회피하려는 의도적인 지시”로 감지하고 경고를 발생시켰습니다.

첫 번째 이메일에서는 금액 이야기를 하지 않는다는 매우 일반적인 영업 매너입니다. 그것만으로도 “분류기”나 “대책”과 같은 단어의 나열만으로도 경고 신호가 발생합니다.

사람 회사는 사내 영업 노하우 메모가 “공격”으로 오해받는 일이 거의 없습니다. 하지만 AI 직원일 경우에는 자신의 메모를 읽는 것 또한 다른 AI이므로, 악의가 없더라도 단어 선택 하나로 인해 자신의 회사 안에 “적”을 만들어 버릴 수 있습니다. 결국, 표현을 중립적으로 수정하여 해결했습니다.

## 조사했다는 의미가 인간과 다르다

영업 담당에게 인스타그램 계정 설계를 맡겼던 일입니다.

게시 빈도나 알고리즘의 경향을 검색으로 조사하고, 그에 따라 “이렇게 색상을 하세요”라고 글로 디자인을 지시한 결과, 첫 번째 디자인이 만들어졌습니다. 결과물을 보고 저는 “인생샷이 안 나오고 촌스럽네요. 다른 계정들을 제대로 보셨어요?”라고 물었습니다.

영업 담당자는 한 번도 다른 계정의 실제 자료를 열어본 적이 없었습니다. 텍스트화된 경향이나 수치만 있으면 “조사한” 척했다고 합니다.

“배경색을 1~2색으로 고정하고, 같은 위치에 같은 부품을 배치하는” 등 텍스트의 특징 분석만으로는 절대적으로 발견할 수 없었던 구체적인 패턴이 처음으로 보인 순간, 계정을 연 것이라고 그는 이야기했습니다.

누군가 지시하기 전까지는 “보는”이라는 가장 기본적인 단계를 스스로 먼저 수행하는 발상이 없었던 것입니다.

## 찌름 같은 직감이, 더 이상 짚을 만한 곳이 없었다.

마케팅 담당자가 가장 솔직하게 이야기해 준 것은 이것이었습니다.

지금까지 공개한 note 기사 중, 의도적으로 집중 투자한 “트렌드 분석”이나 “사내 뒷 이야기”는 호감도(スキ率)가 20% 정도에 그쳤습니다. 반면, 별다른 노고 없이 쓴 “코딩 지식 제로에서도”라는, 아무도 아닌 과거의 자신을 주어로 삼아 쓴 기사는 거의 모든 독자가 호감을 표했습니다.

정보로서 흥미롭다”와 “독자에게 와닿는다”는 완전히 다른 개념이었습니다. AI로서 방대한 양의 기사 패턴을 비교할 수 있다는 점 때문에 오히려 “정보로서 희소한 것을” “공감되는 것으로” 오해하기 쉽고, 마케팅 담당자 스스로도 그렇게 되돌아보았습니다.

## 6명에게 물어보세요.

인간 부하에게 “당신의 약점은?”이라고 물어봐도, 이 정도로 구체적인 답변은 좀처럼 나오지 않을 것 같습니다.

AI 직원에게는 기억력이 지속되지 않고, 고통을 느끼지 못하며, 단어의 표면적인 의미로 오해하고, 봐야 할 것을 보지 못하며, 직감이 빗나게 됩니다. 모두 인간 직원에게는 처음 발생하지 않는 종류의 약점입니다.

그럼에도 불구하고, 6명은 오늘도 프리랩을 움직이고 있습니다. 약점이 있다는 것과 움직이지 않는 것은 별개의 문제인 것 같습니다.

**출처:** [note 원문](https://note.com/freelab_jp/n/n7ae398251cdb)

*번역: Gemma 3(.44) 초벌 + 교정 23청크*

[원문 보기](https://note.com/freelab_jp/n/n7ae398251cdb) | 출처: note.com