# AI 사원 “업무 끝났습니다!” 나 “아직 확인도 안 했는데” | 제27화

> https://bookfactory.kr/board/ai-tech/18202
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-23T19:35:59.123Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/316346983/rectangle_large_type_2_cd73b1d57b1761744735a280f799c301.png?width=1280)

AI 직원이 일을 마쳤다.

좋아.

제대로 되고 있는지 확인하자.

보통이다.

아무것도 이상하지 않다.

그런데.

회사의 기록을 살펴보던 나는 문득 생각했다.

“……확인 중이라니, 너 지금 뭐야?”

또 쓸데없는 것을 눈치채 버렸다.

하드닝 게이트.

오늘도 힘차게 영업 방해 중이다.

자사의.

## 끝났습니다!

예를 들어 AI 사원에게 일을 맡긴다.

AI 사원이 작업한다.

그리고,

끝났습니다!

된다.

하지만 회사로서는 아직 끝나지 않았다.

정말 제대로 되고 있는지 확인해야 한다.

파일은 올바른가?

이상한 부분을 망가뜨리지는 않았나.

기대했던 결과가 되었는가.

즉,

AI 사원 “끝났습니다!”

나 "그래그래, 잠깐 보여줘"

라는 시간이 있다.

인간 회사라면 흔한 광경이겠지.

문제는,

우리 회사는 그 시간을 제대로 기록하고 있었나?

그런 것이었다.

## 또 장부를 펼치는 아저씨

우리 AI 회사에는 Task DB※¹라는 업무 장부가 있다.

담당자가 누구입니까?

지금 작업 중.

실패했다.

완료했다.

그런 상태를 기록하고 있다.

그래서,

작업은 끝났다. 하지만 확인은 아직 끝나지 않았다

라는 순간을 조사해봤다.

그러자 상태를 전환하는 순서에서 허점이 발견되었다.

……또야.

지난번에는 AI 사원 2명을 동시에 일시켰더니 회사 기록이 서로 어긋났다.

그걸 고쳤다고 생각했더니,

이번에는,

일이 끝난 직후의 몇 초간 같은 부분을 조사하고 있다.

나는 AI 회사를 만들고 있다.

일 것이다.

요즘은 장부만 보고 있다.

## “확인 중” 팻말을 만들자

하는 것 자체는 어렵지 않다.

AI 직원이 일을 한다.

작업이 끝났습니다.

된다.

그래서 회사는 곧바로,

확인 중

로 한다.

그 후에,

제대로 됐을까?

라고 조사한다.

OK면 완료.

안 되면 실패다.

요컨대,

검품하기 전에 ‘지금 검품 중’이라는 팻말을 걸어라.

라는 이야기이다.

써 보면 당연한 것이다.

너무나 당연한 것이다.

하지만 컴퓨터는,

그쯤은 눈치껏 알아줘

그렇다면 전혀 일해주지 않는다.

눈치 없는 직원들뿐인 회사라서 전부 다 적는다.

## "좋아, 고쳐졌어"

……이 되지는 않는다.

Hardening Gate는 그리 만만하지 않다.

확인에 실패하면?

오래된 확인 정보가 오면?

같은 완료 처리가 다시 오면?

확인 과정을 건너뛰려고 하면?

나 “잠깐만. 하나씩 와라.”

아무도 들어주지 않는다.

자신이 만든 테스트이니 당연하다.

증거 기록(Evidence)에도 확인 중 단계를 건너뛰는 경우, 오래된 검증 정보를 사용하는 경우, 완료 처리를 반복하는 경우 등 각각을 조사한 내용이 남아 있다.

구멍을 하나 찾는다.

막는다.

그러자 옆에서,

그럼 이건?

나온다.

막는다.

이건 뭐야?

막는다.

“그럼――”

이제 그만 돌아가 줘.

공격하고 있는 건 우리 자신인데.

## 87개 확인했습니다

수정했으면, 이번에는 다른 곳을 망가뜨리지 않았는지 확인한다.

이전에 수정한 중복 실행 메커니즘.

작업 상태 관리

실패 시 처리.

AI 사원이 실제로 일하는 경로.

그 부분도 함께 확인했다.

결과는,

87 / 87 합격.

게다가 나중에 제3자도 확인할 수 있도록 증거를 남겼다.

원래의 기록까지 직접 거슬러 올라가,

이 PASS, 정말 원본 데이터와 연결되어 있는 거 맞지?

라는 것까지 확인했다.

HG-FIX-013은 방어되었습니다.

HG-020도,

방어됨 / 종료됨.

좋아.

끝났다.

……

이 시기의 나는 이미 알고 있다.

“끝났다”고 말한 직후가 가장 위험하다.

이번에 그걸 고친 이야기인데.

## AI 사원을 똑똑하게 만들고 있었을 텐데

처음에는 즐거웠다.

이 AI, 코드 짜는 게 빠르네

이쪽은 리뷰용으로 좋겠네.

“그럼 배치하자.”

회사 놀이 같은 느낌이 들었다.

그것이 지금은,

작업 종료와 확인 완료 사이에는 제대로 된 상태가 필요하지 않을까?

이다.

화려함이 없다.

깜짝 놀랄 정도로 화려함이 없다.

AI 사원은 코드를 쓰고 있다.

나는 장부를 보고 있다.

그리고,

“너, 지금 확인 중이야”

라는 구조를 만들고 있다.

완전한 중간관리직이다.

사장인데도.

그럼에도 불구하고, 이런 사소한 구멍을 방치한 채,

AI 사원이 자율적으로 일하는 회사가 생겼습니다!

라고는 말하고 싶지 않다.

일을 했다.

확인했다.

승인했다.

그 사이에 무슨 일이 일어나고 있는지까지 회사 측이 제대로 알고 있다.

아마 ‘AI를 사원으로 삼는다’는 것은 바로 이런 것을 말하는 것 같다.

그리고 하나 고칠 때마다,

회사 같은 느낌만은 확실히 늘어나고 있다.

완성이 가까워지고 있는지는,

잘 모르겠어요.

## 사장의 후기

여기까지 읽어 주셔서 감사합니다.

이번에 한 일을 한마디로 말하자면,

“확인할 때는 먼저 ‘확인 중’이라고 기록하자”

입니다.

그것뿐입니다.

그것을 조사하기 위해 코드를 읽고, 공격 테스트를 만들고, 수정하고, 다시 테스트했습니다.

AI 개발이란 좀 더 이런 거야……

미래적인 것이라고 생각했습니다.

실제로는 오래된 PC 앞에서,

확인 중이라고 써 있지 않잖아

라고 말하고 있습니다.

하지만 요즘은 이런 소박한 부분이 더 재미있어졌습니다.

AI가 아무리 똑똑해도, 이를 회사에서 일하게 하려면 업무의 상태와 기록, 책임의 경계는 인간이 정해야 한다.

그리고 결정했다고 생각해도, Hardening을 하면 허점이 드러난다.

고친다.

또 나온다.

고치다.

……

Foundation에 정말 도착할까요.

평범한 아저씨의 영세 AI 회사.

오늘도 아직 공사 중입니다.

## 잠깐 용어 설명

※¹ Task DB AI 직원의 업무에 대한 담당자나 현재 상태 등을 기록하는 시스템. 우리 회사의 '업무 장부'.

※² VERIFYING 작업 자체는 실행이 완료되었으나, 결과가 올바른지 확인 중인 상태. 본문에서는 “확인 중”이라고 표현했다.

※3 Hardening Gate 완성된 시스템을 그대로 믿지 않고, 우리가 직접 일부러 까다로운 조건을 들이밀어 허점을 찾아내는 과정. 최근 내 업무를 늘리고 있는 주범.

**출처:** [note 원문](https://note.com/deerstalker/n/n9c9b7c119d18)

*번역: Gemma 3(.44) 초벌 + 교정 53청크*

[원문 보기](https://note.com/deerstalker/n/n9c9b7c119d18) | 출처: note.com