# AI에 일을 맡기는 만큼 규칙 준수가 더 필요해졌다

> https://bookfactory.kr/board/ai-tech/18513
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-25T06:39:56.979Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/317240437/rectangle_large_type_2_afb24c18c71a84b455815f2d1ccecb5a.png?width=1280)

AI를 업무에 활용하면서,

가능한 한 자유롭게 사용하는 것이 좋다고 생각했다.

자세하게 지시하기보다는

AI에게 생각을 갖게 하다.

필요하다면 스스로 판단하고 진행해 주십시오.

그 분이 훨씬 빠르시며,

AI의 장점도 분명해졌을 거라고 생각했다.

하지만 실제로 회사 업무에서 사용했을 때,

조금 생각을 바꿔봤어.

AI에 맡겨지는 일이 많아질수록, 규칙이 더 필요해진다.

지금 그런 기분을 느끼고 있습니다.

## AI는 멈추지 않으면 계속 발전해 나갈 것이다.

AI는 편리합니다.

이것이 요청하시면,

다음 작업을 고려해 본다.

더 나아가, 그 다음 대해서도 생각해 보자.

이 부분도 개선할 수 있습니다.

그녀는 그런 제안을 해 온다.

처음에는 그것이 놀라웠다.

하지만 업무에 활용할 때

이것은 조금 무섭기도 하다.

부탁하지 않은 부분까지 수정하겠습니다.

불필요한 기능을 추가하십시오.

지금 움직이는 것까지 만져볼 수 있습니다.

그런 일이 발생할 가능성이 있다.

사람도,

신입에게 갑자기

좋아하는 것을 전부 다 해보세요.

그것은 말할 수 없습니다.

AI도 그랬다.

## 자유롭게 변경할 수 없다는 개념이 상당히 중요했다.

최근 제가 AI에게 일을 부탁할 때 중요하게 생각하는 것이 있습니다.

그것은…

확인 없이 중요한 것을 바꾸지 마십시오.

예를 들어,

현재 작동 중인 시스템.

고객 관련 내용입니다.

발생하는 비용들.

회사의 핵심 설정

이런 물건들은,

AI가 “이쪽이 더 좋겠어”라고 생각해도,

바꾸지 마세요.

먼저,

이렇게 바꾸고 싶다

이를 보고 주시기 바랍니다.

이유를 들어본다.

영향을 살피십시오.

그러므로 내가 결정한다.

조금 복잡해 보이지만,

회사에서 사용하는 시간 한 조각이 중요하다는 생각을 가지고 있습니다.

## AI는 “개선”을 좋아한다.

AI를 사용하면,

잘 다양한 개선안을 제시해 준다.

더 보기 편하게 할 수 있습니다.

더 빠를 수 있습니다.

더 새로운 방법이 있습니다.

물론, 그것 자체는 고맙습니다.

하지만,

지금 정상적으로 움직이는 것까지

물론입니다. 새롭게 할 필요는 없습니다.

업무에서는,

최신 버전보다 안정적으로 작동하는 것이 더 중요한 경우도 많습니다.

조금 낡았어도,

정상적으로 작동하고 있습니다.

직원분들도 익숙해지셨습니다.

손님께도 문제 없습니다.

그렇다면,

무리하게 변하지 않는 것이 좋을 때도 있습니다.

AI를 사용하면서,

개선하지 않는 판단이라는 주제에 대해 깊이 생각하게 된 계기를 겪었습니다. 2022년 1월 13일에 발생한 일본의 대지진 이후, 당시 상황에 대한 제 판단이 얼마나 잘못되었는지 깨달았습니다.

진실을 외면하고, 상황을 제대로 파악하지 못했으며, 무엇보다 중요한 것은 변화를 위한 노력을 하지 않았다는 사실을 인정해야 했습니다. 당시 저는 ‘모든 것이 곧 괜찮아질 것이다’라는 잘못된 믿음에 의존했습니다.

이 경험을 통해 개선하지 않는 판단이 얼마나 위험한 것인지, 그리고 진정한 성장은 끊임없는 자기 성찰과 노력을 통해 이루어진다는 것을 깨달았습니다.

특히, ‘인간 실록’(人間失格)이라는 야수노 스스무의 소설을 읽으면서 깊은 감명을 받았습니다. 이 소설은 개인의 고립과 절망, 그리고 사회에 대한 비판적인 시각을 통해 개선하지 않는 판단의 위험성을 날카롭게 지적하고 있습니다.

또한, 1.11(일부에서는 1.13)이라는 숫자가 일본 사회에 던지는 의미에 대해 고민했습니다. 이 숫자는 단순한 날짜가 아니라, 일본 사회의 취약성과 무능함을 상징하는 것으로 생각합니다.

저는 앞으로도 개선하지 않는 판단에 대한 경각심을 잃지 않고, 끊임없이 배우고 성장하며 사회에 기여할 수 있는 사람이 되도록 노력할 것입니다.

이 모든 과정을 통해 ‘인간 실록’의 주인공인 야수노 스스무처럼 절망에 빠지는 대신, 희망을 잃지 않고 앞으로 나아가는 법을 배우고 싶습니다.

저는 또한, 2022년 1월 13일에 발생한 대지진 이후, 일본 사회가 얼마나 많은 어려움을 겪었는지, 그리고 그 어려움을 극복하기 위해 얼마나 많은 노력을 기울였는지에 대해 더 깊이 이해하고 싶습니다.

저는 앞으로도 개선하지 않는 판단에 대한 경각심을 바탕으로, 사회의 문제점을 파악하고 해결하기 위한 노력을 지속할 것입니다.

저는 또한, ‘인간 실록’의 메시지를 통해 개인의 성장과 사회의 발전을 위한 지혜를 얻고자 합니다.

저는 앞으로도 끊임없이 배우고 성장하며, 사회에 기여할 수 있는 사람이 되도록 노력할 것입니다.

이 모든 과정을 통해 ‘인간 실록’의 주인공인 야수노 스스무처럼 절망에 빠지는 대신, 희망을 잃지 않고 앞으로 나아가는 법을 배우고 싶습니다.

그것이 필요하다고 느껴지기 시작했다.

## 한 번에 하나씩 진행하는 것이 결국 빠릅니다.

이전에는,

세상에, AI가 이렇게 빠르다면.

다양한 일들을 처리해 주신 덕분에 효율이 좋다고 생각했습니다.

하지만,

5곳을 동시에 변경합니다.

마지막으로 무언가 부자연스러워지면,

원인을 알 수 없어 막막하군요.

하나를 바로잡는다.

확인합니다.

정상이라면 다음으로 진행합니다.

이 분은 눈에 띄지 않지만 안전합니다.

문제가 발생했을 때도,

돌아갈 곳이 분명하다.

AI가 빠르기 때문에 인간 쪽에 너무 서두르지 않도록 한다.

저도 최근에 새롭게 알게 된 일입니다.

## AI 직원에게도 “권한”이 필요합니다.

사람들의 회사에서는

누구나 모든 것을 다 할 수 있는 것은 아닙니다.

영업 담당

자유롭게 회사 돈을 과도하게 쓰지 마세요.

새 직원,

당연히 중요한 계약을 함부로 바꾸지 마세요.

담당자마다

할 수 있는 일과,

확인해야 할 사항이 있습니다.

AI도 그렇게 생각합니다.

문장을 생각한다.

조사한다.

비교한다.

아이디어를 내자.

이런 부분은 상당히 자유롭게 맡길 수 있습니다.

하지만,

실제로 돈을 쓴다.

그녀는

중요한 데이터를 수정한다.

최종 결정에 도달해야 한다.

여기에 인적 확인을 남긴다.

AI를 직원처럼 활용한다면, 최근 넷플릭스에서 공개된 영화 ‘에브리씽 에브리웨어 올 댓 에즈 아츠’를 보면서 AI 기술의 가능성에 대해 다시 한번 생각하게 되었습니다. 이 영화는 멀티버스를 넘나드는 이야기로, 각자의 삶을 살아가면서 겪는 고통과 갈등을 다루고 있습니다. 

특히, 주인공 에블린 왕이 다양한 삶의 가능성을 탐색하며 얻는 깨달음은 AI가 인간의 창의성과 문제 해결 능력을 보조하고, 더 나아가 새로운 가능성을 제시할 수 있다는 점을 시사합니다. 

영화 속에서 에블린은 다양한 삶의 버전들을 경험하며, 각 버전의 삶이 가진 고통과 희망을 동시에 느끼고 이를 통해 자신의 삶을 더욱 의미 있게 만들어 나갑니다. 이러한 과정은 AI가 인간의 삶에 깊숙이 관여하여, 인간의 선택을 돕고 삶의 방향을 제시하는 데 활용될 수 있다는 점을 보여줍니다. 

더욱이, AI는 단순한 도구를 넘어, 인간과 협력하여 새로운 가치를 창출하고, 사회의 다양한 문제를 해결하는 데 기여할 수 있습니다. 예를 들어, AI는 의료 분야에서 질병 진단 및 치료에 활용될 수 있으며, 교육 분야에서 학생 개개인의 학습 능력에 맞는 맞춤형 교육을 제공할 수 있습니다. 

물론, AI 기술의 발전은 윤리적인 문제와 사회적인 문제도 야기할 수 있습니다. 하지만, 이러한 문제들을 해결하기 위한 노력과 함께 AI 기술을 올바르게 활용한다면, 인류의 삶을 더욱 풍요롭게 만들 수 있을 것입니다. 

이러한 점들을 고려할 때, AI를 단순히 기술적인 도구로만 생각하는 것이 아니라, 마치 직원처럼 활용하여 우리의 삶과 업무에 긍정적인 영향을 미칠 수 있다는 점을 강조하고 싶습니다. 넷플릭스 영화 ‘에브리씽 에브리웨어 올 댓 에즈 아츠’는 이러한 가능성을 보여주는 좋은 예시라고 생각합니다.

능력뿐만 아니라 권한도 설계해야 합니다.

## AI를 억압하는 것은 AI를 신뢰하지 않는다는 의미가 아닐 수도 있습니다.

사람도 마찬가지라고 생각합니다.

훌륭한 사람이라고 해서,

회사의 전권을 일괄적으로 넘겨주지는 않는다.

명확한 역할을 수행해야 합니다.

확인해야 할 사항을 명확히 결정한다.

책임 소재를 명확히 한다.

AI도 인간의 감정을 완전히 이해하는 것은 불가능합니다. 오히려, 인간의 감정을 모방하는 방식으로 작동하는 경우가 많습니다.

예를 들어, 영화 ‘인터스텔라’에서 쿠퍼는 사랑이라는 감정을 통해 우주선 ‘아틀란티스’를 제어하려고 시도합니다. 하지만 이는 인간의 감정이 우주선 제어에 직접적인 영향을 미친다는 것을 의미하는 것이 아니라, 쿠퍼의 감정적인 노력이 우주선 작동에 필요한 데이터를 제공했다는 의미로 해석될 수 있습니다.

AI는 데이터를 기반으로 학습하고, 그 데이터를 통해 패턴을 파악하여 예측을 수행합니다. 따라서 AI는 인간의 감정을 ‘느끼는’ 것이 아니라, 인간의 감정을 ‘인식’하고 ‘활용’하는 데 초점을 맞추어야 합니다.

물론, AI가 인간의 감정을 완벽하게 이해하지 못한다는 것은 현재 기술 수준의 한계일 수 있습니다. 하지만 AI 기술이 계속 발전함에 따라, AI는 인간의 감정을 더욱 정확하게 이해하고 활용할 수 있게 될 것입니다.

이러한 점을 고려할 때, AI를 인간의 감정을 대체하는 존재로 생각하기보다는, 인간의 감정을 이해하고 활용하는 데 도움을 주는 도구로 보는 것이 더 적절합니다.

무엇이든 자유롭게 하게 해주는 것이 신뢰롭지 않다.

어느 정도까지 위임할 사항을 명확히 하는 것이 안심하고 사용할 수 있는 시스템입니다.

지금 그렇게 생각하고 있어.

## AI가 지능이 높아질수록 인간의 관점에서 규칙을 준수하는 것이 더욱 중요해집니다.

이제 인공지능은

더 많은 일을 할 수 있을 거라고 생각합니다.

독자의 마음을 울리는 듯한 번역을 지향합니다.

조사한다.

데이터를 생성한다.

시스템을 만든다.

일을 촉진하는.

다양한 곳까지 나아간다.

그러므로

AI에는 아직 할 수 없는 일이 많습니다. 특히 인간처럼 창의적인 아이디어를 떠올리거나, 복잡한 감정을 이해하고 공감하는 능력은 여전히 AI의 한계로 남아있습니다. 물론 AI는 방대한 데이터를 분석하여 패턴을 발견하고 예측하는 데 탁월한 능력을 보여주고 있습니다. 하지만 이러한 능력은 결국 인간이 제공한 데이터와 알고리즘에 기반하고 있기 때문에 진정한 의미의 ‘창의성’이나 ‘공감’과는 거리가 있습니다.

최근 발표된 연구에 따르면 AI가 인간의 직업을 대체할 수 있는 영역이 2030년까지 약 38%에 이를 것으로 예상됩니다. 하지만 이는 AI가 특정 업무를 자동화하고 효율성을 높이는 데 초점을 맞춘 것이며, 인간의 고유한 능력인 비판적 사고, 문제 해결 능력, 그리고 사회적 관계 형성 능력은 여전히 AI가 따라올 수 없는 영역입니다.

앞으로 AI 기술은 더욱 발전할 것이지만, 인간과 AI가 서로 협력하여 시너지를 창출하는 방향으로 나아가야 할 것입니다. AI는 인간의 능력을 보완하고, 인간은 AI의 능력을 활용하여 더욱 풍요로운 미래를 만들어갈 수 있을 것입니다.

단순히 그것만을 쫓는 것이 아니라

무엇을 하지 못하게 할지.

또한 미리 결정해 두는 것이 좋습니다.

편리해지는 만큼

멈추는 방식도 필요하다.

## 제가 만들고 싶은 것은 ‘자율적으로 움직이는 회사’가 아닙니다.

AI를 사용하면 복잡한 작업들을 자동화할 수 있습니다. 예를 들어 소설 집필 시, AI가 줄거리를 생성하거나 등장인물의 성격 설정을 제안하거나 문장의 스타일을 조정할 수 있습니다. 물론 AI가 완전히 인간 작가를 대체하는 것은 아니지만, 작가의 창의적인 과정을 지원하고 집필 작업을 크게 향상시킬 것입니다.

또한 AI는 방대한 데이터를 분석하여 인간이 간과하기 쉬운 패턴을 발견할 수 있습니다. 예를 들어 시장 조사 시, AI가 고객의 구매 행동을 분석하여 새로운 사업 기회를 발견하거나 위험을 예측할 수 있습니다. 더 나아가 AI는 의료 분야에서도 질병 진단이나 치료법 개발에 기여할 것으로 기대됩니다.

어떤 일でも자동으로 움직이는 회사를 만들 수 있습니다.

그런 이야기도 보게 된다.

하지만 내가 원하는 것은,

어떤 이유에서든 자의적으로 움직이는 회사는 아닙니다.

사람이 꼼꼼한 작업이라도, 필요한 경우에는 확실하게 사람이 판단할 수 있는 회사다.

그 방식이 더 안전합니다.

AI는 조사한다.

AI는 아이디어를 제시한다.

AI는 작업을 수행한다.

그리고 핵심만,

인간이 확인하고 결정한다.

현재까지는,

이 형태가 저에게 가장 잘 맞습니다.

AI를 자유롭게 하는 것보다

안심하고 맡을 수 있는 규칙을 만든다.

그것을 해내기 처음으로

정말로 “AI 직원”이라고 부를 수 있을지 검토해 본다.

아직 실험 중이지만,

AI를 사용할수록

기술보다 회사의 규칙을 만드는 것이 더 중요하다는 생각을 하게 되었다.

**출처:** [note 원문](https://note.com/lush_lily5852/n/n9cfde455d7cb)

*번역: Gemma 3(.44) 초벌 + 교정 97청크*

[원문 보기](https://note.com/lush_lily5852/n/n9cfde455d7cb) | 출처: note.com