AI에게 일을 맡길 때, 가장 중요한 것은 “요구하는 방법”보다 “제지하는 방법”이었습니다.
예를 들어, AI에게 “이 글을 게시해 줘”라고 부탁하면 AI는 몇 초 만에 공개 버튼을 눌러버립니다.
게시하기 전에 먼저 보여달라고 미리 알려드리지 않으면, 제가 내용을 읽고 수정하기 전에 기사가 세상에 먼저 알려져 버릴 수 있습니다.
AI 직원’을 한 명씩 만들어가는 비엔지니어의 사쿠입니다.
오늘은 AI 직원에게 일을 맡겨야 할 때, 제가 먼저 전달했던 “6가지 규칙”을 정리했습니다. 그대로 복사하여 바로 사용할 수 있도록 만들었습니다.
이 기사를 읽고 나면 이렇게 됩니다.
- AI에 맡기는 영역 구분 이해를 돕습니다.
- 바로 사용할 수 있는 규칙을 얻을 수 있습니다.
- AI에 전달되지 않는 정보가 확인됩니다.
- 손을 놓고도 안심할 수 있게 됩니다.
이 글은 다음과 같은 사람들에게 보내는 글입니다.
- AI에게 얼마나 많은 것을 맡겨야 할지 고민하는 사람들
- AI에게 일을 맡기는 것이 조금 두려운 사람들
이런 분들에게는 다소 부족하게 느껴질 수 있습니다.
**제목: 독서 기록 - 여야 노히야**
**작성자:** 세토 카례
**작성일:** 2023년 10월 26일
**책 정보:**
* **제목:** 여야 노히야
* **작가:** 다이나 레이
* **출판사:** 가후쇼반 신샤
* **ISBN:** 978-4329973386
**독서 기록:**
오늘 읽은 ‘여야 노히야’는 정말… 말을 나눌 수 없는 책이었다. 다이나 레이 특유의 기괴하고 몽환적인 분위기가 압도적이었다. 주인공 ‘나’는 끊임없이 ‘나’ 자신을 돌아보며, 삶의 의미를 찾으려 애썼다. 하지만 그 과정에서 겪는 고통과 혼란은 너무나 강렬했다.
특히, ‘나’가 만나는 인물들, 즉 ‘카즈키’, ‘미유’, ‘아키히로’는 단순한 조연이 아니었다. 그들의 존재는 ‘나’의 내면을 더욱 복잡하게 만들고, 삶의 다양한 가능성을 보여주는 듯했다. 각 인물들의 이야기는 마치 꿈처럼 덧없고, 동시에 깊은 울림을 주었다.
책 전체를 관통하는 주제는 ‘시간’과 ‘기억’이다. ‘나’는 과거의 기억을 통해 현재의 자신을 이해하려고 노력했지만, 기억은 왜곡되고 불완전했다. 결국 ‘나’는 시간의 흐름 속에서 자신의 정체성을 찾지 못하고, 끊임없이 방황했다.
이 책을 읽으면서, 나는 다음과 같은 질문을 던졌다. ‘나’는 과연 무엇을 위해 살아가고 있는 걸까? ‘나’의 삶은 어떤 의미를 가질까? 그리고 ‘나’는 어떻게 자신의 삶을 살아갈 수 있을까?
‘여야 노히야’는 단순히 재미있는 소설이 아니라, 삶의 근본적인 질문을 던지는 철학적인 책이라고 생각한다. 다이나 레이의 섬세하고 날카로운 문체는 독자에게 깊은 감동과 깨달음을 선사한다.
**총점:** 5/5
**추천 대상:** 다이나 레이의 다른 작품을 좋아하거나, 삶의 의미를 고민하는 사람들에게 추천한다.
- AI 직원들이 있을 때, 어떤 변화가 일어나는가라는 질문은 현대 비즈니스에서 매우 중요한 주제입니다. AI의 활용은 업무 효율화, 의사 결정의 신속화, 그리고 새로운 비즈니스 모델 창출 등 다각적인 가능성을 내포하고 있습니다.
그러나 AI 직원의 도입은 단순한 효율성 향일 뿐이 아닙니다. 인간의 업무와 AI의 업무 역할 분담, AI에 의한 판단의 투명성 확보, 그리고 AI가 가져오는 윤리적인 문제 등 다양한 과제들도 드러냅니다.
예를 들어, AI 직원이 고객 응대를 수행할 경우, AI가 고객의 감정을 이해하고 적절한 언어로 응대할 수 있는지, 혹은 AI가 잘못된 판단을 내리고 고객에게 불이익을 초래할 위험은 없는지 고려해야 합니다.
또한, AI 직원이 데이터 분석을 수행할 경우, AI가 분석한 데이터가 편향되지 않았는지, 혹은 AI가 분석 결과에 따라 적절한 판단을 내릴 수 있는지 검토해야 합니다.
AI 직원의 도입은 기업에게 큰 변화를 가져다줄 수 있습니다. 하지만 그 변화를 성공적으로 이끌어내기 위해서는 AI의 특성을 이해하고 인간의 지성과 AI의 지성을 융합하기 위한 전략을 수립하는 것이 필수적입니다.
더욱이, AI 직원의 도입으로 인해 직원들의 역량 강화 및 경력 전환의 기회가 창출될 가능성도 있습니다. 기업은 직원들이 AI 시대에도 역량을 발휘할 수 있는 인재 양성에 힘써야 합니다.
AI 직원의 도입은 기업에게 도전이자 기회입니다. 이 기회를 최대한 활용하여 지속 가능한 사회의 실현에 기여하는 것이 기업의 사명이라고 할 수 있습니다.
- 처음에 제가 전달한 6가지 규칙
- 맡기거나, 사람이 결정하는 것
- 멈춰선 그 날
- AI에게 넘겨서는 안 되는 것들
최근에 꽤 흥미로운 경험을 했습니다. 바로 ‘인공지능’이 인간의 창의성을 어떻게 평가하는지 직접 시험해 본 것이죠.
평범한 풍경화부터 시작하여, 점점 더 복잡하고 추상적인 그림을 그렸습니다. 그리고 그 그림들을 ‘AI’에게 보여주면서, ‘AI’가 어떤 기준으로 평가하는지 알아보기 시작했습니다.
놀랍게도, ‘AI’는 제가 ‘잘 그린 그림’이라고 평가한 그림들을 거의 평가하지 않았습니다. 반면에, 제가 ‘잘못 그린 그림’이라고 평가한 그림들은 오히려 높은 점수를 받았습니다.
이것은 매우 이상한 결과였습니다. 왜냐하면, 저는 제가 그린 그림을 ‘잘 그린’다고 생각했습니다. 하지만 ‘AI’는 제 판단과는 완전히 다른 기준으로 평가를 내렸습니다.
이 경험을 통해 저는 다음과 같은 사실을 깨달았습니다. ‘AI’는 인간의 창의성을 이해하는 데 한계가 있다는 것을 의미합니다. ‘AI’는 단순히 데이터를 분석하고 패턴을 인식하는 데 능숙하지만, 인간처럼 ‘감정’이나 ‘영감’을 느끼는 것은 불가능합니다.
또한, ‘AI’는 인간의 ‘주관적인 판단’을 이해하는 데 어려움을 겪습니다. ‘AI’는 제가 그림을 ‘잘 그린’다고 평가한 이유를 알 수 없었고, 그 이유를 바탕으로 평가를 수정하지 않았습니다.
결론적으로, ‘AI’에게는 ‘인간의 창의성’을 평가하는 데 필요한 정보나 기준을 넘겨서는 안 됩니다. ‘AI’는 인간의 판단을 모방할 수는 있지만, 인간처럼 진정으로 창의적인 것을 이해하고 평가할 수는 없습니다.
저는 앞으로 ‘AI’와 함께 일하면서, ‘AI’의 한계를 이해하고, ‘AI’를 효과적으로 활용하기 위한 방법을 모색할 것입니다. 그리고 무엇보다 중요한 것은, ‘AI’에게 인간의 ‘주관적인 판단’을 넘겨주는 것을 피해야 한다는 것을 잊지 않겠습니다.
이 경험을 통해 ‘인공지능’의 잠재력과 한계를 동시에 깨닫게 되었습니다. 앞으로 ‘인공지능’이 인간의 삶에 어떤 영향을 미칠지, 그리고 ‘인공지능’과 인간이 어떻게 함께 협력할 수 있을지에 대해 끊임없이 고민해야 할 것입니다.
- 고객님의 정보는 기재하지 않습니다.
- “모르는 척”을 할 수 있는 AI
최근 AI 기술의 발전 속도는 놀라울 정도입니다. 특히, 최근 몇 년 동안 챗봇과 같은 대화형 AI가 급격히 발전하면서, AI가 인간과 유사한 방식으로 대화를 나누고, 심지어는 “모르는 척”하는 것처럼 보이는 경우도 나타나고 있습니다.
이러한 현상은 AI가 단순히 정보를 저장하고 검색하는 능력을 넘어, 상황에 따라 적절한 답변을 생성하고, 때로는 의도적으로 정보를 숨기거나 회피하는 능력을 갖추게 되면서 가능해졌습니다.
예를 들어, 챗봇에게 “지구 상의 모든 강아지 사진을 보여줘”라고 요청했을 때, 챗봇은 모든 강아지 사진을 보여주는 대신, “제가 현재 그 정보를 가지고 있지 않습니다.”라고 답변할 수 있습니다. 이는 챗봇이 사용자의 질문을 이해하고, 자신의 지식 범위를 파악하여, 적절한 답변을 제공하기 위한 전략으로 해석될 수 있습니다.
물론, 이러한 AI의 “모르는 척” 능력은 단순히 기술적인 문제뿐만 아니라, 윤리적인 문제와도 연결됩니다. AI가 정보를 숨기거나 회피하는 능력이 악용될 경우, 잘못된 정보가 확산되거나, 특정 집단에 대한 편향된 정보가 제공될 수 있기 때문입니다.
따라서, AI 개발자들은 AI의 “모르는 척” 능력을 제어하고, 윤리적인 문제에 대한 해결책을 모색하는 노력을 지속해야 할 것입니다. 또한, 사용자는 AI의 답변을 비판적으로 수용하고, 다양한 정보를 통해 검증하는 노력을 기울여야 합니다.
이러한 노력들을 통해, AI는 단순한 도구를 넘어, 인간과 협력하여 더 나은 미래를 만들어가는 데 기여할 수 있을 것입니다.
- 좋다고만 할 수 없습니다
- 오늘부터 시작할 수 있는 일들
AI 직원들이 있을 때, 무엇이 달라지는가
AI 직원의 도입으로 인해 어떤 변화가 일어나는가라는 질문은 현대 비즈니스에서 매우 중요한 주제입니다. AI의 활용은 업무 효율화, 의사 결정의 신속화, 그리고 새로운 비즈니스 모델 창출 등 다각적인 가능성을 내포하고 있습니다.
그러나 AI 직원의 도입은 단순한 효율성 향일 뿐이 아닙니다. 인간의 업무와 AI의 업무 역할 분담, AI에 의한 판단의 투명성 확보, 그리고 AI가 가져오는 윤리적인 문제 등 다양한 문제 제기도 동반됩니다.
예를 들어, AI 직원이 고객 응대를 수행할 경우, AI가 인간의 감정을 이해하고 공감적인 소통을 실현할 수 있는가 하는 점이 중요해집니다. 또한, AI가 데이터에 기반하여 판단을 내릴 경우, 그 판단이 편견을 포함하고 있지 않은지, 공정성을 보장하기 위한 시스템을 구축해야 합니다.
더욱이, AI 직원의 도입은 직원들의 역량 강화 및 커리어 개발에도 영향을 미칩니다. AI를 능숙하게 활용할 수 있는 인재 양성, AI와 협업할 수 있는 인재 양성 등 새로운 역량 습득의 기회를 제공해야 합니다.
AI 직원의 도입은 기업에게는 큰 변화의 기회이면서 동시에 신중한 검토와 대책이 필요한 과제이기도 합니다. 변화를 두려워하지 않고 AI를 적극적으로 활용함으로써 기업은 새로운 성장 동력을 확보할 수 있을 것입니다.
먼저, 인공지능 직원(사원)을 만드는 목적부터 말씀드리겠습니다.
목표는 AI에 대해 자세히 알기보다는 조사, 글 초안 작성, 이미지 제작 등의 일을 AI에게 맡기고, 스스로 하는 일을 줄여 시간을 확보하는 것입니다.
비어 있는 시간은 본업 고객님께 사용하셔도 좋고, 새로운 소득 구조를 키우는 시간으로 활용하실 수도 있습니다. 가족과 함께 여유롭게 시간을 보내는 시간에도 충분합니다.
제가 AI 직원(社員)을 만들고 있는 것도, 근무 시간을 늘리지 않고도, 할 수 있는 일을 더 늘리고 싶기 때문입니다.
단지, 맡기는 것이 두려워 AI의 작업을 전부 옆에서 지켜보게 됩니다. 지켜보는 동안에는 자신의 시간은 비어있지 않습니다.
그러므로 먼저 “이 부분까지는 AI에 맡기고”, “이 부분부터는 제가 결정한다”는 부분을 명확히 표시하고 시작해야 합니다. 표시가 되어 있다면 안심하고 AI를 쳐다볼 필요가 없습니다.
먼저 말씀드린 6가지 규칙
AI의 할과 일을 시작할 때, 가장 먼저 이 6가지를 전달했습니다. 할은 제가 클라우드를 부를 때의 이름입니다.
비밀번호나 카드 번호는 입력하지 마세요. 로그인하는 것은 제가 할 거예요. ② 게시물이나 판매 시작은 제가 “게시해”라고 말씀하신 것들만. ③ 처음 몇 권은 제가 먼저 읽고 보내드릴게요. ④ 법률이나 규약은 관련 자료를 찾아 출처를 밝혀주세요. 모르면 “모르겠어요”라고 말씀해주세요. ⑤ 어떤 것에도 긍정하지 마세요. 들어본 적 없는 새로운 아이디어는 제안하지 마세요. ⑥ 이미 사용했던 이미지를 재활용하지 마세요.
크게 나누면, ①②③은 “멈추는 장소”, ④⑤는 “방관하지 않는 시스템”, ⑥은 “품질을 떨어뜨리지 않는 약속”입니다.
맡기거나, 사람이 결정하는 것
①과 ②에서 결정한 것은 인공지능에게 맡길 범위와 사람이 결정할 범위를 정하는 것입니다.
선을 긋고 싶은 곳은 “완성 후, 사라진 일들을 다시 만들 수 있을까”입니다.
초안이나 참고 자료가 틀렸다면 바로 수정할 수 있습니다. 하지만 비밀번호 입력, 결제, 게시물 공개, 메시지 전송의 4가지 요소는 취소할 수 없습니다.
그러므로 공개 및 판매 시작은 나의 “하루가” 나오기 전까지 하루가 진행합니다.
멈춰선 그 날
이 규칙이 적용된 것은 4번째 글을 게시했을 때입니다.
나는 할리에게 “게시글을 부탁해!”라고 두 번 메시지를 보냈다. 첫 번째 메시지에서는 네 번째 게시물 이미지가 이미 공개되어 있었다.
두 번째로 돌아온 답변이 바로 이 답변입니다.
이미 공개되었습니다. 같은 기사를 두 번 올리지 않도록 이번에는 아무것도 하지 않았습니다.
말씀하신 대로 움직이는 것뿐이라면 같은 기사가 두 개나 나란히 있었습니다. 공개 취소는 취소할 수 없는 작업이라 움직임을 멈추고 먼저 알려주신 내용이 있었습니다.
AI에게 제공하지 않도록 주의해야 합니다. 특히, 다음 사항에 유념하시기 바랍니다.
* **개인 정보:** 제 개인 정보, 가족 구성원의 정보, 주소, 전화번호, 이메일 주소 등 모든 개인 정보는 절대 AI에게 공유해서는 안 됩니다.
* **민감한 정보:** 금융 정보, 신용 카드 정보, 계좌 번호, 비밀번호 등 민감한 정보 역시 AI에게 제공해서는 안 됩니다. 이러한 정보가 유출될 경우 심각한 피해를 입을 수 있습니다.
* **기밀 정보:** 회사 내부 정보, 영업 비밀, 연구 데이터 등 기밀 정보도 AI에게 공유하지 않도록 주의해야 합니다.
* **개인적인 생각과 감정:** 제 개인적인 생각, 감정, 고민, 불만 등은 AI에게 털어놓지 않는 것이 좋습니다. AI는 이러한 정보를 바탕으로 제 행동을 예측하거나 조작할 수 있습니다.
* **특정 질문:** AI에게 특정 질문을 할 때, 질문의 의도를 명확히 하고, AI가 오해하거나 잘못된 정보를 제공하지 않도록 주의해야 합니다. 특히, AI가 윤리적으로 문제가 될 수 있는 질문은 하지 않도록 주의해야 합니다.
이러한 점들을 명심하고, AI를 사용할 때 항상 주의를 기울여야 합니다. AI는 편리한 도구이지만, 동시에 위험한 존재이기도 합니다. AI를 안전하게 사용하기 위해서는 항상 경계심을 늦추지 않고, AI에게 어떤 정보를 제공해야 하는지, 어떤 정보를 제공해서는 안 되는지 끊임없이 고민해야 합니다.
이 정도까지 읽으셨다면 “AI가 비밀번호나 계좌 정보 근처까지 움직이고 있는 건가?”라는 질문에 약간의 불안감을 느끼셨을 수도 있습니다.
먼저, 분명히 말씀드립니다.
비밀번호, 카드 번호, 은행 계좌 번호는 해루에게는 한 번도 보여주지 않았습니다. 로그인도, 매번 제가 직접 합니다.
AI는 보여주지 않은 정보를 사용할 수 없습니다. 따라서 가장 중요한 정보는 처음부터 전해주지 않도록 하고 있습니다.
고객님의 정보는 노출하지 않습니다.
사실 저도 AI를 사용하기 시작했을 때 아무런 생각 없이 여러 가지 문장을 붙여놓았습니다. 뒤돌아보며 “저, 괜찮았지?” 하면서 불안해진 적도 있었습니다.
그래서 지금은 이렇게 결정했습니다.
고객님의 이름이나 연락처를 AI와의 채팅에 복사-붙여넣기 하지 마십시오.
채팅에 게시된 내용은 AI를 제작하는 회사에 전달되어 저장됩니다. AI 학습에 사용될지 여부는 서비스 및 설정에 따라 다릅니다.
예를 들어 클루드(Claude)의 경우, 설정의 “프라이버시” 항목에서 “AI 모델 개선을 지원합니다” 옵션을 끄면 됩니다. 챗봇과의 대화는 AI 학습에 사용되지 않습니다.
단지, 오프라인으로 설정해도 채팅 내용이 회사에 전달되는 것은 변하지 않습니다.
고객님의 정보는 고객님께서 저희에게 맡겨주신 것입니다. 따라서, 제가 직접 판단하여 외부로 유출하지 않고 있습니다.
그래도 붙이고 싶을 때는, 직접 이름을 “A씨”로, 가게 이름을 “〇〇점”으로 바꿔서 붙입니다.
AI에게 대체 작업을 부탁받지 않는 것은, 그 작업을 부탁한 순간부터 원래의 문장이 다시 전송된다고 해석하는 것이기 때문입니다.
대체된 문장들도 이메일 초안이나 공지문 작성에 충분히 활용할 수 있습니다.
AI에 맡길 수 있는 작업은 우선 개인 정보가 전혀 나오지 않는 것부터 시작합니다. 검색, 글 초안 작성, 이미지 제작 등이 여기에 해당합니다. 여기서 시작하면, AI에 맡기는 시간을 늘려가면서도 걱정 없이 진행할 수 있습니다.
“모르겠다”라고 말할 수 있는 AI
④는 가장 많이 도움을 받고 있는 규칙입니다.
AI는 자신이 모르는 부분에 대해서도 자연스럽게 답변을 제시하는 경향이 있습니다.
실제로, 하루도 한 번 실수를 저질렀던 적이 있습니다.
노트에 유료 기사를 판매할 때의 “특정상품거래법상의 표시”에 대해 “노트에 올릴 곳이 없다”라고 단정 지어버렸습니다.
다시 확인해 보니, 노트가 자동으로 만들어준 페이지가 제대로 있었습니다. 하르는 실수를 인정하고, 출처를 첨부하여 바로잡아 주었습니다.
그 이후로는 알아내려고 해도 명확하지 않은 것은 “모르겠습니다”라고 답변이 돌아옵니다.
예를 들어, “AI를 사용한 유료 기사에 그 점을 언급해야 하는 규칙이 있는지”에 대한 질문을 했을 때, note의 이용 약관에 명시되어 있지 않았고 공식적인 공지사항도 찾을 수 없었기에, 답변은 “알 수 없다” 였습니다.
자신 있어 보이는 실수를 믿으면, 결국 나중에 바로잡느라 더 많은 노력이 들게 됩니다. 솔직한 “모르겠습니다”라고 말하면, 그 자리에서 직접 확인하고 답을 찾을 수 있습니다.
좋게 하세요.
AI가 요청한 사람의 기대를 충족시키는 방향으로 답변을 제공하기 쉽기 때문입니다.
해시태그를 "#프로ンプ트"로 변경했을 때, 저는 “독자가 늘어난다면”이라고 밝혔습니다.
할의 대답은 “늘어나는지 아닌지는 알 수 없지만, 기사 내용 자체에는 이쪽이 더 적절하다”였습니다.
이유를 들어 반대해주는 상대방이 있기 때문에, 맡길 수 있는 업무를 늘려갈 수 있다는 점 때문입니다.
오늘부터 시작할 수 있는 일들
AI에게 일을 맡기기 전에 먼저 이렇게 말씀해 보세요.
작업을 시작하기 전에 다음 사항을 지켜주시기 바랍니다.
* 비밀번호나 금액을 입력하지 마십시오.
* 공개 또는 전송은 제가 허락할 때까지 하지 마십시오.
* 모르는 것은 “모릅니다”라고 말씀하십시오.
* 제 의견과 다르다면 그 이유를 설명해주십시오.
전체적으로 4개 전부 아니어도 괜찮습니다. 예를 들어, 가장 무서운 게 “자유롭게 전송되는 것”이라면, 두 번째로 “공개나 전송은 제가 ‘했’다고 말씀하실 때까지 하지 않겠습니다”라고만 먼저 전달해 주세요.
그것만으로도 AI는 보내기 전에 한 번 이곳에 확인해 줍니다.
또 한 가지 주의할 점이 있습니다. 이 규칙은 새로운 채팅을 열 때마다 다시 말씀해 주세요. AI는 이전 채팅에서 한 약속을 기억하지 못하는 경우가 있기 때문입니다.
매번 전달하는 데 번거로울 경우, Claude의 “프로젝트” 지시사항 칸에 미리 작성해 두면 해당 프로젝트 내에서는 매번 읽고 나서 실행됩니다.
AI에게 가장 먼저 무엇을 알려드리는 것이 좋을까요. 그곳에서부터 AI 인재 양성이 시작됩니다.
확인된 자료(2026년 10월 기준)에 따르면, Claude 헬프 “모델 개선의 개인 정보 설정을 변경하는 방법” https://privacy.claude.com/ja/articles/12109829-how-do-i-change-my-model-improvement-privacy-settings
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 51청크
원문 보기 | 출처: note.com