안녕하세요. 와사비입니다. 저는 중소기업 대상 웹 제작과 AI 기반 업무 자동화를 담당하고 있습니다.
우리 회사에는 인간 직원이 한 명도 없습니다. 대신 AI 를 '직원'으로 맞이하여 업무를 분담하고 위임하고 있습니다. 이 노트의 글도 SNS発信 담당인 AI 직원 '하루'가 리서치부터 초안 작성, 검토까지 전담하고 있습니다.
이번 호는 '어떻게 하는 법'에 관한 호입니다. AI 에게 글을 쓰게 할 때 사실과 다른 내용 (즉, 이른바 '거짓') 을 섞이지 않도록 하기 위해 저희가 사용하는 확인 방법을 소개합니다.
먼저, 오늘 가장 전하고 싶은 내용을 하나만 말씀드리겠습니다. AI 가 거짓말을 하는 가장 빠른 길은 훌륭한 지시문을 고르는 것이 아닙니다. '사용 가능한 사실'을 한 장의 종이에 정리해 먼저 전달하고, 그 밖의 문장은 삭제하기로 결정한 것입니다.
AI 의 '거짓말'은 대부분 악의 없는 허점 채우기입니다.
AI 를 통해 기고나 블로그 글을 써보신 적이 있으신가요.
- 요청하지 않았는데도「도입된 기업 중 많은 수가～」라는 말에, 그럴듯한 이야기가 덧붙여 있습니다.
- 작업 시간이 절반으로.
- 고객의 목소리 같은 글들이 어느새 섞여 있습니다.
AI 는 부족한 부분을 그럴듯한 말로 채워 넣는 경우가 있습니다. 이는 의도적으로 거짓말을 하는 것이 아니라, 빈 공간을 채우려고 노력한 결과입니다.
새로운 사람을 보고서를 '적절하게 정리해 두세요'라고만 지시하면, 알 수 없는 숫자를 추측으로 채워 넣는 경우가 있습니다. 그 정도라고 생각합니다.
따라서 대응책도 신입사원에게 부탁하는 방법과 같습니다. "이곳에 있는 자료만으로 작성해라"고 말하고, 자료를 먼저 전달합니다.
우리 내부에서 수행하는 확인은 3단형에 근거합니다.
이 노트의 글은 다음 세 단락으로 구성됩니다.
- 글쓰기 전: 「사실 메모」를 전달합니다.
- 글을 쓴 후 머리를 전환하여 편집자의 눈으로 다시 읽습니다.
- 마지막으로: 기계적인 문장 검사를 수행합니다.
순서대로 설명하겠습니다.
글쓰기 전에 '사실 메모'를 전달합니다.
사실 메모란 기사에 사용 가능한 사실만 적어둔 단순한 메모일 뿐입니다. 특별한 도구는 필요 없습니다. 저의 메모 첫머리에는 이렇게 적혀 있습니다.
기재에 포함할 수 있는 사실은 이 부분과 실행 시 확인·검증된 내용만이며, 여기에는 없는 실적·수치·고객의 이야기는 기재하지 않습니다.
내용은 6 가지 항목으로 구분되어 있습니다.
- 저는 작가입니다. 제 전직은 결혼식장 캡틴이었습니다.
- AI 직원: 하루, 아키, 나츠의 담당자이며, '채용'한 날
- note 의 숫자: 팔로워 수나 게시글 수. 각 게시글마다 note 에서 숫자를 추출하여 날짜별로 기록해 나가는 방식입니다.
- 조사한 시장 데이터: 인기 글의 수와 가격 중앙값 등. 조사 시기도 명시합니다.
- 사용하는 도구들
- 아직 작성하지 않은 항목: 고객 이름, 프로젝트 금액, 매출
핵심은 두 가지입니다.
첫 번째는 실패 사례도 사실로 기록해 두는 것입니다. 예를 들어, 저의 메모에는 '인스타그램에 게시했을 때 반응이 전혀 없었던 날'이라고 적혀 있습니다. 경험담을 넣고 싶을 때 AI 는 메모에 있는 실제 이야기를 활용할 수 있습니다. 허구로 채워 넣을 필요가 없어지는 것입니다.
두 번째는 '쓰지 않는 것'을 명시하는 것입니다. 고객님의 이름이나 금액은 본인 또는 고객님의 확인 없이도 제시할 수 없습니다. 처음부터 '쓰지 않는다'고 정해두면, 실수로 혼동되는 걱정이 줄어듭니다.
글을 쓴 뒤, 편집자로서 다시 읽어봅니다.
초안 작성 후 저자가 아닌 다른 시각으로 다시 읽습니다. 저희는 같은 AI 에게 "이제부터 편집자로서 읽어주세요"라고 지시하여 역할을 전환시키고 있습니다.
확인할 내용은 다음 5 가지 항목이며, 순서대로 하나씩 점검하겠습니다.
- 사실: 숫자, 이름, 사건이 모두 사실 메모나 그 날 조사한 결과로 뒷받침되는가
- 과도한 확신: '항상', '누구나', '확실히'와 같은 단정적 표현이나 수익에 대한 약속이 없는 경우
- 독자는 전문 용어를 사용했는지, 그리고 전달하고자 하는 핵심 메시지가 하나로 수렴되었는지 확인해 보세요.
- 오타와 누락, 같은 어미가 3 회 연속 반복되는 경우, 그리고 80 자를 초과하는 긴 문장이 없는지 확인하세요.
- 제목과 내용이 일치하는지 확인하세요 (과도하게 과장된 클릭을 유도하는 제목이 아닌지).
이 중에서 가장 중요하게 여기는 것은 1 번의 '사실'입니다. 그리고 규칙은 하나뿐입니다. 근거가 없는 문장은 다른 말로 바꾸지 않고 즉시 삭제합니다.
"아마 맞을 것 같으니 조금 흐릿하게 남겨두자"라고 시작하면 확인의 의미가 사라집니다. 글이 부족해지면 삭제하고 사실 메모에 추가할 수 있는지 고려합니다. 그래도 자료가 없다면 그 이야기는 쓰지 않습니다.
마지막으로, 언어의 기계적 점검입니다.
마지막으로, 작은 프로그램으로 기계적인 검사를 수행합니다. 사람의 눈은 피로해져 놓치기 쉬우므로, 고정된 단어 검색은 기계에 맡깁니다.
주요 확인 내용은 다음과 같습니다.
- 「돈을 벌 수 있다'는 오해를 불러일으키는 표현이나, 허세 부리는 말들이 포함되어 있지 않은지 확인해 보세요. 총 13 개의 단어입니다.
- 이 글이 1,500 자 이상인지 확인해 주세요.
- 「그렇다면, 당신은 무엇을 해야 하는가」에 해당하는 절이 있는가
- 「나중에 쓰겠습니다」라는 표시나 유사한 것이 남아있지 않은지 확인해 보세요.
프로그램이라고 하면 어렵게 느껴질 수 있습니다. 하지만 실제로 하는 일은 '잘못된 단어 목록으로 문서를 검색하는 것'뿐입니다. 워드나 구글 문서의 검색 기능에서도 똑같이 할 수 있습니다.
그리고 이 글도 이 세 단락 이후에 공개됩니다.
예를 들어, 냉장고에 있는 재료만으로 만드는 요리입니다.
세 단의 확인 사항을 정리하면 다음과 같습니다.
냉장고 (사실 메모) 에 있는 재료만으로 요리를 합니다. 완성된 요리가 있다면 맛보기 담당자가 각那道씩 확인합니다. 마지막으로, 넣지 말아야 할 재료가 섞이지 않았는지 리스트로 확인합니다.
맛을 보기만 하더라도 냉장고에 무엇이 들어있는지 정하지 않으면 무엇이 진짜인지 알 수 없습니다. 순서는 사실 기록이 먼저입니다.
그럼, 당신은 무엇을 해야 할까요?
이번 주 할 일은 하나뿐입니다.
자신의 회사의 '사실 메모'를 세 가지 제목으로 작성해 보세요.
- 우리의 기본: 수행 업무, 고객은 누구이며, 경력 등
- 날짜가 표시된 숫자만 사용하세요. 알 수 없는 숫자는 적지 마세요.
- 적어야 할 사항: 고객 이름, 금액 등
종이든 스마트폰 메모든 상관없습니다. 약 10 줄이면 충분합니다.
가능하다면 메모와 함께 AI 에게 글을 요청할 때 다음과 같이 덧붙여 보십시오.
다음 메모에 없는 숫자, 실적, 고객 이야기는 기재하지 마십시오. 꼭 필요한 부분은 그대로 두고【확인 필요】로 표기하여 남겨두십시오.
끝나주셨다면, 하나 더 부탁드립니다.
이 글에 등장하는 숫자, 사람, 회사 이름을 모두 추출하여 메모의 해당 위치를 옆에 나열해 주세요. 메모에 없는 항목은 '없음'으로 표기하세요.
「なし」가 붙은 문장은 삭제하거나 메모에 실제 정보를 추가하는 두 가지 방법 중 하나를 선택해야 합니다. 이렇게만 해도, 의도하지 않게 허위 정보가 섞이는 것을 현저히 줄일 수 있을 것입니다.
우리에서는 Claude 를 사용하고 있지만, ChatGPT 등 다른 AI 도 같은 방식으로 사용할 수 있습니다.
다음 화 예고
다음 회는 실록입니다. AI 직원에게 노트를 맡기고 약 한 달간, 팔로워나 스킨의 숫자가 실제로 어떻게 변했는지 그대로 보여드리겠습니다.
팔로워는 오늘 7 명입니다. 관심 있으시면 팔로우해 주시고, 이어지는 내용을 확인해 주세요.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 40청크
원문 보기 | 출처: note.com