육아하며 재택근무 중, AI를 직원처럼 활용하여 사업을 운영하는 스다치입니다.
새롭게 작성된 실록 형태의 기사 8개를 모아서 AI 검토를 거쳐 통과시켰습니다. 마지막 회차에서 총 32건의 오류가 발견되어, 해당 회차는 제외하고 짧은 형태로 재구성했습니다.
AI의 이야기에 따르면, AI의 폭주가 자주 논의됩니다. 제 기록을 다시 읽어보면, 남아있던 문제는 폭주와는 다른 형태였습니다. AI가 내놓은 답변이나, AI가 찾아낸 정보에 확인하지 않고 그대로 받아들일 때입니다. 이 글에서는 이를 완전히 덥수룩하다고 부릅니다.
이 기사에 드러나는 것
2023년 5월 26일, 주식회사 카렌트는 주식회사 반다이남코엔터테인먼트와 협약을 체결하여 게임 콘텐츠의 라이선스 계약을 맺은 사실을 발표했습니다.
이번 협약을 통해 카렌트는 반다이남코엔터테인먼트의 게임 콘텐츠를 자사의 플랫폼인 노트에 제공하게 되었습니다. 특히 ‘페르소나’ 시리즈와 ‘모노로그’ 시리즈를 비롯한 인기 타이틀 중심으로 다양한 게임 콘텐츠의 다운로드 판매를 진행할 예정입니다.
또한, 카렌트는 이러한 게임 콘텐츠 제공을 통해 노트 사용자층 확대에 기여하고자 합니다. 기존 노트 사용자들의 지지를 강화하고 더 많은 사용자에게 노트의 매력을 알리는 기회를 만들고자 합니다.
더 나아가, 반다이남코엔터테인먼트와의 협력을 통해 노트에서 게임 콘텐츠의 새로운 가능성을 모색해 나갈 것으로 기대됩니다. 양사의 협력을 통해 노트 플랫폼을 활성화하고 게임 산업 전반의 발전에 기여할 수 있을 것입니다.
- AI에 지나치게 의존했던 부분과 제가 놓친 부분입니다.
- 무(가나)로도 내놓는 것들도, 멈추는 지점의 규정 방식
- 기록에 남아있는 오류와 이를 어떻게 수정했는지
- 이 선을 긋는 데 취약한 지점
AI에 지나치게 의존했던 부분입니다.
제 방식은 작업의 대부분을 AI에게 위임하고 있습니다.
- AI 관련 기사 기획 및 초고 작성에 대한 내용입니다. AI 기술의 발전과 사회적 영향에 대한 심층적인 분석을 담을 수 있도록 기획하고 있습니다. 특히, 최근 주목받는 생성형 AI 모델과 그 윤리적 문제, 그리고 AI가 산업 및 일상생활에 미치는 변화에 초점을 맞추어 기사를 작성할 예정입니다.
초고 작성 단계에서는 다음과 같은 질문들을 중심으로 논의를 진행할 계획입니다.
* AI 기술의 현재 수준과 미래 발전 가능성은 무엇인가?
* AI가 인간의 직업에 미치는 영향은 무엇이며, 이에 대한 대응 방안은 무엇인가?
* AI 윤리 문제, 특히 데이터 편향, 개인 정보 보호, 책임 소재는 어떻게 해결해야 하는가?
* AI 기술이 사회 전반에 미치는 긍정적/부정적 영향은 무엇인가?
이러한 질문들을 바탕으로 다양한 전문가 인터뷰와 사례 연구를 통해 기사의 완성도를 높여갈 것입니다.
- 검사: 초안 작성 AI와는 별도의 AI입니다. 체크표와 원본 기록을 1 항목씩 확인하고, ‘X’가 하나라도 있으면 수정 없이 다시 보냅니다.
- 수정 사항이 틀림표로 나타나면 초안으로 되돌려 수정하고, 모든 항목을 다시 확인하십시오.
- 제목 이미지: GPT-6 (Codex)
- 공개 순서의 구성: 인공지능
맡은 일이 늘어났을 때, 저는 이렇게 말했습니다.
노트는 더 많이 만들어. 하루 10개.
같은 시기에 확인 방법 또한 다음과 같이 설명합니다.
하나하나 제작 확인되는 건 번거롭기 때문에, 흐름도 고려해서.
그 결과, AI가 흐름을 재구성했습니다. 이제 마지막 본문을 제가 읽지 않은 채 출력하겠습니다.
기회가 늘어날수록 그만큼 완전히 휩쓸어버릴 수 있는 지점도 늘어나는 것일 수도 있습니다. 그래서 사람의 ○○를 어디에 남겨두지 할지를 결정했습니다.
제가 ○를 버려둔 채로
본문을 읽지 않더라도 제 ○가 필요한 곳은 남아 있습니다.
출시 여부
그 날의 기사를 번호 붙은 목록으로 한 번만 확인합니다. 목록에 있는 것은 제목과 짧은 내용, 그리고 마지막으로 안내하는 판매 상품입니다. 저는 전부 ○, 일부는 ×, 이렇게 답합니다. AI는 그것을 하나하나의 ○×로 취급합니다.
나만이 알 수 있는 사실
현재 제가 하고 있는 방식이나 제 경험은 기록 속에 남아 있지 않습니다. 기록 밖에 있는 것은 AI가 확인해 주지 못합니다. 그래서 초안의 마지막에 제가 확인하는 사실 목록을 첨부받고 있습니다. 저는 A/B 형태로 답변하며, 질문되는 것은 사실만이고, 감정에 대한 질문은 하지 않는다는 규칙이 있습니다.
검사가 모든 항목에 대해 완료된 것들
제출할 만한 것은 다른 AI의 검토가 모든 항목에서 ○로 평가되고, 제 답변도 포함된 기사들 뿐입니다. 어느 한쪽이라도 부족하면 제출하지 않습니다.
이 선별 기준에서 제 역할은 주로 제목 목록을 확인하고 사실에 대한 질문에 답하는 데 한정되었습니다.
○ 누락 없이 출력하더라도, 여기에 닿으면 멈춘다
맡기고 있는 일들 중에는 한 권 한 권 ○ 없이 발행하는 것들도 있습니다. SNS 게시물을 AI에 맡기기 시작했을 때, 중단 지점으로 이렇게 정했습니다. 발행한 후에 바로 수정하는 것은 되돌리기 어렵기 때문입니다.
- 결과를 약속하는 방식이 ‘벌어지게’, ‘잘 풀리게’ 하는 것에 대한 약속으로 이루어져 있지 않은 것일 수 있습니다.
- 몸과 돈: 몸과 관련된 것, 돈에 대한 판단이 섣부른 결론에 머무르는지 확인하는 것
- 정보 유출: 저나 주변 사람들이 누구인지 알 수 있는 단서가 없는지
- AI의 표시: AI가 제작했다는 것을 나타내야 하는 경우, 그렇게 표시하는지 확인합니다.
- 가격과 링크: 가격과 안내 링크가 일치하는지 확인합니다.
멈춰야 할 지점을 먼저 결정하는 방식입니다.
여기 중요한 것은 멈추는 지점을 정하더라도 멈추는 것이 맞는지 여부를 처음부터 AI가 판단한다는 것입니다. 아래는 기록에 남아있는 오작동 사례를 정리한 것입니다 (이 흐름을 결정하기 전의 사건도 포함합니다).
기록에 남아있는 실오선
기록에 남아있는 것들로부터, 완전히 쏟아붓는 듯한 형태의 것을 씁니다.
AI는 공식 자료 없이 게시판의 이야기를 통해 결정을 내렸다.
유료 플랜마다 채팅에서 사용할 수 있는 AI 모델을 글 작성 규칙에 맞춰 설정할 때의 경우입니다. AI는 이용자들이 모이는 게시판의 오래된 이야기들을 바탕으로 설정되었으며, 공식 도움말은 업데이트되어 내용이 바뀌었습니다. 규칙은 공식 도움말에 맞춰 수정되었고, 오래된 버전의 내용은 삭제하지 않고 옛스러운 표시를 달아 보존하고 있습니다.
AI가 찾아낸 정보에 AI 스스로가 탑승한 형태입니다. 정해진 파일에 들어가면 다음으로 쓸 AI는 그것을 읽고 씁니다. 정해진 파일에 들어가기 전에 멈추는 단계가 필요하다는 기록입니다.
현재 유료 기사 중 한 문장이 데이터 제공 업체의 약관을 위반했습니다.
어떤 유료 기사에는 “이 데이터는 무료로 얻을 수 있습니다”라는 문구가 있었습니다. 해당 데이터의 이용 약관을 확인한 결과, 허가 없이 자동으로 데이터를 수집하는 것을 금지하고 있었습니다. 해결 방안은 약관을 읽는 절차를 포함하고, 다른 무료 데이터 원을 선택할 수 있도록 하는 것입니다. 공개 중인 기사도 업데이트했습니다.
무료로 얻을 수 있다는 간편한 답변에 글을 쓰는 쪽이 스스로 현혹된 형태입니다.
기록과 비교하고 조명해도 보이지 않는다.
검사는 원본 기록과 대조하여 확인합니다. 하지만 기록 밖의 내용은 대조해도 찾을 수 없습니다. 한 기사에서는 제가 아직도 사용하고 있는 도구를 이미 사용하지 않는 것처럼 기록되어 있었습니다. 제목은 아직 확인하지 않은 성적까지 나온 것처럼 보일 수도 있었습니다. 모두 본문을 읽고 깨달은 내용입니다. 위에 언급한, 나만 아는 사실을 미리 듣는 규칙은 여기서 비롯되었습니다.
수가 줄어들지 않는 회는, 중단한다.
새롭게 작성한 실록 형태의 기사 8편은 검토 과정에서 매번 수정해도 획이 줄어드는 부분이 없었습니다. 마지막 검토에서는 이 8편의 총 32건의 수정 사항이 있었습니다. 내용은 기록의 미세한 숫자, 인용문의 한 글자 한 글자 차이, 규약의 측면에서 언급하는 것이 좋지 않은 내용들이 포함되었습니다.
그 회차는 더 이상 출제하지 않고, 숫자와 인용구를 삭제한 짧은 형태로 재구성하기로 했습니다. 숫자와 인용구는 원본 파일의 한 글자 한 글자나, 셈을 다시 낸 값에만 포함하며, 이 기사 또한 그 형태로 작성하고 있습니다.
검사가 ‘X’를 냈기만 해도 계속 수정해서 내보내려고 했다면, 검사 결과에 올라가면서 내용은 제대로 확인하지 않은 상태가 되었을 수도 있습니다 (추측입니다).
이 기록의 약한 지점
- 제가 읽지 않은 채로 전달될 것입니다. 제가 미리 알고 있는 사실도 있지만, 그 의미를 전달하는 방식까지는 막을 수 없습니다.
- 검사 담당자 역시 AI입니다. 작성자와 마찬가지로 동일한 편견을 가질 수도 있습니다. (추측입니다.)
- AI가 처음부터 멈추는 지점을 확인합니다.
- 공식 안내 또한 업데이트됩니다. 확인일 이후의 변화는 이 기준으로는 포착되지 않습니다.
- 이 선 배분이 매출로 이어질지 여전히 불분명합니다.
독자 여러분께 드립니다: 완전한 기록에서 밝혀진 세 가지
사람 ○는, 전부가 아닌 되돌릴 수 없는 부분과 자신만이 알 수 있는 사실에 대한 본문을 하나씩 ずつ 읽는 것을 멈추어도, 드러낼 것인지 여부 목록과 사실에 대한 질문은 남아 있었습니다. ○가 없는 경우에는 드러내는 것에는 멈추는 부분을 먼저 정해 둡니다.
AI는 조사한 출처 중 공식 여부와 정보의 시점을 확인하는 게시판 내용을 정해진 파일에 포함하여 수정했습니다. 정해진 내용이 포함되면, 다음 AI도 이를 전제로 작성합니다.
수가 줄어들지 않을 때는 수정하는 것보다 작은 것으로 다시 만들고 수정할 때마다 새로운 ‘×’이 나오는 형태라면 내는 것을 멈추고 확인 가능한 만큼 줄이는 것이 좋습니다. 제 기록상, 그렇게 했습니다.
이 시스템을 이해하려면 먼저 이 시스템이 2023년 10월 27일에 출시된 ‘AI-GPT’라는 AI 모델을 기반으로 하고 있음을 알아야 합니다. 이 AI 모델은 OpenAI에 의해 개발되었으며, 방대한 텍스트 데이터를 학습하여 인간과 유사한 자연스러운 문장을 생성할 수 있습니다.
더불어, 이 시스템은 사용자가 입력한 질문을 이해하고 관련 정보를 검색한 후, 그 정보를 바탕으로 사용자에게 최적의 답변을 생성하는 일련의 과정을 거쳐 답변을 생성합니다. 이 과정은 마치 인간이 질문을 이해하고 생각한 후 답변을 생성하는 것과 같습니다.
GPT-6에 업무를 요청하는 지시문, 정해진 파일(AGENTS.md), 검품표 유형을 초급, 중급, 고급으로 나누어 이 글에 모았습니다. 현재 X에서 리포스트하면 무료로 읽을 수 있습니다.
따라서 GPT-6를 AI 직원으로 만들기 위한 구체적인 절차를 설명합니다.
먼저, 지시문(프롬프트)을 설계합니다. GPT-6에게 어떤 작업을 수행시키고 싶은지 명확한 지시를 내리는 것이 중요합니다. 예를 들어, “〇〇(書籍名)의 요약문을 작성해 주세요”와 같이 구체적인 지시를 내리면 GPT-6는 더욱 정확한 결과물을 생성할 수 있습니다.
다음으로, AGENTS.md를 활용합니다. AGENTS.md는 GPT-6의 행동을 제어하기 위한 규칙이나 지침을 정의하는 파일입니다. 이 파일에 GPT-6가 어떤 상황에서 어떤 행동을 취해야 하는지를 기술함으로써 더욱 복잡한 작업을 수행시킬 수 있습니다. 예를 들어, “〇〇(数値)라는 조건을 만족하는 경우, △△(行動)을 실행해 주세요”와 같이 조건 분기를 기술함으로써 유연한 대응이 가능해집니다.
마지막으로, 검토표를 작성합니다. 검토표는 GPT-6가 생성한 결과물을 평가하기 위한 도구입니다. 이 표에 평가 기준과 평가 결과를 기록함으로써 GPT-6의 성능을 지속적으로 개선할 수 있습니다. 예를 들어, “〇〇(書籍名)의 요약문의 정확성을 〇〇(数値)점 만점으로 평가합니다”와 같이 평가 기준을 명확히 함으로써 객관적인 평가가 가능해집니다.
이러한 절차를 조합함으로써 GPT-6를 AI 직원으로서 활용하고 다양한 작업을 효율적으로 실행할 수 있습니다.
다음에도 AI를 활용하여 돌아가면서 진행한 일들을, 기록된 범위 내에서 기록하겠습니다.
#GPT6 #코드렉스 #AI 활용 #생성 AI #챗GPT
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 52청크
원문 보기 | 출처: note.com