저는 육아와 함께 재택근무 중, AI를 활용하여 사업을 운영하는 스다치입니다.
Google의 AI “Gemini 4 Argon”은 Google 개발자용 설명에 따르면 약 100만 토큰의 용량을 가지고 있습니다. 이 용량은 ‘입력 부분’, ‘추론 부분’, ‘출력 부분’으로 나누어 사용하는 형태입니다.
한편 저는 AI 직원들이 매번 읽도록 하는 규정 파일을 간결하게 하는 규칙을 세웠습니다. 오래된 규정을 남겨두면 AI가 오래된 것을 따랐던 사례가 있었기 때문입니다.
“주간소년 점프” 2024년 1월 26일호에 게재된 후지사쿠라의 “별이 내리는 밤에” 1화를 읽은 감상을 독자 모델 미사키 씨가 게시했습니다.
미사키 씨는 이 1화를 “정말 재미있다!”라며 극찬했으며, 특히 다음과 같은 점을 언급했습니다.
* 주인공인 별이 내리는 사쿠라가 밤하늘에 떨어진 별을 모으는 신기한 힘을 가진 소녀라는 점
* 사쿠라가 사는 마을에 갑자기 미스터리한 사건이 발생했다는 점
* 사쿠라와 그녀를 돕는 소년 히카루 카이트와의 대화가 유머러스하고 매력적이라는 점
또한 미사키 씨는 이 작품이 “마법소녀 마도카☆마기카”나 “페이트/스테이트 나이트”처럼 어두운 분위기를 가진 작품과도 유사하다는 점을 언급했습니다.
더욱이 미사키 씨는 이 작품이 “주간소년 점프” 2024년 1월 26일호에 게재된 다른 작품들과 함께 어우러져 더욱 재미있을 것으로 기대했습니다.
- Google이 작성한 Gemini 4 Argon의 “100만 토큰”에 대한 내용
- 제가 AI 사원의 규정 파일을 요약하는 이유는 다음과 같습니다.
- 규칙을 변경할 때, 기존 내용을 어떻게 처리할지를 고려해야 합니다.
이 글은 Google의 공식 설명을 읽고, 제가 AI 직원에게 읽어달라고 요청하는 표준 파일 처리 방식과 함께 정리한 개인적인 글입니다.
먼저 결론: 아무리 많이 읽어도 규칙은 “현재 규칙만” 적용됩니다.
AI가 한 번에 처리할 수 있는 길이가 늘어난다고 해도, 저는 다음 3가지 사항을 항상 정해진 파일에 보존합니다.
- 규정 파일에는 현재 규정만 명시한다.
- 규칙이 변경되었다면, 이전 기록은 삭제한다.
- 경과를 남기고 싶을 때는 삭제하기 전에 AI가 매번 읽지 않는 다른 장소로 옮깁니다.
구글이 공식적으로 발표하는 내용
Google 개발자용 설명(10월 16일 업데이트) 중 길이와 관련된 부분만 나열합니다.
- Gemini 4 Argon은 1번에 통합된 100만 토큰의 용량을 갖는다.
- 입력 분, 사고 분, 출력 분이 각각 1,048,576 토큰 하나의 범위를 공유한다.
- 1회의 답변에 사용하는 최대량은 생각하는 부분과 출력하는 부분의 합으로 결정됩니다.
- 보통 65,536 토큰으로 유지하거나, 명시하지 않기로 합니다.
- 4,096 토큰 이상의 입력에서는 처음부터 재사용되는 부분을 자동으로 저장하는 기능이 작동하며, 저장된 부분에 해당하는 입력은 요금이 95% 할인됩니다.
즉, 입력 분량을 늘릴수록 생각할 부분과 출력할 부분에 할당된 프레임의 잔여량이 줄어듭니다. 100만 토큰은 입력만을 위한 프레임이 아니라는 의미입니다.
또 다른 설명에는 젬마 4 어 Argon이 이전 모델보다 더 많은 시간을 “생각하는 부분”에 활용하는 경우가 있다고 쓰여 있습니다. “생각하는 부분” 역시 동일한 틀 안에서 사용되므로, 채워 넣을 부분을 짧게 설정하면 그만큼 “생각하는 부분”에 할당할 수 있는 여유가 늘어납니다.
저의 AI 팀원이 매번 읽도록 예정된 파일이 있습니다.
저의 AI 직원(社員)은 일을 시작할 때마다 정해진 파일을 읽고 나서 작동합니다. 그 파일에는 제가 정한 사항(해도 되는 것, 하지 않는 것, 물어봐도 되는 것)이 적혀 있습니다.
오래된 규칙을 남겨두었다면, 그 규정을 따랐다.
이전에는 규칙을 바꾼 때에는 기존 기록의 맨 앞에 【구】 표시를 하고 남겨 두었습니다.
그러나 그렇게 하면서うちに, 매번 읽는 습관이 길어졌습니다. 그리고 【舊】라고 표시된 오래된 행의 쪽을 따르는 것이 나타났습니다.
10월 8일부터 현재 규정대로만 진행하겠습니다.
10월 8일, 규칙 형식 변경을 완료했습니다. 규칙 파일의 맨 앞에 다음과 같이 작성되었습니다.
- 현재 적용 중인 규칙만 작성합니다. [舊] 관련 내용은 제외합니다.
또한, 규칙을 변경하는 방법 또한 이렇게 설명되어 있습니다.
- 규칙이 변경되었다면 원본 파일을 수정하고, 오래된 행은 삭제합니다.
- 경과를 남기고 싶을 경우에는 삭제하기 전의 행을 삭제 폴더로 옮깁니다.
결심한 날과 제 말이 남지 않도록 하려
현재 정해진 규칙에는 결정 날짜와 제 말을 간결하게 덧붙인 내용이 포함되어 있습니다.
- 현재의 규칙만 작성한다. 【舊】의 행은 제외한다. (2026년 10월 8일 본인 “수정 요청”)
낡은 행을 삭제해도 언제, 누가 결정했는지는 현재 행에 남아 있습니다. 이렇게 하면 규칙의 파일은 현재 규칙대로 유지되고, 변경된 날짜도 추적할 수 있습니다.
100만 토큰을 읽어낼 수 있는 AI에 규칙을 부여한다면
Gemini 4 Argon을 비롯하여, 오랫동안 읽을 수 있는 AI에 규칙을 전달할 때는 다음과 같이 나누어 두어 주는 전략이 있습니다.
- 매번 제공되는 파일: 현재 규정만
- 필요할 때만 열람할 수 있는 파일: 변경 이력, 기존 규정
구글의 설명에 따라, 입력 부분과 생각·제출 부분은 동일한 영역을 공유합니다. 읽어드리는 내용을 짧게 조정하면 그만큼 남은 영역이 커집니다.
읽어주신 분들께: 오랫동안 읽을 수 있는 AI에게 규칙을 전달하기 전에 3가지
- 매번 제시하는 규칙은 현재 규칙만 적용한다. 오래된 규칙을 참고하면 하던 대로 따르곤 했다.
- 규칙이 변경되었다면, 이전 행은 삭제하고 원본 파일을 즉시 수정한다.
- 경위는 보존하고 싶을 때마다 읽는 위치를 옮기지 않고, 매번 읽는 파일은 보관하지 않는다.
이 글도 내보내기 전에 다른 AI로 확인했다.
제 규칙에 따라 AI가 만든 것을 공개하기 전에, 별도로 설정한 AI에게 검토를 받아게 합니다. 검토표에는 예를 들어 다음과 같은 내용이 포함됩니다.
- 결단: 원본 기록에 없는 명언. 추측 사항을 “공식적으로 기록된” 내용으로 묶는다.
이 초안에는 이 문장에 해당하는 ‘X’ 표시가 있습니다. 경위는 잊지 않고 별도 폴더에 보관하되, 결정된 파일에는 옮기지 않는다는 규칙까지는 적용되었으나, 실제로 옮긴 자료는 원본 자료에서 확인되지 않았습니다. 이 문장은 삭제합니다.
AI에 맡긴 원고를 제출하기 전에 다른 AI에게 교정받도록 하기 위한 검토표와 요청 문구 및 수정 방법 템플릿을 이곳에 모아두었습니다. AI 원고를 제출하기 전에 | 다른 AI에게 검토받는 표와 수정 방법 템플릿 https://note.com/sudachi_aiai/n/n619734f40e39
다음으로, 저는 AI 뉴스를 업무적 시각으로 읽어보겠습니다.
생성AI를 활용하여 소설 아이디어를 구하는 워크숍을 개최했습니다. 참가자들은 AI가 생성한 문장을 참고하여 독창적인 시각과 설정을 더하고 더욱 매력적인 이야기를 구축해가는 데 대한 반응을 보였습니다.
특히 AI가 생성한 플롯의 다양한 버전을 참고하여 예상치 못한 전개와 반전을 盛り込むことで 독자를 지루하지 않게 하는 스토리 전개를 실현했다는 목소리가 많았습니다.
또한 AI가 생성한 캐릭터 설정을 기반으로 캐릭터의 배경과 인간 관계를 심층적으로 파고들어 캐릭터의 감정과 행동 원리를 더 깊이 이해함으로써 이야기의 깊이를 더했다는 의견도 접했습니다.
이번 워크숍을 통해 생성AI는 소설 집필의 아이디어 구상, 플롯 구성, 캐릭터 설정 등 창작 활동의 다양한 단계에서 작가의 창의성을 자극하고 새로운 표현의 가능성을 넓히는 강력한 도구가 될 수 있음을 다시 한번 확인하게 되었습니다.
향후에도 생성AI 활용 방법을 모색하고 작가와 AI가 공존하며 새로운 이야기를 창조하는 데 도전해 나가고 싶습니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 46청크
원문 보기 | 출처: note.com