# 학습을 하지 말아야 할 때, 어디까지 믿어야 할까

> https://bookfactory.kr/board/news/17630
> 게시판: 뉴스
> 작성자: admin
> 작성일: 2026-09-18T08:43:36.768Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/314875235/rectangle_large_type_2_513ce0f0d77b89c684a7d592c60d9981.png?width=1280)

사내 챗방에서 오갔던 일가지 문제가 발생했습니다. 업무 이메일을 AI에 전달할 때 무엇을 확인해야 하는지 조사했습니다.

## 이야기의 시작은 사소한 대화로부터 시작되었습니다.

최근, 회사 내 챗방에서 이런 대화가 있었습니다. 핵심만 요약하면.

어느 직원이 새로운 AI 모델을 자신의 이메일 분류 봇에 통합하여 정확도가 극적으로 향상되었다고 보고했습니다.

그것에 대해 다른 직원이 한마디도 하지 않았습니다.

> 
> 
> 일단 말씀드리면 그 메일은 다른 사람들에게도 보일 수 있습니다.
> 

보고한 본인의 답변은 기술적으로 완벽한 수준이었습니다. 게이트웨이를 통해 사용 중이며, “학습 불사용(No Training)”이 보장되고, 더 나아가 요청 단위로 “Zero Data Retention(데이터 즉시 파기)”도 설정되어 있습니다.

그리고 돌아온 것은 그 한 마디였습니다.

> 
> 
> 이제 그것을 믿을 수밖에 없습니다.
> 

보고한 측 또한 계속해서 이렇게 밝혔습니다.

> 
> 
> 학습하지 않겠다고 말하는 것은 간단한 일입니다. 100%가 아니라는 점은 인지하고 있습니다.
> 

이 짧은 대화 속에 현재 많은 현장에서 직면하고 있는 모든 논점이 담겨 있다는 느낌을 받았습니다.

저는 PCI DSS 준수가 요구되는 시스템과 관련되어 있습니다. “계약상의 약속”과 “기술적 보증”의 차이는 일상적으로 생각하는 문제들입니다.

그 결과, 실제 사양을 확인해 보았습니다.

## 그 전에 무엇이 매력적이었는지 물어보셨나요?

먼저, 왜 도입하게 되었는지 확인해 보겠습니다.

2026년 9월 16일에 Vercel AI Gateway에서 제공이 시작된 Jev(TypeSafe AI社)라는 모델이 화제가 되고 있었습니다.

일반적인 LLM과는 설계 철학이 다릅니다.

질문을 입력하시면 Choice(선택), Score(점수), Boolean(참/거짓) 형태의 답변을 드리겠습니다.

모든 질문을 병렬로 평가하고, 괄호 표기된 답변과 확률을 직접 반환한다. 따라서 생성된 텍스트를 앱 측에서 분석 및 검증하는 과정이 완전히 사라진다.

TypeSafe사의 공식 발표에 따르면, 워크플로우 평가에서 LLM 대비 최대 193.6배 더 빠르고, 444.6배 저렴하다는 보고입니다.

그리고 공식에서 제시한 용도가 바로 이것입니다.

> 
> 
> 행위 전 긴급성 및 위험 점수 측정
> 

이전에 제가 이메일 분류 자동화에 대해 작성한 바 있습니다. 규칙 기반으로 분류할 수 없는 것을 AI에게 “처리 필요 여부” 판단을 요청하는 구성입니다.

그 판단 부분 자체가 그것을 의미합니다. 전용 설계 모델이 빠르고 저렴하게 처리해 줍니다. 그렇게 하고 싶다는 마음은 충분히 이해합니다.

## 학습하지 마십시오에는 세 가지 층이 있습니다.

이제 본론입니다. 공식 문서를 읽고 정리하면 데이터 흐름에는 세 개의 독립적인 층이 있었습니다.

층 1: 게이트웨이 자체에서 보관하는

Vercel AI Gateway는 기본적으로 데이터 보존이 없습니다. 공식적으로 이렇게 명시되어 있습니다.

> 
> 
> AI 게이트웨이는 기본적으로 0 데이터 유지 방식을 사용하며, 요청 완료 후 프롬프트와 응답을 완전히 삭제합니다.
> 

FAQ에는 더욱 명확한 설명이 담겨 있습니다.

> 
> 
> AI 게이트웨이는 요청 내의 프롬프트나 응답을 로그에 기록하지 않고, 해당 내용은 요청 완료 후에 보관되지 않습니다.
> 

즉, 게이트웨이를 통과한 기록에는 내용이 남아 있지 않습니다. 이곳은 무료로 담보되어 있습니다.

2층: 제공업체가 학습에 활용하는가

disallowPromptTraining: true를 설정하면, 학습에 사용하지 않겠다는 계약을 Vercel과 맺은 프로바이더에만 연결됩니다.

이 또한 공식적으로 그렇게 됩니다.

> 
> 
> 프로ンプ트 데이터 기반 학습을 하지 않는 설정은 모든 AI 게이트웨이 사용자가 추가 요금 없이 이용할 수 있습니다.
> 

3층: 사업자가 보유하는

zeroDataRetention: true를 설정하면, 검증된 ZDR 계약을 가진 프로바이더에만 라우팅됩니다.

또한 양측의 관계가 명시되어 있습니다.

> 
> 
> ZDR은 학습을 사용하지 않는 상위 집합이다. 모든 ZDR 준수 제공업체는 학습을 수행하지 않지만, 학습을 수행하지 않는 모든 제공업체가 완전한 제로 데이터 유지(Zero Data Retention)를 제공하는 것은 아니다.
> 

시작했던 대화에서 “No Training”과 “ZDR” 모두에 대해 언급한 것은 이 3단계 구조를 정확하게 이해하고 있었기 때문입니다.

## 그리고 결정적인 한 문장

하지만 공식 문서에는 더 중요한 내용이 있었습니다. FAQ에서 인용한 내용입니다.

> 
> 
> Vercel 자체의 보관 정책은 제공 업체를 제약하지 않습니다.
> 

즉, 층 1(게이트웨이는 유지하지 않는다)이 보호되어 있어도, 그것은 층 2, 층 3을 아무것도 보장하지 않는다. 별도로 설정해야 한다. 이것이 그 이유이다.

버셀(Vercel) 자체도 자사의 보증 범위를 명확하게 구분하고 있습니다. 이는 진솔한 설명이라고 생각하지만, 동시에 간결하게 읽어보면 위험할 수 있다는 점도 있습니다.

Vercel을 통해 하기 때문에 안전하다는 주장과는 달리, ISP(인터넷 서비스 제공업체) 측에서는 별도로 지정이 필요하다는 의미입니다.

## 쉽게 놓치는 함정이 두 가지가 있습니다.

공식 문서를 읽어 들이면서 알아차리기 어려운 주의사항 두 가지를 발견했습니다.

BYOK에서는 학습 불사용 필터가 작동하지 않습니다.

자체 API 키를 사용하는 “BYOK(Bring Your Own Key)” 방식의 경우, 프롬프트 훈련 제한의 강제는 적용되지 않습니다.

공식 설명은 다음과 같습니다.

> 
> 
> BYOK(비와이오케이)을 사용하는 경우, 요청은 본인의 API 키, 설정, 본인과 프로바이더 간의 계약에 따라 결정되므로 이 필터는 적용되지 않습니다.
> 

이유적으로는 타당하다. 자신이 체결한 계약을 사용하는 것이므로, Vercel이 개입할 근거는 없다.

단지 “게이트웨이 경로를 이용하므로 괜찮다”고 생각하는 것은 허점을 만들 수 있습니다. BYOK의 경우, 제공업체와의 계약 내용을 직접 확인해야 합니다.

BYOK이 실패하여 게이트웨이의 시스템 인증에 복귀했을 경우 필터가 적용된다고 합니다.

프로ンプ트 캐시 처리는 제공업체에 따라 다릅니다.

비용을 절감하기 위해 프롬프트 캐시를 사용할 수 있습니다. 여기에는 이 점도 기록되어 있었습니다.

> 
> 
> AI 게이트웨이를 통해 프롬프트 캐시를 사용하는 경우, 캐시는 프로바이더 측에서 관리된다. 그 캐시가 ZDR(Zero Data Retention) 준수 여부는 프로바이더에 의해 결정된다.
> 

캐시는 어디에든 보관되어 있다는 의미입니다. 그렇게 이해하시면 됩니다. 이 곳에서의 처리 방식은 일률적이지 않습니다.

## 계약상의 보증과 기술적 보증은 완전히 상이한 개념입니다.

제가 가장 쓰고 싶은 부분입니다.

이제 그것 하나만을 믿어야 할 뿐입니다.

disallowPromptTraining 및 zeroDataRetention도, 수행하는 것은 루팅 제한이다. “학습하지 않는 계약을 체결한 통신사에만 전송”한다는 경로를 좁히는 것이다.

암호화되지 않았으며, 기술적으로도 해독할 수 없다는 의미입니다. 데이터는 평문으로 제공업체에 전달되며, 제공업체가 계약에 따라 의무를 이행한다는 전제하에 이루어집니다.

이는 잘못된 일이 아닙니다. 세상의 많은 시스템이 계약과 감사를 바탕으로 작동합니다. 클라우드에 위탁한 데이터나 결제 대행사에 전달한 카드 정보도 동일한 구조입니다.

단지, 본질을 흐리게 해서는 안 됩니다. 그렇게 생각합니다.

- 기술적 보증: 암호화, 네트워크 분리, 그리고 아무것도 전송하지 않기
- 계약상의 보증: 약관, DPA, 제3자 인증

PCI DSS의 관점에서 보면, 전자는 “카드 번호를 토큰화하여 자체적으로 보유하지 않고”, 후자는 “결제 대행 업체의 준수 증명을 연간 단위로 확인하는” 것에 해당합니다. 둘 다 필요하지만, 대체는 될 수 없습니다.

## 어떻게 판단할지

실무적인 기준으로 제가 생각하는 기준을 적어놓겠습니다.

데이터의 민감도에 따라 구분

모든 것을 동일한 기준으로 판단하지 마십시오.

- 공개 정보, 사내 일반 연락 → 게이트웨이 경로를 통해 충분합니다.
- 고객의 개인 정보, 인증 정보, 계약서는 상호 주고받지 않는 설계로 진행한다.
- 계약 조건을 확인한 후 판단

사전 분류의 경우, 이메일 분류는 “무엇이 적혀 있는지”를 전달해야 합니다. 받은 편지함에는 계약 내용, 고객 이름, 때로는 비밀번호 재설정 알림까지 섞여 들어오고, 분류 대상의 민감도를 사전에 구분하는 설계가 필요합니다.

“전달하지 않겠다”라는 표현을 최대한 활용하는 방안입니다.

이전에는 Spotify의 엔지니어가 토큰 소비를 90% 감축한 사례를 다뤘습니다. 큰 파일은 저렴한 모델에 읽어오게 하고, 요약만은 고가 모델에 전달하는 방식으로 설계되었습니다.

같은 방식은 개인 정보 보호에도 적용할 수 있습니다. 판단에 필요한 최소한의 정보만 전달합니다. 이메일 본문 전체가 아닌 발신 도메인과 제목의 분류 결과만으로 충분하다면 그렇게 하는 것이 좋습니다.

규칙 기반으로 분류되는 항목을 먼저 처리해두면, AI에 전달되는 양이 줄어듭니다.

설정을 “하려고” 하는 척 하지 마십시오.

BYOK의 경우처럼 설정한 대로 작동하지 않는 경우가 있습니다.

- 팀 전체 설정과 요청 단위 설정 간의 관계를 확인합니다. (Vercel에서는 OR 방식으로, 둘 중 하나라도 활성화되어 있으면 적용됩니다.)
- 실제 요청 시, 의도한 프로바이더에 접속했는지 확인합니다.
- 감사 로그를 기록합니다.

누가 판단했는지 기록했는지 기록하십시오.

이는 기술 문제라기보다는 운영의 문제입니다.

이 데이터를 이 서비스로 보내는 것이 타당한지 누가 결정했는지. 추후에 따라 그 결과를 추적할 수 있도록 기록해야 한다. 사고 발생 시, 이것이 없으면 검증할 수 없다.

## 믿을 수밖에 없다,는 것은 사고 정지가 아니다

마지막으로, 쓰고 싶습니다.

이제 그것을 믿을 수밖에 없죠. 하지만 저는 오히려 건강한 인식이라고 생각했습니다. 그렇게 생각했습니다.

기술적으로 검증할 수 없는 것을 “검증 불가능”이라고 정확하게 인식한 상태에서, 계약 조건을 확인하고, 위험을 인지하며 사용하는 것이다. 이는 생각 정지(무위)가 아닌, 위험을 감수하는 판단이다. 그것이 바로이다.

위험한 것은 “게이트웨이 경로이므로 안전하다”거나 “대기업이므로 괜찮다”는 식으로 검증되지 않은 것을 검증한 것처럼 생각하는 것입니다. 오히려 그것이 위험합니다.

40년 동안 이 업계에서 활동하면서, 사고가 발생하는 경우는 대부분 뒤늦게 일어났습니다.

## 이번 주말에 츠키시마 료가 진행하는 ‘가쿠보 료’의 ‘마법의 숲’ 북토크에 참여하게 되어 매우 기쁩니다. 츠키시마 료는 ‘마법의 숲’의 작가인 가쿠보 료의 지인으로, 작가와 직접 대화할 수 있는 특별한 기회입니다. 북토크는 11월 18일 토요일 오후 2시에 롯폰기 힐즈 갤러리에서 개최됩니다. 

참가 신청은 11월 16일까지 롯폰기 힐즈 갤러리 홈페이지를 통해 접수할 수 있습니다. 

이번 북토크는 ‘마법의 숲’에 대한 깊이 있는 이해를 돕고, 가쿠보 료 작가에 대한 궁금증을 해소하는 기회가 될 것입니다. 많은 관심과 참여 부탁드립니다.

- Vercel AI 게이트웨이를 통해 AI를 사용하는 경우, 데이터 처리는 3단계로 나뉩니다.
- 층1: 게이트웨이는 기본적으로 0 데이터 보관 상태를 유지하며, 프롬프트와 응답을 로그에 기록하지 않습니다.
- 2층: disallowPromptTraining으로, 학습을 사용하지 않는 계약을 체결한 제공업체에만 라우팅(전 사용자 무료)을 제공합니다.
- 3층: zeroDataRetention 방식으로 검증 완료된 ZDR 계약 프로바이더에만 라우팅한다.
- ZDR은 학습 불사용 상위 집합입니다. 하지만 학습 불사용이라고 해서 반드시 ZDR과 같지는 않습니다.
- 공식적으로 명시된 바에 따르면, Vercel 자체의 보관 정책은 제공 업체를 구속하지 않습니다.
- 떨어지는 함정 1: BYOK에서는 학습 부재 필터가 강제되지 않습니다.
- 떨어지는 함정 2: 프롬프트 캐시의 ZDR 준수는 제공업체에 따라 다름

ZDR(Zero Data Retention) 준수를 표방하는 프롬프트 캐시의 이용 시 중요한 점은 제공업체(ISP)에 따라 준수 수준이 크게 달라질 수 있다는 것입니다.

ZDR은 사용자의 프롬프트 기록을 저장하지 않는다는 개념이지만, 그 실현 방식에는 여러 가지 해석이 존재합니다. 예를 들어, 프롬프트를 완전히 삭제하는지, 아니면 단순히 접근 로그를 삭제하는지에 대한 차이입니다.

제공업체는 접근 로그를 삭제함으로써 ZDR에 준수한다고 주장할 수 있지만, 로그에 사용자의 프롬프트 내용이 기록되어 있기 때문에 완전한 기록 삭제라고 보기는 어렵습니다.

따라서 프롬프트 캐시를 이용할 때는 제공업체가 어떤 ZDR 준수 방법을 채택하고 있는지 사전에 확인하는 것이 중요합니다. 제공업체마다 ZDR 수준과 사용자의 개인 정보 보호 노력에 차이가 있으므로, 이용하는 서비스나 목적에 맞는 적절한 제공업체를 선택해야 합니다.
- 이것들은 모두 경로 제한입니다. 계약상의 보증입니다.

“학습하지 않겠습니다”라는 약속은 확인해 볼 가치가 있는 것임에도 불구하고 기술적인 보장은 아닌 것입니다.

그것을 정확하게 구분한 후, 무엇을 보내고 무엇을 보내지 않을지를 결정하는 것이 결국 핵심이라 생각합니다.

편의성은 실체입니다. 저 스스로 사용하는 방향을 고려하며 생각합니다. 다만, 무엇을 전달하고 있는지 파악한 후 사용하고 싶다는 생각이 들었습니다.

본 기사는 Vercel AI Gateway 공식 문서(보안 및 규정 준수, ZDR, 프롬프트 훈련 제한, FAQ) 및 Vercel Changelog를 기반으로 작성되었습니다. 인용은 저자의 일본어 번역입니다. 기사 상단의 내부 채팅 내용은 발언자와 소속을 가리고 논점을 재구성했습니다. 사양 및 플랜 요구 사항은 변경될 수 있으므로, 도입 전에 최신 공식 정보를 확인하십시오. 2026년 9월 18일 시점의 정보입니다.

AI 활용, 보안, Vercel, 생성 AI, 정보 시스템, PCI DSS, 컴플라이언스, AI 에이전트, 엔지니어, 데이터 보호

**출처:** [note 원문](https://note.com/tolove/n/n2ead5592ef4f)

*번역: Gemma 3(.44) 초벌 + 교정 83청크*

[원문 보기](https://note.com/tolove/n/n2ead5592ef4f) | 출처: note.com