# 웨이모 공동CEO가 말하는 물리AI의 “능하다”와 “맡길 수 있다”의 차이

> https://bookfactory.kr/c/ai-tech/8996
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-08-08T05:38:05.582Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/300848843/rectangle_large_type_2_eda5ec1dd9954373b0bb4e715a791891.png?width=1280)

드미트리 돌고프가 아이들과 함께 Waymo를 타고 있을 때, 교차로에서 두 대의 차량이 앞쪽으로 돌진하여 끼어들려고 했습니다.

웨이모는 갑작스러운 움직임 없이, 경로를 조정하여 충돌을 피합니다.

뒷좌석에서는 아이들이 다른 일에 몰두하고 있었습니다.

위험이 다가오고, 차가 그것을 처리한 것에 대해 아무도 알아차리지 못했다.

20년 가까이 자율주행 기술에 매달려 온 돌고프에게는 그것은 기술의 가치가 응축된 순간이었습니다.

> 
> 
> 최고의 AI 경험은 아무 일도 일어나지 않는 듯이 보이는 것이었다.
> 

현재 Waymo의 공동 CEO를 맡고 있는 그는 Y Combinator 강연에서 물리 AI를 안전하게 사회에 도입하기 위한 7가지 교훈을 이야기하고 있습니다.

하지만 그 중심에는 자율 주행 기능 소개가 아닌 것이다.

한 번 움직이는 AI를 사회가 맡을 수 있는 제품으로 바꾸기 위해 무엇이 필요한가.

그 답은 화려한 시위 속이 아닌, 그 이후 15년 동안의 일에 있었습니다.

## 子どもたちは、割り込みに気づかなかった

화면 안에서 움직이는 AI라면 잘못된 답변을 다시 생성할 수 있습니다.

하지만 고속도로를 달리는 차는 답을 수정하는 동안에도 계속 나아갑니다.

시속 100킬로 이상의 차량은 1초에 약 30미터를 이동합니다.

추론 지연이나 판단 오류는 토큰이 아닌 인명과 연관됩니다.

### 네 개의 줄은 마을로 나가는 길에서 시작된다.

돌고프는 디지털 AI와 물리 AI 사이에 네 가지의 격차가 있다고 정리합니다.

오류 비용, 응답 속도, 학습 데이터 및 배포 전 검증입니다.

인터넷에는 사람들이 작성하고 분류한 방대한 정보가 있습니다.

반면에 현실 세계에는 어떤 도로 상황도 기록된 “물리적 세계 버전 인터넷”이 존재하지 않습니다.

사용자에게 사용해 보도록 하고, 실패를 통해 배우며 품질을 향상시키는 방법은 그대로 옮겨서는 안 됩니다.

안전성이 우려되는 제품의 경우, 최초의 자율주행차를 시내에 낼 때부터 높은 신뢰가 필요합니다.

그러나 연구실 안에서만 완성시키는 것이 불가능합니다.

실제 거리를 통해서만 얻을 수 있는 경험이 있기 때문입니다.

충분히 확인하는 데까지는 지연될 수 있지만, 그렇치 않으면 충분히 배울 수 없다.

자동 운전의 어려움은 이 모순을 안고서 앞으로 나아가는 데 있습니다.

그러자 돌고프가 말하는 “아무것도 일어나지 않았다”는 것은 AI가 눈에 띄지 않음을 넘어선 미학이다.

위험을 예측하고, 제한된 시간 안에 판단하며, 승객과 주변 사람들에게 부담을 느끼지 않도록 처리한다.

보이지 않는 평온은 우연이 아닌 검증된 작업의 결과입니다.

## 2010년, 자율주행은 ‘해결’된 것으로 여겨졌습니다.

Google의 자율주행 프로젝트가 시작된 시기, 팀은 두 가지 목표를 제시했습니다.

하나로는 자동 운전 모드에서 총 10만 마일을 주행하는 것입니다.

또 다른 일은 베이 지역의 다양한 조건을 포함한 100마일 루트를 10개 완주하는 것이었습니다.

목표 달성 조건은 어떠한 경로를 선택하더라도 인간의 개입 없이 완주하는 것이었습니다.

그때의 팀은 약 12명이었다.

CNN과 Transformer가 AI의 풍경을 바꾸기 전의 일입니다.

그래도, 약 18개월 안에 둘 다 달성할 수 있을 것이다.

낮과 밤, 일반 도로와 고속도로, 보행자 및 자전거, 신호등, 공사 구간까지 모두 처리할 수 있었습니다.

한 번의 시위로 보았을 때, 필요한 능력은 2010년 시점에서 이미 갖추어져 있었다고 돌고프는 되돌아보았습니다.

그것은 ‘풀린’ 듯한, 자연스러운 성공이다.

AI 시제품이 처음으로 목표대로 움직일 때, 우리도 같은 착각에 빠지기 쉬워.

표준적인 청구서를 한 장을 읽어내고, 사내 문서에서 정확한 답변이 돌아왔으며, 회의에서 보여준 에이전트가 지시대로 조작을 완료한 순간들입니다.

할 수 있는 일이 확인되면, 그것의 연장선상에 제품이 있는 것처럼 보입니다.

### 맛보기 시식이 성공했음에도 불구하고, 가게는 아직 문을 열지 않는다.

요리에 비유하자면 한 접시의 시음 요리를 맛있게 만든 순간입니다.

하지만 가게 문을 열면 매일 같은 품질로 계속해서 내놓아야 합니다.

더불어 품절, 혼잡, 알레르기, 온도 관리까지 모두 책임져야 합니다.

시식의 성공은 요리의 가능성을 증명합니다.

하지만 그 가게의 신뢰를 증명하지는 않습니다.

웨이모(Waymo)도, 거기에서 “할 수 있다”와 “맡길 수 있다”가 다른 문제라는 것을 깨달았습니다.

10개의 길을 한 번에 달려 완료하는 것과, 차고는 아무도 이용하지 않는다는 것을 모르는 사람이 일상적으로 사용하는 것은 다릅니다.

두 개의 사이에는 능력의 추가만으로는 채워지지 않는 간격이 있었습니다.

할 수 있음을 증명하는 것과는 별개로, 맡길 수 있는지를 증명하지는 못한다.

팀은 기능을 지속적으로 추가하는 지점에서 벗어났습니다.

사회에 나오기 위해 필요한 신뢰성에서 출발하여 기술을 역으로 계산하는 문제에 다시 접근합니다.

그 선택의 길이가 다음 숫자로 나타난다.

## 18개월의 데모 기간 동안 15년의 제품이 지속되었다.

![画像](https://assets.st-note.com/img/1786023887-3mB2XszfiLJbu6Q0ZOVW5lSy.png?width=1200)

첫 번째 시범 운행부터 승객을 운송하는 무인 서비스를 시작하는 데 약 10년이 걸렸습니다.

그렇게 하니 주간 조회수가 50만 회 규모로 확장되는 데 5년이 더 소요되었습니다.

> 
> 
> 하지만 개발 기간은 18개월, 제품에는 약 15년이 소요되었다.
> 

이 시간차가 연설에서 가장 크게 와닿습니다.

처음의 성공이 순식간에 찾아와 그 이후 15년이 정체처럼 보였을 수도 있습니다.

그러나 돌고프는 움직이는 시위가 “일의 1% 정도”에 불과하다고 말합니다.

나머지 99%는 실패를 찾아 재현하고 수정했다는 것을 확인하는 작업이었습니다.

더 나아가, 그 결과를 사회에 설명할 수 있는 상태로 만들어야 합니다.

그 축적은 어느 지점에서 속도가 변합니다.

Waymo는 최초의 1억 마일 주행에 약 15년이 걸렸습니다.

하지만 다음 1억 마일은 약 7개월 동안 주행했다는 설명입니다.

무인 운행의 시작부터 4개 도시까지 확대하는 데 약 8년이 걸렸습니다.

한편, 2026년에는 4개 도시에서 같은 날 서비스를 시작했습니다.

15년은 단순한 기다림의 시간이 아니었습니다.

이동 데이터, 운영 절차, 평가 방법, 안전성 증거가 다음 전개를 가속화하는 기반이 되었습니다.

저는 여기 AI 제품을 평가할 때 놓치는 부분이 있을 수 있다고 생각합니다.

우리는 모델의 지혜와 데모의 놀라움을 발전의 속도로 간주합니다.

하지만 제품화 속도를 높이는 것은 성공적인 단발성 이벤트가 아닙니다.

실수를 발견하고, 반복하고, 고쳤다는 것을 확인하는 시스템이 다음 한 번을 저렴하게 만듭니다.

데모와 제품의 차이는 화면에 나타나는 기능의 차이보다 화면에 드러나지 않는 학습 속도의 차이일 수 있습니다.

## 다음 ‘9’은 같은 방식으로 늘릴 수 없었다.

15년을 같은 작업의 반복에 사용하지 않으려면 돌고프는 필요한 신뢰성을 먼저 확립하도록 촉구합니다.

그는 “9의 계단”이라는 사고방식을 사용하는 것입니다.

90%에서 99%로, 99%에서 99.9%로 올라가는 계단입니다.

소수가 하나라도 늘어날 때마다 남는 실수는 10분의 1로 줄어듭니다.

하지만 그 한 자릿수를 얻기 위한 노력은 대략 10배로 늘어납니다.

단순히 같은 개선을 오래 지속한다고 해서 목표에 도달하는 것은 아닙니다.

- 처음 9개는 기본 기능으로 얻을 수 있을지도 모릅니다.
- 다음 9번에는 센서 조합이 필요할 수 있습니다.
- 그 다음에는 새로운 학습 방법이나 시뮬레이터, 평가 기반이 필요할 수 있습니다.

필요한 신뢰성을 먼저 확립해야 중간에 늘어짐 없이 견고한 기술로 남을 수 있다.

돌고프가 강조하는 것은 바로 그 위험입니다.

주간 400만 마일을 넘게 달린다면, 100만 마일 단위의 드문 일도 일상이 됩니다.

데모에서는 무시할 수 있는 긴 裾野가, 규모를 넓히는 순간 제품 그 자체로 나타나는 것입니다.

이는 자율 주행과 관련된 이야기인지가 아닙니다.

청구서 AI는 표준적인 한 장을 읽을 수만으로는 부족합니다.

수필이나 중복 청구, 신뢰도가 낮은 건을 담당자에게 환수 가능 여부가 제품화의 기준으로 나뉩니다.

물론, 사내 도구에도 자동운전과 동일한 수의 ‘9’가 필요한 것은 아닙니다.

실패하더라도 다시 할 수 있는 일과 인명에 관련된 일에서는 필요한 품질이 다릅니다.

안전 요구 사항의 자릿수 자체는 옮겨야 할 대상이 아닙니다.

필요한 자릿수를 먼저 세는, 그런 순서입니다.

모델을 선택한 후 평가를 고려하는 것은 늦었을 수 있다.

- 어떤 상황에서 맡길 수 있는지 여쭤보시나요?
- 어떤 실패를 사람에게 되돌려 놓을 수 있는가
- 실패가 1,000회에 한 번에도, 이용 규모에서는 매일 발생하지 않는가

돌고프의 15년은 AI 도입에 대한 첫 질문을 역전시킨다.

무엇을 할 수 있는지보다 어느 정도까지는 위임할 수 있는지 묻는 것입니다.

## 한 대의 자동차를 위해 세 가지 시스템을 만들었다.

![画像](https://assets.st-note.com/img/1786023887-rx2iOpBhWgzNVlj6XLSFEMRc.png?width=1200)

필요한 자릿수를 정한 후, 팀은 현실의 도로에서 드물게 일어나는 예상치 못한 실패를 기다리는 방식을 벗어나기로 합니다.

돌고프가 제시하는 답은 단 하나의 AI를 만들어 자동차를 움직이는 것만이 아니라는 것입니다.

도르고프는 Waymo의 AI 생태계를 에이전트, 시뮬레이터, 비평가라는 세 가지 구성 요소로 나눕니다.

- 에이전트는 주변을 인식하고 다음 행동을 결정한다.
- 시뮬레이터는 행동에 따라 세계가 어떻게 변하는지를 생성한다.
- 비평가들은 그 결과를 평가하고 개선안을 제시했다.

실제 주행에서 드문 상황이 발견되면 시뮬레이터는 수천 개의 파생 상황을 만들어냅니다.

날씨나 다른 차량의 움직임, 도로 상황이 변하는 가운데, 같은 실수의 반복을 피하기 위해 주변을 넓게 수색하는 것입니다.

에이전트가 판단하고, 그 결과를 비평가가 평가합니다.

현실에서 한 번밖에 얻을 수 없었던 경험을 훈련과 검증을 위해 수없이 다시 활용할 수 있게 됩니다.

### 실패를 기다리지 말고, 먼저 만들어라.

웨이모는 2026년, 구글 딥마인드의 제니 3을 자율주행에 적합하도록 맞춘 “웨이모 월드 모델”을 공개했습니다.

이 모델은 영상뿐만 아니라 LiDAR 정보를 생성합니다.

그리고 자동차 조작에 따라 세계가 변화하는 시뮬레이션을 만들겠습니다.

중요한 것은 깨끗한 도로 영상을 만드는 것이 아닙니다.

아직 현실에서 경험해보지 못한 실패를 배포 전 테스트에 포함하는 것입니다.

여기에서 세 번째 구성 요소, 비평가의 가치가 작용합니다.

생성 가능한 장면이 늘어난다고 해도, 무엇이 안전하다고 규정하는지가 모호하다면 개선했는지 여부를 판단할 수 없습니다.

채점 기준이 없는 연습 문제를 늘리는 것 역시 실력이 향상되었는지 알 수 없는 것과 같습니다.

돌고프는 최신 모델에 대한 접근이 “참여 조건”에 가까워지고 있다고 말합니다.

그 이후에는 평가와 지표가 전략적 영역이 됩니다.

모델이나 논문이 공유되어도 오랜 운영 기간 동안 축적된 실패 사례 분류는 다운로드할 수 없습니다.

현실을 반영하는 테스트와 배포 여부를 결정하는 기준 또한 다운로드만으로는 얻을 수 없습니다.

한 대의 자동차를 현명하게 만들기 위해 웨이모는 그 자동차를 훈련시키는 세계까지 만들었습니다.

또한, 자동차 작업에 대한 평가 기준을 마련했습니다.

제품화의 남은 99%는 AI의 주변에 학습을 계속해도 시스템이 멈추지 않는 환경을 구축하는 것이었다는 의미입니다.

## 아무에게도 눈치채이지 못는 일상이, 결국 마지막으로 남았네.

내부에는 비판적인 시각을 만드는 것만으로는 사회의 신뢰를 평가할 수 없다.

돌고프는 평가와 함께 실제 운영에서 얻은 공개 가능한 증거를 중시합니다.

그 증거는 기업의 외부에서도 측정되어야 합니다.

### 94%와 68%는 같은 물건이 아닙니다.

여기서는 서로 비슷해 보이지만 측정 방식이 다른 두 숫자를 분리하여 읽어야 합니다.

- Waymo의 자체 집계: 심각한 부상 동반 충돌 94% 감소
- IIHS의 독립 연구 결과, 경찰 보고 대상 사고에서의 연루 비율이 68% 감소했다.

Waymo의 숫자는 2026년 3월까지의 2억 2060만 마일의 자율 주행 데이터를 기반으로 합니다.

동일 지역 및 주행 거리를 가진 운전자의 운전 실적을 비교한 자체 집계 자료입니다.

돌고프가 강연에서 “약 17배”라고 표현한 것은 이전에 언급한 숫자였습니다.

한편, 미국 도로 안전 보험 협회(IIHS)의 수치는 다른 기간과 사고 정의를 사용한 독립 연구 결과에서 비롯된 것입니다.

동시에 연구자들은 각 사를 동일한 조건에서 비교할 수 있는 전국적인 데이터 제도가 부족하다고 지적하고 있습니다.

94%와 68%는 같은 의미의 숫자 차이 숫자가 아닙니다.

대상 또한 정의 또한 다르므로 두 숫자를 더할 수 없습니다.

IIHS 결과는 돌고프가 쌓아온 평가의 논리를 기업 외부에서 시험하는 보조선입니다.

안전성에 대한 주장을 신뢰로 전환하기 위해서는, 자사의 평가만으로 닫혀 있는 상태에 머물러서는 안 됩니다.

정의와 데이터를 외부로 열어, 다양한 측정에도 견딜 수 있어야 합니다.

이는 능력을 입증하는 데 목적이 있으며, 평가 기준은 그 능력을 위임할 수 있는 조건을 규정하고, 운영 증거는 그 조건이 현실에서도 지켜진 것을 보여줍니다.

이 세 가지가 연결되어 마침내 시작의 고요한 회피가 우연이 아닌 현실이 된다.

돌고프의 이야기를 듣고, 저는 AI 제품의 완성도를 보여주는 것이 조금 다르게 느껴지게 되었습니다.

완성은 기능이 드러나는 순간이 아닙니다.

예외를 처리하고, 위험을 피하며, 필요한 때에만 사람에게 도움을 요청할 수 있는 상태입니다.

15년이라는 시간을 축적한 것은, 사용자의 부담을 최소화하여 몇 초 안에 압축됩니다.

제품이란 데모에서 보았던 가능성을 아무도 알아채지 못한 안심으로 바꾸는 일이라고 생각합니다.

아이들은 끼어듦에 눈치채지 못했다.

그것이 다행이었습니다.

그 몇 초 동안의 시간 뒤에는 센서, 세계 모델, 평가 기반, 그리고 2억 마일이 넘는 운영 증거가 있었습니다.

당신의 현장에서는, 움직이는 시위가 끝난 뒤, 어떤 “보이지 않는 일”이 남아 있습니까?

### 참고한 정보에 대하여

본 기사는 Y 콤비네이터에서 공개한 드미트리 돌고프의 강연을 중심으로, 저자의 시각에서 재구성되었습니다.

AI를 “할 수 있다”에서 “맡길 수 있다”로 바꾸는 이야기를 앞으로도 계속 지켜볼 것입니다.

계속 이야기가 궁금하시다면 팔로우 부탁드립니다.

#인공지능 #웨이모 #자율주행 #AI에이전트

**출처:** [note 원문](https://note.com/humble_jacana238/n/n668b2a5bc6d3)

*번역: Gemma 3(.44) 초벌 + 교정 99청크*

[원문 보기](https://note.com/humble_jacana238/n/n668b2a5bc6d3) | 출처: note.com