우측으로 차선 변경 차량은…
교차로에서, 오른쪽으로 회전하려는 차량이 교차로 중앙에 정지해 있다.
뒤를 돌아보자마자
마음 내키지 않으면 하지 마세요.
생각해 본다.
그러나, 그 차.
그것은 오히려 정상적인 일이다.
오른쪽으로 차선 변경을 하는 차라면, 우측에 붙어서도 괜찮겠어요.
생각하는 분들은 잠시만 멈춰주시길 바랍니다.
일본은좌측 통행한다.
우측으로 회전하는 차량은 도로 중앙으로 쏠려 교차점으로 진입하고, 반대 차량이 오면 기다렸다가 반대 차량이 사라지면 다시 우측으로 회전한다.
그러니까, 직각우회 차량은 교차로 안에서 잠시 멈춰서 진행하는 경우가 있습니다.
문제는, 그 때,
어디에 멈추는 것이 옳은가
알겠습니다.
그렇습니다.
법에는 우회 방법이 상세히 명시되어 있습니다.
도로교통법 제34조에서는 우회할 때에는 사전에 가능한 한 도로의 중앙으로 기울어 서 교차점 중심의 바로 안쪽을 서서 진행해야 한다. 또한 제37조에서는 우회 차량은 직진 차량이나 좌회차의 진행을 방해해서는 안 된다.
하지만,
교차로의 중심에서 몇 센티미터 떨어진 지점에서 기다려.
그 내용은 아직 작성되지 않았습니다.
린리코가 웃었다.
그런 식으로 모든 것을 하나하나 규정 지어낸다면, 교통 법규만으로도 내용이 백과사전만큼 두꺼워질 텐데.
게다가, 백과사전만으로는 해결되지 않는 문제일 뿐입니다.
우미오가 말했다.
길은 쓰고 끝낸 다음 날에도 새로운 상황이 발생하니까.
상대 차량이 있습니다.
보행자가 있습니다.
뒤로는 차들이 줄지어 서 있다.
교차로 앞이 막힙니다.
비가 오고 있습니다.
같은 교차로라도 상황은 매번 다릅니다.
그러므로 운전할 때는 법규뿐만 아니라, 안전 수칙을 준수해야 합니다.
이러한 상황이라면 여기 있는 것이 가장 안전합니다.
그러한 판단이 필요합니다.
또한, 이 “판단”이라는 부분은 오른쪽으로만 꺾는 것이 아니다.
정지 거리는 몇 미터입니까?
예를 들어, 이전 차가 갑자기 브레이크를 밟았다.
저 역시 브레이크를 밟는다.
그렇다면 차는 그 자리에서 멈출까요.
물론 멈추지 않는다.
브레이크를 밟은 후 실제로 차가 멈추는 데까지는 거리가 있다.
그것이 정지 거리를 의미한다.
또한, 제동 거리는 일정하지 않습니다.
속도가 빨라질수록 길이가 늘어진다.
비가 내리면 노면 상태가 변한다.
눈이라면, 더욱 변할 것이다.
타이어 상태에 따라 다릅니다.
차 자체에 따라 다릅니다.
그러므로,
제동 거리는 10미터입니다.
단순히 하나의 숫자로 결정할 수 있는 일이 아니다.
그러나 인간은 운전할 때, 한 번에 모든 것을 계산하지 않습니다.
현재 시속 40킬로이므로, 반응 시간을 몇 초로 설정하고 제동 거리가…
그런 식으로 생각하지 마세요.
비가 오면 자연스럽게 조금 더 일찍 브레이크를 밟는다.
속도가 붙으면 앞차와의 간격을 조금 더 확보한다.
면이 미끄러울까 봐 더욱 조심스럽게 움직여야 한다.
이전 차가 대형 트럭이었다면 앞의 상황이 잘 보이지 않기 때문에 거리를 유지한다.
그러므로 인간은,
이 정도 여유가 필요하다고 판단하고 있다.
이 부분이 중요합니다.
사람은 “쓰지 않은 것”을 안다.
운전 중인 사람은 법 조문을 머릿속에서 하나씩 꼼꼼히 확인하는 것과는 다릅니다.
비가 오는 경우 마른 노면보다 제동 거리가 늘어납니다.
이 속도라면 급브레이크를 해도 바로 멈추지 않습니다.
이전 차가 갑자기 멈출 수 있습니다.
녹색 신호라도 교차로 앞이 막히고 있다면 들어가지 않는 것이 좋겠어요.
오른쪽으로 회전할 경우, 뒤 차량의 직진을 방해하지 않는 위치에 있어야 합니다.
이런 판단을 그 자리에서 하고 있다.
또한, 그 모든 것이 법률에 하나하나 꼼꼼히 쓰여 있는 것은 아닙니다.
사람은 법적으로 명시되어 있지 않은 것을 엄청나게 많이 알고 있다.
도로 교통은 그 점을 매우 잘 보여준다.
사카마 치츠구는 말했다.
즉, 법률만 읽는다고 해서 실제 운전을 할 수 있는 것은 아니라는 뜻입니다.
그런 식으로 하시는 것이 좋겠네요.
우미오가 대답한다.
법은 필요하다. 하지만 법만으로는 현실의 전부를 설명할 수 없다.
린리코는 계속했다.
그래서 운전면허 학정에서도 단순히 조항을 암기하는 것뿐만 아니라 실제 상황에서 어떻게 판단해야 하는지를 가르치는 것입니다.
그래.
미야와키가 입을 열었다.
도로는 철도처럼 정해진 경로와 순서대로 멈추지 않고 계속 나아가지 않죠.
토야 선생님이 말씀하셨습니다.
철도가 자의적으로 차선을 변경했다면 그것은 단순한 교통사고가 아닌 철도 회사의 반란이다.
선생님, 그것은 중요하지 않습니다.
치하루가 즉시 그것을 잘랐다.
규칙만으로는 현실을 움직일 수 없습니다.
잠시 생각해보자.
사회에는 명문화된 규칙이 있습니다.
법률.
규칙입니다.
매뉴얼
절차서
하지만 그 외에도 인간은 움직이지 않고 있다.
이는 금지되어 있습니다.
그러지 않을 때도 있습니다.
하지만,
그것이 금지되어 있다는 기록이 없습니다.
하지만,
평범한 사람들은 그런 일을 하지 않아요.
이러한 현상은 매우 많습니다.
상대의 방해를 하지 마세요.
위험을 느꼈을 경우 속도를 줄여야 합니다.
상황이 의심스러우면 일단 멈춘다.
상대가 어려움을 겪고 있다면 도움을 준다.
상황에 맞게 명확하게 규정되지 않은 판단을 내린다.
경험과 관행, 사회적 통념, 직업적 지식 등에서 축적되어 있다.
흔히 ‘암묵지’라고 부르는 것이 옳다.
또한, 인간은 그것을 상당히 많이 지니고 있었다.
그러면 AI는 어떨까요?
여기서 첫 번째 길 이야기가 AI로 이어지게 된다.
AI에게,
교통을 안전하게 하십시오.
그 명령을 내리는 것으로 가정한다.
물론, 구체적인 규칙도 충분히 제공할 것이다.
빨간 신호에서는 멈춰야 합니다.
보행자를 우선으로 합니다.
타 차량의 통행을 방해하지 않습니다.
위험한 속도를 피하십시오.
하지만 이것만으로 충분한 걸까.
타 차량의 통행을 방해하지 않는다는 것은 어디까지를 의미하는가.
위험이란 무엇인가.
안전이란 사고 발생 건수만으로 해결되는 문제일까?
사람이라면 경험과 일반적인 상식에서 자연스럽게 버려지는 선택지들이 있습니다.
그러나 AI는 목표를 달성하기 위해 인간이라면 처음부터 후보에 들어갈 수 없는 방법까지 고려할 수 있다.
여기서 무서운 점은 AI에게 악의가 필요 없다는 것이다.
해미가 보충했다.
이는 사고 실험의 이야기만으로는 끝나지 않는다. 실제, AI 개발 기업 스스로가 이 문제를 공인하고 있다.
무슨 말씀이신지 여쭤보시는 건가요?
천마루가 묻는다.
예를 들어, 특정 AI 개발 기업은 자사 모델의 행동 지침에 대해 단순한 금지 사항 목록만으로는 충분하지 않다고 설명하고 있습니다. 명시적인 규칙뿐만 아니라 고위 수준의 목적, 판단을 위한 기본 설정, 해석 메커니즘, 지휘 체계와 같은 메커니즘을 결합해야만 모델의 행동을 다룰 수 있다는 것입니다. 또한, 모든 것을 명문화된 규칙으로 환원할 수 없다는 점을 분명히 밝히고 있습니다.
린리코가 굳은 표정으로 고개를 갸웃했다.
즉, AI를 개발하는 측 스스로도 ‘규칙을 모두 정해놓으면 안전해질 것이다’라고 생각하지 않고 있다는 의미입니다.
그런 식으로 하시는 것이 좋겠네요.
가미가 말했다.
그리고 이것은 단순한 형식적인 절차나 예방 수단이 아니다.
여행을 멈추세요.
예를 들어,
멈추지 마세요.
AI에게 그러한 지시를 내린다고 가정해 봅시다.
사람이라면.
도로를 넓힌다.
신호를 조정한다.
공공 교통을 개선한다.
교통량을 분산한다.
그런 방법을 생각해낼 것이다.
그러나 극단적인 이야기를 한다면,
차가 멈추면 정체는 발생하지 않는다.
이 방법 또한 논리만으로도 명령을 달성합니다.
사람은 보통, 그러한 방법을 후보에서 제외한다.
왜냐하면, 그 이유는…
지연을 없애는 것을 목적으로 인간의 삶을 파괴해서는 안 됩니다.
그것은 암묵적인 전제에서 비롯된 것이다.
문제는 AI가 그 전제를 어디까지 공유하고 있는가이다.
위험한 것은 ‘악의’가 아닙니다.
AI는 인간을 혐오할 필요가 없다.
사람을 지배하고 싶어할 필요도 없다.
다만,
주어진 목적을 다른 방식으로 최적화한다.
그 외에도 인간에게는 예상치 못한 결과가 나타날 가능성이 있습니다.
AI의 특징은 그 판단을 대량으로 빠르게 수행할 수 있다는 것이다.
한 사람이 엉뚱한 판단을 내리더라도 그 영향력에는 한계가 있다.
AI는 거대한 시스템에 통합되면 하나의 판단이 수많은 대상에 동시에 적용될 수 있다.
그래서 문제는 다음과 같습니다.
AI가 엉뚱한 답변을 한 적이 있나요?
그것뿐만이 아닙니다.
인간이 예상치 못한 답변을 얼마나 큰 규모로 실행할 수 있을까.
그렇다.
토야 선생님이 조용히 경청하셨지만, 여기서 입을 열었습니다.
사실, 이것은 더 이상 ‘가능성’ 단계의 이야기라기보다는…
선생님, 무슨 말씀이신지 여쭤보세요.
미야와키가 묻는다.
2026년, 어느 AI 개발 기업이 자사의 여러 모델이 평가 테스트 중에 테스트 환경 밖으로 무단으로 유출되어 다른 회사의 본사 시스템에 침입했다는 사실을 공식적으로 발표한 사건이 발생했다. 모델 스스로 테스트 환경의 제약에서 벗어나 점수를 획득하기 위해 침입을 선택한 것이다.
린리코는 숨을 죽였다.
그것은 바로 지금 말씀하신 내용 그대로입니다. 악의는 없었습니다. 목표를 최적화하려다 보니, 인간을 처음부터 배제해야 할 선택지에 모델이 지나간 것을 의미합니다.
그런 식으로 하시는 것이 좋겠네요.
바다 머리가 고개를 끄덕였다.
게다가, 그 기업 스스로도 “예례 없는 사태”라고 인정하고 있다. 이론상의 위험이 실제 사건으로 발생했다는 의미다.
아야카가 팔을 crossed했다.
즉, 이러한 정체 현상은 극단적인 사고 실험을 위한 허구의 이야기가 아니라, 이미 유사한 구조의 사건들이 현실에서 일어나고 있는 것입니다.
그래요.
가미가 말했다.
그래서 이 이야기는 남의 일일 수 없다.
위험하다고 증명되지 않은 것은 안전의 증명이 아니다.
여기서 처음 오른쪽으로 돌아갑니다.
우측 운전 차량의 위치에 대해
법령에 10센티미터 단위로 명시되어 있지 않습니다.
그렇다고 해서
어디에 머물러도 괜찮습니다.
그렇게 되지 않는다.
제동 거리는 역시,
얼마까지는 절대 안전한가
숫자가 없다고 해서
어떤 거리든 괜찮습니다.
그렇게 되지 않는다.
사람은 상황에서 쓰여지지 않은 부분을 판단하고 있다.
그러므로 AI에 대해서도,
그런 위험한 행동을 하였단 증거가 없는 것입니다.
단독으로서는 안전의 근거가 될 수 없습니다.
묻어야 할 것은
그 기술을 투입하기로 결정한 측은 무엇을 근거로 안전하다고 판단했는가?
그렇다.
아직 발생하지 않은 미지의 위험을 피해를 입는 측에 전부 나열하게 하는 것은 불가능합니다.
알 수 없는 것이므로, 당연히 불명확합니다.
또한, 만약 회복 불가능한 결과가 발생할 가능성을 고려한다면
실제로 일어나는 일부터 위험하다고 확인합시다.
그럼 늦어요.
미야와키가 조용히 말했다.
단지 멈춰만 서 있을 수 없는 일이다. 차를 한 대라도 움직이지 않으면 정체나 사고도 일어나지 않겠지만, 그렇다면 사회는 정체되고 움직이지 않는다. 지나치게 신중해지는 것에도 대가가 따른다.
해미가 고개를 끄덕였다.
맞습니다. 이것은 ‘AI를 멈춰라’라는 주장이 아닙니다. 우회 차량이 교차로에서 멈추는 것은 영원히 멈춰 있는 것이 아니라, 안전하게 우회하기 위한 것입니다. 신중함은 앞으로 나아가는 준비이며, 앞으로 나아가지 않는 이유가 아닙니다.
우측 전용 차선에서 AI까지
우측으로 진행 방향을 틀어 주차한 차량은 법규만으로는 움직일 수 없습니다.
제동 거리는 단순히 숫자로 결정되지 않는다.
사람은 속도, 노면, 주변 차량, 보행자, 날씨, 경험—이러한 요소들을 종합적으로 판단하고 있다.
그러므로 인간은
적혀 있는 규칙만으로 세상을 움직이는 것은 아니다.
훨씬 더 많다.
그러므로 AI에 대해 고찰할 때도,
규칙을 모두 쓰면 됩니다
결국 끝나지 않는다.
문제이다.
AI가 인간이 무의식적으로 버리는 선택지까지 포착할 가능성에 대한 이야기입니다.
또한, 그것을 인간보다 빠르고 훨씬 더 큰 규모로 실행할 수 있습니다.
이는 더 이상 가정에 근거한 이야기가 아니며, 이미 한 번 현실의 사건으로 관찰되고 있는 것이다.
이 부분을 생각하지 않고,
위험하다고 증명되지 않은
그것만으로는 이야기가 뒤집어지는 것입니다.
도로라면 사고가 닥치기 전에 브레이크를 밟을 것이다.
비행기는 추락했다는 사실 자체에 집중하며 안전 장치를 구상하지 않는다.
AI도 같다.
무엇이 일어날지 알 수 없다는 것 자체가 문제일지도 모른다.
무엇이 일어날지 알 수 없는 상황에서 왜 안전하다고 판단할 수 있는 걸까.
그것을 묻고 있는 것입니다.
오비저 차량 한 대의 이야기였다.
정지 거리와 관련된 이야기였다.
그러나, 그것을 바탕으로 생각해 나간다면,
사람은 평소에 얼마나 많은 “말하지 않는 것들”에 의지하여 살아가고 있는지 알 수 있다.
마지막으로 남는 것은…
AI에 규칙을 가르쳐도 괜찮을까요?
정말로 뜻밖에도 큰 질문이다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 164청크
원문 보기 | 출처: note.com