# 알토만 교수의 “불완전한 모델을 제시하는 것이 안전하다” 이론

> https://bookfactory.kr/c/ai-tech/11331
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-12T09:02:09.150Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/306770540/rectangle_large_type_2_412aa06b94aa4e0c879121f9c1e7439f.jpeg?width=1280)

최근, 알토만 씨와 Anthropic의 사상적 대립에 대해 기사를 썼다.

그와 관련된 다른 보도를 다루고 싶다.

## 제 생각에 알아두면 좋을 부분만 설명해 드리겠습니다.

### AI는 제품으로서 실패하고 있습니다.

알토만 씨는 현재 AI가 제품적으로 실패하고 있다고 보고 있습니다.

> 
> 
> 알토만은 코덱스가 있음에도 불구하고 여전히 이메일을 스크롤하거나 할 일 목록을 관리하는 등 구식한 방법으로 컴퓨터를 사용한다는 사실이 자신 안에서 가장 큰 심리적 모순이라고 인정했습니다. 기술과 인간과의 대화 형식(인터페이스) 측면에서 AI가 아직 ‘아이폰과 같은 혁신적인 순간’을 맞이하지 못하는 것은 거의 제품의 실패라고 밝혔습니다.
> 

그 역시 AI를 제대로 활용하지 못하고 있음을 인정하면서도 “아이폰이 ‘휴대폰의 형태’뿐만 아니라 삶까지 바꾸는 듯한 변화를, AI는 아직 이루어내지 못했다고 생각한다”라고 말하고 있습니다. 이 상황을 지칭하며 “제품의 실패”라는 표현을 사용하고 있군요.

플랫폼을 지향하는 자세를 보여주면서 대화와 코딩을 하나의 UI, 하나의 API로 통합하여 여기서 모든 솔루션을 제공하는 형태로 나아가고 있습니다.

참고로, 실패 원인에 대해서는,

> 
> 
> OpenAI를 포함한 AI 업계는 AI의 장점을 설명하고 공포감을 완화하기 위한 노력을 충분히 기울여 오지 않았다고 지적했습니다. 많은 개발자들이 파멸적인 경쟁을 앞당길 수 있다는 점을 외치며 경쟁을 진행하는 현 상황을 비판하고 있습니다.
> 

그들은 그렇게 말하고 있다. 이 문제에 대해서는 다른 미디어에서도 Anthropic에 대한 의뢰로 해석되고 있다는 반응이 있다.

인프라에 투자에 집중하느라 UI/UX 혁신을 제대로 이루지 못했기 때문에 아이폰이 될 수 없는 건 아닌가요?

하지만, OpenAI가 ChatGPT를 출시했을 때 세계를 바꿨기 때문에, 그것은 어느 면에서는 성과라고 할 수 있지 않겠어!

### 불완전한 모델을 세계에 제공하는 것이 안전으로 가는 길이다.

여기서 내가 계속 신경 쓰이는 부분입니다.

FAA(미국 연방항공국)의 사고 보고 문화를 모델로 삼아 “불완전한 모델을 세계에 제공함으로써 오히려 예상보다 훨씬 빠른 인공지능 안전 기술 발전을 이끌어냈다”라고 말하고 있다.

FAA(미국 연방항공청)의 문화 방식을 요약하면 “실패는 숨기지 않고 공개하며, 무엇보다 실지에서의 데이터를 피드백하여 안전을 확보하는 것”입니다.

그러므로,

앤트로픽: “비행기는 완벽한 안전 점검이 완료될 때까지 이륙하지 마라 (사전 검증파)”
오픈AI (알토만): “비행하면서 추락 원인을 찾아 개선하라. 출시하지 않으면 안전해지지 않는다 (반복 배포파)”

마치 그런 느낌이야.

## 제 마음을

하지만 이 생각에는 저에게 의문이 있습니다. 왜냐하면 FAA와 AI는 다르니까요.

말해 볼까요.

평범한 사람 1억 명에게 비행기를 운전하게 하고, 어디에서 추락했는지, 어떻게 납치되었는지의 데이터를 수집하여 다음 버전의 자동 조종 장치를 더 똑똑하게 만들어보자!

그런 느낌이 아니겠어?

비행기 기체 자체도 안전 점검이 완료될 때까지 승객을 탑승시키지 않는 것은, 위험성이 있을 수 있다는 점을 고려한 것이다. 비행기 업계의 태도는 오히려 Anthropic 측에 가깝고, FAA의 운영 부분만이 반복되는 경향이 있다. 그 운영 부분의 투명성 역시 Anthropic 측이 숨기지 않으며 큰 차이는 없는 것 같다.

공개와 투명성을 그렇게 중시한다면, 오픈 소스 소프트웨어(OSS)로 전환하는 것이 옳겠다. 폐쇄적인 개발 및 운영 방식을 택한다는 것 자체가 Anthropic과 완전히 동일하다는 의미다.

잘 모르겠지만, 알토만 씨의 사고 회로와 ChatGPT의 논리적인 면에서 공통점을 발견한 것 같습니다!

## 다음 소스 및 Gemini 님의 략상 요약

주의: 아래 데이터는 Dealroom.co에서 제공한 정보에 기반합니다.

제공된 기사(2026년 8월 데이비드 센라氏의 샘 알토먼 CEO 인터뷰)의 주요 내용을 요약하고 설명합니다.

- OpenAI는 “제품 기업”이 아닌 “플랫폼 기업”을 지향합니다. 인터페이스와 API를 통합하여 모든 가격대에서 AI를 제공하고, 100만 명 이상의 기업과 80억 명의 사람들이 그 안에서 시스템을 구축하는 환경을 만들고자 합니다.
- 컴퓨팅 및 연구 자원(컴퓨팅과 연구)에 집중형 범용 인공지능(AGI)을 위해 컴퓨팅 자원과 연구를 최우선으로 활용하기로 하고, 높은 평가를 받은 영상 생성 AI “Sora”나 웹 브라우저 “Atlas”와 같은 개별 제품 개발을 중단했습니다. 자체 칩 개발 및 데이터 센터 건설에도 집중하고 있습니다.
- 사회의 시장 변화와 AI의 “아이폰적 순간” GPT-4 출시 시점(2023년)의 예상보다 경제와 기존 소프트웨어의 전환 속도는 완만하다고 인정하고 있습니다. 기술적인 요소는 갖추고 있는 모형이지만, 아직 스마트폰에서 아이폰과 같은 “인터페이스의 파괴적 혁신”에는 이르지 못했으며, 알토만 스스로도 PC를 기존과 같이 사용하는 것이 현재의 상황입니다.
- 연구 접근 방식과 안전성·외교적 소통 연구 전략: 스타트업 투자와 유사하게 “멱乗法則(거듭제곱 법칙)”을 따르며 최대 효과를 내는 연구에 집중합니다. 안전성: 기상천외한 논리라기보다는 불완전한 모델이라도 사회에 제공하면서 개선을 거듭하는 “반복적 배포(Iterative Deployment)”가 안전성을 높인다고 주장합니다. 가장 큰 우려는 “통제 불능”과 “권력 집중”입니다. 사회적 설명력 부족: AI 업계가 불안감을 조성하는 데만 집중하고 있으며, AI로 인해 소규모 비즈니스 창업 열풍이 일어날 것으로 예측합니다.

**출처:** [note 원문](https://note.com/kubinashi_ai/n/n560c807c070a)

*번역: Gemma 3(.44) 초벌 + 교정 20청크*

[원문 보기](https://note.com/kubinashi_ai/n/n560c807c070a) | 출처: note.com