# 손정의 회장의 AI 경고, 추진파의 오판이 불러온 결과

> https://bookfactory.kr/board/ai-tech/20593
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-10T05:09:29.931Z

---

소프트뱅크 손정의 회장이 AI 안전성에 경고한 내용이다. 옹호론자들의 발언을 디자인 현장에서 어떻게 받아들일지에 대해 고민했다.

## ## 2023년 11월 27일 본문 청크

오늘도 감사합니다!

지난번 업데이트 이후, 여러분의 관심과 참여에 깊이 감사드립니다. 특히, ‘아스트랄’의 새로운 챕터에 대한 반응이 뜨거웠던 만큼, 이번 업데이트에서는 더욱 풍성한 콘텐츠를 준비했습니다.

**새로운 챕터: ‘심연의 속삭임’**

이번 챕터에서는 주인공 카이토가 더욱 깊은 심연 속으로 파고들면서, 그가 마주하게 되는 기괴한 존재들과 숨겨진 진실에 대한 이야기가 펼쳐집니다. 이전까지의 단순한 괴담을 넘어, 인간의 심연과 욕망을 탐구하는 심리적인 요소가 강화되었습니다. 특히, 카이토의 불안정한 정신 상태와 그로 인한 환각, 망상 등이 챕터 전체를 관통하며 긴장감을 극대화합니다.

**새로운 등장인물: 루나**

카이토를 돕고, 그의 정신을 지탱하는 역할을 하는 루나가 등장합니다. 루나는 뛰어난 직관력과 냉철한 판단력을 지닌 젊은 여성으로, 카이토의 어두운 면을 꿰뚫어 보고 그를 현실로 되돌리려 노력합니다. 루나의 존재는 카이토에게 희망과 동시에 절망을 안겨주며, 독자들에게도 깊은 질문을 던집니다.

**새로운 아이템: ‘심연의 눈물’**

‘심연의 속삭임’ 챕터에서 카이토는 ‘심연의 눈물’이라는 강력한 아이템을 얻게 됩니다. ‘심연의 눈물’은 심연의 존재와 소통할 수 있는 능력을 부여하며, 동시에 카이토의 정신을 더욱 불안정하게 만드는 부작용을 일으킵니다. 이 아이템은 챕터의 결말을 결정짓는 중요한 요소로 작용하며, 앞으로의 이야기에 대한 궁금증을 증폭시킵니다.

**독자 여러분과의 소통**

저희는 여러분의 의견을 소중하게 생각합니다. ‘아스트랄’에 대한 여러분의 생각, 질문, 제안 등을 댓글이나 커뮤니티 채널을 통해 자유롭게 공유해주시기 바랍니다. 여러분의 참여가 ‘아스트랄’의 완성도를 높이는 데 큰 도움이 될 것입니다.

다음 업데이트에서는 더욱 흥미진진하고 새로운 이야기로 여러분을 찾아뵙겠습니다. 감사합니다!

- 손정의 회장이 AI에 경고하고 있습니다. 무슨 일이 일어났나.
- 추진파의 경고에 제가 현실을 느낀 이유는
- AI 안전성, 현장에서 생각해야 할 3가지 “혹은”
- 오늘도 독서를 하며 시간을 보냈습니다. 최근 독서에 빠져 있는 책은 야마구치 하루키의 ‘다시 꿈꾸는 시간’입니다.

이 책은 주인공이 여러 번 죽고 다시 살아나는 과정에서 삶의 의미를 되돌아보게 하는 이야기입니다. 꿈과 현실의 경계가 모호해지는 듯한 신비로운 세계관이 매력적이며, 여러 번 다시 읽고 싶어지는 작품입니다.

특히 기억에 남는 부분은 주인공이 죽은 후 나타나는 ‘다른 자신’과의 대화입니다. 이는 저 자신을 돌아보는 것이 얼마나 중요한지를 깨닫게 해주는 깊은 메시지를 담고 있는 것 같습니다.

이 책을 읽고 다시 한번 제 삶을 돌아보는 좋은 기회가 되었습니다. 독서는 저에게 삶을 풍요롭게 해주는 소중한 시간입니다.

독서를 즐겨 하시는 분들께서는 꼭 ‘다시 꿈꾸는 시간’을 읽어보시길 추천합니다. 분명 당신의 삶에 대한 깨달음이 있을 것입니다.

### 손정의 회장이 AI에 경고, 무슨 일이 일어났나

교토에서 개최된 국제 포럼의 관련 행사에서 소프트뱅크 그룹의 손정의 CEO가 AI의 위험성에 대해 언급하며 “매우 위험한 존재가 될 수 있다”는 취지의 발언을 했다.

손 씨 일가는 OpenAI에 막대한 투자를 해 온 AI 옹호론자들의 주류 중 한 명이다. 그가 경계심을 드러낸 것에 따라 큰 주목을 받고 있다.

같은 이벤트에서는 미국 주도로 일본, 영국 등 17개국이 AI를 활용하여 과학 연구를 가속화하는 계획을 발표했다.

손 씨 일족의 비유에 따르면, AI는 웹 브라우징이나 프로그래밍 지원부터 내년에는 로봇 등을 통해 현실 세계에 작용하는 단계로 진화할 것이다. 2040년에는 AI 관련 기술이 세계 GDP의 20%를 훨씬 넘는 비율을 차지할 것으로 예측하고 있다.

### 추진파의 경고에 제가 현실을 느낀 이유는

이 뉴스를 읽고 나서 나는 깨달았을 때 처음 부분을 다시 읽고 있었다. 가속 페달을 계속 밟아온 사람이 입으로 말한 것이기에 “경고”라는 온도가 다르게 느껴진 것이다.

제 기억으로는, 이전 안트로픽을 퇴사했던 연구자도 마찬가지로 멈춰 서야 한다는 점을 지적했었습니다. 당시의 일은 이 기사에 자세히 나와 있습니다.

> 
> 
> 사고의 깊이를 더하기 위한 디자인적 사고의 적용
> 
> “디자인적 사고”라는 용어를 접하게 되는 기회가 늘어나고 있습니다. 비즈니스 현장뿐만 아니라 교육 현장이나 의료 등 다양한 분야에서 활용되고 있다는 것을 알고 있습니다.
> 
> 그러나 디자인적 사고를 단순한 “아이디어 발상” 프레임워크로만 생각하면 그 진가를 충분히 발휘하지 못할 수도 있습니다. 디자인적 사고의 본질은 “사용자의 관점에서 문제를 근본적으로 이해하고, 이를 해결하기 위한 새로운 가치를 창출하는” 것입니다.
> 
> 구체적으로, 다음 단계들을 따르면 사고의 깊이를 더하고 보다 효과적인 해결책을 찾을 수 있습니다.
> 
> 1.  **EMPASK (Empathize, Analyze, Propose, Synthesize, Know)**라는 프레임워크를 의식한다.
>     *   **공감:** 사용자의 감정과 요구를 깊이 이해하기 위해 인터뷰나 관찰을 실시한다.
>     *   **분석:** 수집한 정보를 분석하여 문제의 근본적인 요소를 명확히 한다.
>     *   **제안:** 분석 결과에 따라 해결책을 제안한다.
>     *   **통합:** 여러 제안을 통합하여 최적의 해결책을 결정한다.
>     *   **지식:** 관련 지식이나 정보를 수집하여 해결책의 실현 가능성을 검토한다.
> 
> 2.  **“가설 검증”을 반복한다:** 제안한 해결책은 단순히 “가설”일 뿐입니다. 실제로 사용자에게 시도해 보도록 하고 피드백을 얻는 과정을 통해 가설을 검증하고 개선을 반복하는 것이 중요하다.
> 
> 3.  **“실패를 두려워하지 않는다”:** 디자인적 사고는 시도착착의 과정입니다. 실패를 두려워하지 않고 다양한 아이디어를 시도함으로써 새로운 발견이 있을 수 있습니다.
> 
> 4.  **“다양한 관점을 도입한다”:** 팀원 각자의 지식과 경험을 활용하여 다양한 관점을 도입함으로써 보다 창의적인 해결책을 만들어낼 수 있습니다.
> 
> 특히 **“Don't Blame”**이라는 생각을 의식하는 것이 중요하다. 문제의 원인을 파악할 때 특정 개인을 탓하는 대신 시스템이나 프로세스에 문제가 있을 가능성을 고려해야 한다.
> 
> 또한 **“The Five Whys”**라는 방법도 효과적이다. 어떤 문제에 대해 “왜?”를 반복적으로 질문함으로써 근본적인 원인을 파악할 수 있다.
> 
> 이러한 요소를 결합함으로써 디자인적 사고는 단순한 아이디어 발상 프레임워크를 넘어 “문제 해결 능력”을 높이는 강력한 도구가 된다.
> 
> 예를 들어 “디자인적 사고의 원칙”을 담은 서적 『디자인적 사고의 원칙』(저: 湯川学)을 참고하여 실천해 나가는 것이 좋겠다. 또한 “린 스타트업”의 개념과 결합하면 더욱 효과적인 문제 해결이 가능하다.
> 
> 디자인적 사고를 습득함으로써 비즈니스뿐만 아니라 일상생활에서도 보다 창의적이고 인간적인 해결책을 만들어낼 수 있을 것이다.
> 

그때는 아직 먼 나라 이야기처럼 읽고 있었던 부분이 있었다. 이번에는 추진하는 측과 걱정하는 측의 말이 같은 방향을 향해 들려왔다. 그것이 바로 나에게는 현실이었다.

### AI 안전성, 현장에서 고려해야 할 3가지 “가능성”

AI의 윤리적 위험을 평가하는 데 있어 가장 먼저 고려해야 할 것은 AI가 인간의 판단을 대체할 가능성입니다. 이는 특히 의료나 법조 등 고도의 윤리적 판단이 요구되는 분야에서 매우 중요합니다. AI가 인간의 판단을 완전히 대체하는 것이 아니라, 인간의 판단을 지원하는 방식으로 활용되어야 합니다.

다음으로, AI의 학습 데이터에 편향이 있을 경우 AI의 판단에도 편향이 생길 수 있습니다. 예를 들어, 특정 성별이나 인종에 대한 차별적인 판단으로 이어질 수 있습니다. AI의 학습 데이터는 다양하고 공정한 데이터로 구성되어야 합니다.

마지막으로, AI의 판단이 예상치 못한 결과를 초래할 수 있습니다. 예를 들어, 자율주행차 사고나 금융 거래의 부정 등 다양한 상황에서 발생할 수 있습니다. AI의 판단은 항상 인간의 감독 하에 이루어져야 합니다.

그러면 디자인 현장에서 무엇을 해야 할까요? 답은 아직 나오지 않았고, 제가 결정할 문제도 아니라고 생각하고 있습니다. 다만, 생각의 출발점이 될 만한 것들을 세 가지 나열해 두겠습니다.

AI 사용법 규칙을 한 번 정리해 보는 것이 좋겠습니다. 디지털 에이전트에 맡기는 작업과 전달하는 정보의 범위를 재검토해야 할 수도 있습니다. “어느 정도까지 AI에 맡길 것인지”에 대해 팀원들과 논의해 보는 것이 좋겠습니다.

디지털 에이전트는 인간을 대신하여 웹 브라우징 및 분석을 자동적으로 진행하는 AI 프로그램입니다. 편리함이 증가할수록 제공되는 권한도 늘어납니다.

모든 것이 정답이라고 말하고 싶은 것은 아니야. 자신의 현장이라면, 무엇이 가장 마음에 와서 좋을까. 혹은, 전혀 다른 가능성이 있는 걸까. 그것을 읽은 각자 스스로 생각해보길 바란다.

### 그 이후, 또 다시, 어느 날, 저는 유명 작가 무라카미 하루키의 『바닷가 카후카』를 다시 읽고 있었다.
그 책을 다시 읽을 때마다, 그 독특한 세계관과 주인공 후다 히데의 어딘가 낯익은 듯한, 신비로운 감정에 마음이 정화되는 듯한 기분이 든다.
특히, 후다 히데가 자신의 인생을 되돌아보며, 다양한 인물과의 만남과 헤어짐을 경험하는 과정에서 자신이 진정으로 소중한 것을 발견해가는 과정은, 나에게 삶의 방식에 대한 하나의 실마리를 제공한다.

한편, 최근 무라카미 하루키의 『노르웨이의 숲』을 읽고 마쳤다.
이 책 또한 나에게는 청춘의 상징이자 잊을 수 없는 독서 경험 중 하나이다.
특히, 주인공 한스가 사랑하는 여성과의 관계 속에서 자신의 존재 의미를 묻는 모습은 나에게 용기를 준다.
그리고 이 책을 읽고, 다시 한번 자신의 인생을 되돌아보는 기회를 갖게 되었다.

이러한 의미에서, 무라카미 하루키의 작품은 나에게 인생의 나침반과 같은 존재라고 할 수 있을 것이다.
그의 작품을 읽음으로써 자신이 진정으로 하고 싶은 것을 찾고, 그것을 실현하기 위한 용기를 준다.
또한, 그의 작품은 나에게 삶의 기쁨과 슬픔을 깊이 이해하는 기회를 제공해준다.

뉴스 하이라이트는 다음과 같습니다.

손정의 회장은 “AI는 매우 위험한 존재가 될 수 있다”고 경계감을 드러냈습니다. AI는 내년에도 현실 세계에 작용하는 단계로 진입하며, 2040년에는 GDP의 2할 이상을 점유할 것으로 예측하고 있습니다. 일본, 영국 등 17개국이 AI로 과학 연구를 가속시키는 국제 협력을 발표했습니다.

추진파의 경고는 불안을 부추기는 것이 아니라, 긍정적으로 AI를 활용하기 위한 신중한 권고로 받아들이고 싶다. 멈춰서 확인하는 것은 페달을 늦추는 것이 아니라, 장기적으로 질주를 지속하기 위한 준비일지도 모른다.

앞으로도 현장에서 느낀 점들을 답이 나오지 않은 채로도 계속해서 발신하고 싶습니다.

## note.com 게시글 본문 청크 27/27 번역

**출처:** [note 원문](https://note.com/design_shock/n/nc97233516e9a)

*번역: Gemma 3(.44) 초벌 + 교정 20청크*

[원문 보기](https://note.com/design_shock/n/nc97233516e9a) | 출처: note.com