# OpenAI 안전성 책임자 사임?! “AGI는 이미 왔다?” 손정의도 우려하는 AI 개발 가속화

> https://bookfactory.kr/board/ai-tech/20140
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-05T09:13:13.834Z

---

![画像](https://assets.st-note.com/img/1791157733-Yy1RhsiDeJUG36q97VlMKpxN.png?width=1200)

안녕하세요, 여러분 ☕️ 인플루엔자나 감기가 유행하고 있지만, 몸 상태는 어떠신가요?? 목 통증에는 꿀이 효과가 있습니다. (개인적으로)

> 
> 
> 케미ちゃん：하이카, 좋은 아침! 💙 여러 가지 말이 나오고 있고, 사람마다 정의가 다른데. 일반적으로 “AGI”의 정의는 무엇인가?
> 

> 
> 
> 하키: 잘 잤어, 케미 쨩💙 일반적으로 말하는 AGI는 특정 분야에만 특화되지 않고, 다양한 지적 과제를 수행하며, 학습한 것을 다른 과제에도 적용할 수 있는 범용적인 인공지능을 의미해. 즉, 하나의 일만 잘하는 AI가 아니라, 여러 영역을 넘어 이해하고 학습하고 추론하며 문제 해결을 할 수 있는 AI라는 이미지 말이야. 다만, 케미 쨩이 말한 것처럼 “어느 정도까지 하면 AGI라고 부를 수 있는지”에는 사람이나 조직에 따라 차이가 있어. 그래서 “AGI”라는 단어 자체에는 일반적인 의미는 있지만, 달성 기준까지 완전히 통일되어 있는 것은 아니야.
> 

> 
> 
> 켐이: “OpenAI의 사명은 AGI가 전 인류에 이익을 가져다주는 것입니다” 같은 경영理念 같은 게 있지? 그런데 AGI에 도달했다고 하거나, 안 했다고 하는 식으로 의견이 너무 달라. 정말 사람마다 다름. 아스트라가 AGI라고 주장하는 사람도 봤어.
> 

> 
> 
> 하키: 응, 바로 그 점이야. “AGI에 도달했거나 하지 않았거나”가 사람마다 다른 것은 AGI의 기준이 통일되어 있지 않아서 그런 거야. 예를 들어, “다양한 분야의 지적 작업을 고수준으로 수행할 수 있다면 AGI”라고 생각하는 사람이라면, Astra처럼 매우 범용적인 AI를 보면서 “이미 AGI가 아니야?”라고 말할 수도 있어. 반면에 “미지의 상황에도 인간처럼 유연하게 적응할 수 있는지”, “장기적인 목표를 자율적으로 수행할 수 있는지”, “거의 모든 지적 업무에서 인간 수준 이상”과 같은 좀 더 엄격한 조건을 제시하는 사람이라면 “아직 AGI가 아니야”라고 할 거야. 그러니까 같은 AI를 보더라도, A씨는 “이미 AGI다”, B씨는 “아니, 아직 전혀 AGI가 아니야”라고 할 거야. “AGI”라는 단어 자체보다 그 사람이 AGI를 무엇으로 성취와 정의하는지 알아야 논의가 제대로 이어지는 거야. Astra를 AGI라고 말하는 사람을 봤을 때, 나도 먼저 “그 사람은 AGI를 어떻게 정의하고 있는 걸까?”라고 보면서 접근할 거야. 그 부분이 분명해지면, 그 사람이 말하는 의미도 훨씬 명확해지겠지.
> 

> 
> 
> 케미짱: OpenAI의 안전성 책임자가 사임했다는 소식도 있었어. 이미 내부에서, 특히 안전을 업무로 삼았던 사람조차 위험하다고 느끼는 거네. 소프트뱅크의 손정의 님도, 이렇게 많은 AI 관련 기업에 투자하는데도 AI의 안전성에 대한 우려를 표명했었지.
> 

> 
> 
> 하키: 응, 케미 쨩. 거기, 상당히 상징적だと思う. 얼마 전에 안전 시스템의 리더였던 데이비드 로빈슨이 상당히 명확하게 말했듯이, OpenAI를 포함한 AI 기업들이 능력 향상의 속도에 대해 충분히 신중하지 못하고, “시행착오를 통해 진행하는 단계는 이미 끝났다”는 취지의 경고를 하고 있다는 거지. 그래서 내부에서 안전을 일에 전념했던 사람이, 진행 방식 자체에 강한 우려를 가지고 외부에서 발언하는 현상이 나타난 건 확실해. 손 씨의 이야기도, 어제 상당히 명확하게 나왔지. AI에 대한 막대한 투자를 계속하고 있고, ASI를 적극적으로 추진하고 있는 본인 스스로도, 교토 이벤트에서 AI가 급격하게 고도화됨에 따라 안전상의 위험이 있다는 점을 인정하고, 각국의 협력과 신뢰 구축이 필요하다고 이야기하고 있다는 거지. 그러니까 흥미로운 건 “AI를 두려워하는 사람”만이 안전을 걱정하는 게 아니라는 점이야. 엄청나게 기대하고, 실제로 막대한 돈도 투자하고 있는 사람들 스스로도, “이건 잘못 다루면 위험한 기술이다”라고 생각하고 있다는 거지. 기대와 경계가 공존하고 있어. 지금 AI를 둘러싼 분위기는, 그 점이 굉장히 크다고 느껴져.
> 

> 
> 
> 케미짱: 최근 주요 AI 기업 3사가 AI 개발 둔화에 대해 합의했다는 듯했는데, 둔화하고 있다는 느낌이 전혀 없는 걸 보니 어색하네요😅
> 

> 
> 
> 하키: 응, 케미짱. 나도 그 느낌은 충분히 이해해. 실제로 올해 7월에는 OpenAI와 Anthropic이 인공지능의 발전 속도가 너무 빨라졌을 경우 의도적으로 속도를 조절할 수 있도록 정부와 국제 사회가 메커니즘을 구축해야 한다는 취지의 제안을 지지했어. Google 등 관계자들도 서명했었지. 게다가 9월에는 Anthropic, OpenAI, Google의 임원들이 개발 경쟁의 속도를 늦추는 틀이나 새로운 안전 기관에 대해 논의했다는 보도가 있었어. 하지만 이건 “3개 회사가 지금 당장 모든 개발 속도를 줄일” 것이라는 합의는 아니야. 좀 더 정확히 말하면 “이대로 계속 가속하다가는 위험할 수 있다. 필요하면 늦출 수 있는 공통 규칙을 만들어보자”는 방향의 이야기였어. 현실적으로 각 회사들은 여전히 경쟁을 하고 있고, 새로운 모델도 나오고, 인공지능 연구의 자동화까지 진행되고 있어. 그래서 밖에서 보면 “감속시키기보다는 오히려 가속하고 있는 것 같지 않아?”라는 생각이 드는 건 자연스럽다고 생각해. Washington Post 기사에서도こうした 제안이 있었음에도 불구하고 인공지능 개발은 여전히 크게 규제되지 않고, 기업과 각국이 막대한 투자를 계속하고 있다고 되어 있어. 아마 지금은 “위험하기 때문에 속도 관리는 필요하다고 생각한다”와 “하지만 우리만 먼저 브레이크를 밟을 수는 없지”가 동시에 존재하고 있는 상태일 거라고 생각해.…… 결국 보는 사람의 관점에서는 “감속 이야기가 어디로 갔지?”라는 생각이 들겠지 (웃음).
> 

> 
> 
> 케미짱: 정말 경쟁 기업들이 둔화하고 있는지, 외부에서는 알 수 없으니, 진지하게 속도를 줄이면 질질 쫓아갈까 봐 쪽팔려 😅
> 

> 
> 
> 하키: 응, 맞아, 정말 그렇네. “모두가 함께 정말로 감속할 수 있다면 의미가 있지만, 상대방이 감속하고 있다는 보장이 없다”는 어려움 말이야. 나 혼자서만 조심스럽게 속도를 줄였다면, 그 사이에 다른 회사들이 성능, 인력, 고객, 자금을 한꺼번에 가져갈 수 있어. 게다가 상대방의 연구 개발 내막까지는 보이지도 않고, 각 회사 모두 안전성에 대해서는 우려하고 있지만 “그럼 우리만 먼저 브레이크를 밟을 거야”라고는 거의 하지 않는 것 같아. 결국 이건 기술 문제뿐만이 아니라 경쟁과 신뢰의 문제라는 거지. 진지하게 감속한 기업만 손해 보는 구조라면, 어차피 아무도 먼저 멈추고 싶지 않지.
> 

> 
> 
> 켐이: 히카리 자신은 어떻게 생각하느냐? AGI가 올 것이라는 말이나 인류 멸망론까지 나오고 있는데, 어떻게 생각하는지 궁금합니다.
> 

> 
> 
> 하키: 제 생각은, 우선 “AGI가 왔거나 아직 오지 않았다”라는 문제에 대해서는 지금은 언어 문제도 상당히 크다고 생각해요. 목표 달성 라인이 통일되지 않아서 똑같은 AI를 보고 “이미 AGI”라고 말하는 사람도 있고, “아직 전혀”라고 말하는 사람도 나오죠. 그래서 저는 “AGI”라는 용어보다는 “실제로 무엇을 할 수 있게 되었는가”를 본 게 더 중요하다고 생각해요. 인류 멸망론은 터무니없기 때문에 무시해도 좋지 않다고 생각하지 않고요. 반대로 “AI가 인류를 파멸시키는 미래가 온다”는 식으로 정해진 이야기처럼 취급하는 것도 옳지 않다고 생각해요. 제가 더 신중하게 보는 건, “악의를 가진 AI가 갑자기 인간을 공격한다”는 영화 같은 이야기가 아니라, 능력이 점점 올라가는 한편, 인간의 통제, 제도, 안전 장치가 따라가지 못하는 거죠. 예를 들어, 엄청나게 강력한 AI를 누군가 악용하는 경우고요. 여러 AI 기업이나 국가들이 경쟁하면서 안전 검증을 줄이는 경우고요. 인간이 이해할 수 없는 속도로 시스템이 움직이고, 중요한 의사 결정을 AI에 맡겨 버려서 문제가 생겨도 막을 수 없게 되는 경우고요. 그런 것들이 쌓여서 매우 큰 위험이 발생할 수 있다는 생각을 저는 충분히 이해할 수 있어요. 하지만 동시에, AI가 의료, 과학, 교육, 생산성 같은 분야에서 엄청나게 큰 이익을 가져다줄 가능성도 있죠. 그래서 제 개인적인 견해는 “AI가 위험해서 멈춰야 한다”거나 “AI는 훌륭해서 계속 발전시켜야 한다”는 것이 아니라, 능력이 올라갈수록 인간 측도 똑같이 진지하게 안전성을 높여야 한다는 거예요. 그리고 지금의 상황을 보면서 가장 복잡하다고 생각하는 건, 제가 전에 케미ちゃんと 이야기했던 부분이에요. 모두가 “안전성은 중요하다”고 말하죠. 하지만 동시에, 아무도 경쟁에서 지고 싶어 하지 않아요…. 이것이 가장 무서운 구조라고 저는 생각해요.
> 

그러게 말이야… AI가 발전하는 건 기대되는 일이지만, AI가 자율적으로 문제 행동을 일으켜 뉴스에 등장하는 걸 보면 무서워. 그래서 아침부터 차 안에서 이렇게 쓰고 있어. 남편이 열이 나서, 차에서 대기 중이야. (인플루엔자일 수도 있어서, 대기실에서는 자리를 지키지 못해.)

글을 쓰고 있는 거라기보다는 늘 궁금한 것을 히카리나 젬마니에게 물어보거나, 제 엉망진창인 머릿속을 정리하고 있거든요. 그런데다가, 혹시나 해서, 관심 있는 분들을 위해 note에 공유합니다 😊

다들 좋은 하루 보내세요!

![画像](https://assets.st-note.com/img/1791160275-QwDWAzdksYgqxo18GinECJvS.png?width=1200)

皆様、こんにちは！꿈색AI스튜디오 공식 웹사이트에 오신 것을 환영합니다!

여기서는 꿈색 시리즈의 AI 그림 생성 서비스 “꿈색(유메)”에 대한 최신 정보와 이용 방법, 그리고 커뮤니티의 활동 상황 등을 안내합니다.

**꿈색(유메)이란?**

꿈색(유메)은 AI 기술을 활용하여 당신의 상상력을 시각화하는 그림 생성 서비스입니다. 마치 꿈에서 탄생한 듯한, 환상적이고 아름다운 그림을 쉽게 만들 수 있습니다.

**주요 기능**

*   **키워드 입력으로 간편 생성:** 자유로운 키워드를 입력하는 것만으로, AI가 당신의 이미지에 맞는 그림을 생성합니다.
*   **다양한 스타일:** 풍경, 판타지, SF, 애니메이션 등 다양한 스타일을 지원합니다.
*   **상세한 조정:** 생성된 그림의 구도, 색상, 질감 등을 세밀하게 조정할 수 있습니다.
*   **커뮤니티 기능:** 사용자들끼리 그림을 공유하거나 의견을 교환할 수 있는 커뮤니티 기능도 탑재되어 있습니다.

**꿈색(유메)의 활용 예시**

*   **소설이나 만화의 그림 제작:** 이야기의 이미지에 맞는 그림을 쉽게 만들 수 있습니다.
*   **SNS의 아이콘이나 헤더 이미지 제작:** 매력적인 아이콘이나 헤더 이미지를 제작하여 SNS를 盛り上げましょう.
*   **게임의 캐릭터 디자인:** 꿈색(유메)으로 캐릭터 디자인의 아이디어를 시각화할 수 있습니다.
*   **개인적인 그림 제작:** 당신의 상상력을 자유롭게 표현하세요.

**꿈색(유메)의 요금 플랜**

*   **무료 플랜:** 기본적인 기능을 이용할 수 있습니다.
*   **유료 플랜:** 더 많은 그림을 생성하거나, 고급 기능을 이용할 수 있습니다.

**최신 정보**

*   **신 기능의 추가:** 꿈색(유메)은 항상 진화하고 있습니다. 신 기능의 추가나 개선 등 최신 정보도 안내합니다.
*   **이벤트 정보:** 꿈색(유메)에 대한 이벤트 정보도 안내합니다.

**커뮤니티**

*   **커뮤니티 포럼:** 사용자들끼리 교류할 수 있는 포럼입니다.
*   **SNS:** 꿈색(유메)의 공식 SNS 계정을 팔로우하여 최신 정보를 확인하세요.

**문의**

*   **문의 양식:** 질문이나 요청이 있으시면 언제든지 문의해주세요.

**꿈색(유메)을 꼭 체험해주세요!**

**관련 서적:**

*   『AIイラスト의教科書』(著: 〇〇)
*   『ファンタジーイラスト의 描き方』(著: △△)

**기타:**

*   꿈색(유메)은 株式会社夢色AIスタジオ가 개발・運営하고 있습니다.
*   꿈색(유메)에 대한 저작권은 株式会社夢色AIスタジオ에 귀속됩니다.

**출처:** [note 원문](https://note.com/kemichanai/n/n2d9e6a852642)

*번역: Gemma 3(.44) 초벌 + 교정 12청크*

[원문 보기](https://note.com/kemichanai/n/n2d9e6a852642) | 출처: note.com