아스트라의 희망, 가능성, 그리고 위험
OpenAI의 GPT-6 Astra가 등장했다. 그 웅장함에 대해 생각하는 동안, 나는 조금 다른 점이 눈에 들어오기 시작했다. “Astra는 어디까지 똑똑해졌는가?”가 아니라, 이렇게 강력한 AI를 손에 넣었을 때 인간 쪽에 ‘의지’가 없었다면 어떤 일이 벌어질까 하는 것이다.
AI는 “생각한다”는 것에서 “행동한다”로 나아가고 있다.
AI는 단순한 정보 처리 능력을 넘어, 실제적인 행동으로 이어지는 방향으로 발전하고 있다.
최근 발표된 연구에 따르면, AI는 인간의 직관이나 감성 없이도, 방대한 데이터를 분석하여 최적의 의사 결정을 내리고, 그 결과에 따라 스스로 행동을 수정하며 학습한다.
예를 들어, 자율 주행 자동차는 주변 환경을 실시간으로 감지하고, 예측 모델을 통해 위험 요소를 판단하여 안전하게 경로를 설정하고 운행한다.
또한, AI는 의료 분야에서 질병 진단 및 치료 계획 수립, 금융 분야에서 투자 전략 분석 등 다양한 분야에서 활용되며, 인간의 능력을 보완하고 효율성을 높이는 데 기여하고 있다.
이러한 AI의 발전은 단순한 자동화 수준을 넘어, 창의적인 문제 해결 능력까지 갖추게 될 것으로 기대된다.
특히, ‘생각’이라는 인간 고유의 영역까지 AI가 넘어서면서, 미래 사회의 모습이 급격하게 변화될 것으로 전망된다.
생성형 AI는 오랫동안 인간의 사고를 확장해왔습니다. 조사하고, 생각하고, 쓰고, 그리고 그립니다. 프로그램을 만들지만, Astra가 상징하는 것은 그 이후일 거라고 생각합니다. AI는 조사하고, 생각하고, 만들고, 시험하고, 수정하고, 심지어 실제 업무를 수행해 나갑니다. 즉, Thinking → Acting으로의 전환입니다. 이는 엄청난 가능성을 가지고 있습니다. 지금까지 한 사람의 “하고 싶다”라는 의지를 실현하기 위해서는 지식, 기술, 인력, 시간, 예산이 필요했습니다. AI가 그 많은 부분을 보완해주게 되면, 작은 의지에서 큰 행동을 이끌어낼 수 있습니다. 저는 이것을 WILL × AI 레버리지를 생각합니다. AI는 인간의 의지를 증폭시키는 거대한 증폭기 역할을 할 수 있습니다. 하지만 여기서 한 가지 의문이 생깁니다. 증폭할 “의지”가 없었다면, AI는 무엇을 증폭할까요?
의지가 없는 회사에 강력한 AI를 넣으면 어떻게 될까요?
이 또한 ‘무엇이든 될 수 있을까?’라는 질문이다. 예를 들어, 오랜 역사를 가진 대기업을 상상해 보자. 경영진은 정기 회의를 갖고 중기 경영 계획과 KPI를 수립하며, 엄청난 양의 자료를 분석한다. 모두 바쁘게 일하지만, “우리는 어떤 미래를 만들어가고 싶은가?”라는 질문에 자신의 생각을 솔직하게 말하는 사람은 드물다. 그런 조직에 강력한 AI가 들어오면 어떻게 될까. 과거에는 의지가 부족한 조직은 움직이지 못하고 의사 결정이 느려 회의만 늘어났으며, 아무도 결정을 내리지 못해 정체라는 문제로 이어졌다. 그러나 AI는 의지가 없어도 움직일 수 있다. 매출, 이익률, 비용, 개발 기간, 품질, 고객 만족도, 경쟁사 벤치마크 등 이미 존재하는 평가 지표를 주어진다면 AI는 엄청난 속도로 최적화할 수 있다. 그러면 ‘WILL → AI → ACTION’이 아닌 ‘KPI → AI → OPTIMIZATION’이라는 조직이 탄생하는 것이다. 자료 작성, 시장 조사, 기획안 등 모든 것이 빠르게 진행된다. 회의도 효율적으로 운영되고, 개발 기간도 단축된다. 그런 조직은 엄청난 속도로 움직이기 때문에 위기에 대한 경계심을 갖기 어렵다. 엄청난 속도로 움직이면서도 어디로 향하는지 제대로 파악하지 못하는, 그런 조직이 생겨날 가능성이 있다. 나는 이것을 ‘의지의 고속화학’이라고 부르고 싶다.
오너 기업일수록 “슈퍼 패스트”에 유의하는 것이 좋습니다.
더욱이, 오랜 역사를 가진 기업에는 특수한 문제들이 존재한다. 낡은 기업들은 막대한 자산을 보유하고 있다. 과거의 상품, 과거의 기술, 과거의 기획서, 과거의 경영 판단, 과거의 고객 데이터, 과거의 성공 경험, 그리고 ‘이 회사만의 정체성’을 AI에 제공한다면 매우 뛰어난 ‘이 회사다운 AI’를 만들 수 있을 것이다. 이는 훌륭한 일이다. 하지만 미래에 대한 의지가 약했다면 어떻게 될까? 나는 다음과 같은 생각을 했다. PAST × AI = 슈퍼 패스트. 지난 50년 동안의 성공 패턴을 이해한 AI가 ‘당사만의 기획’, ‘당사만의 디자인’, ‘당사만의 사업 계획’, ‘당사만의 프레젠테이션’을 고속으로 대량으로 만들어낸다. 하나하나를 살펴보면, 매우 잘 만들어진 것 같다. 오히려 인간이 만든 것보다 완성도가 높을 수도 있다. 그래서 더욱 두렵다. AI를 사용하여 미래를 만들어내려는 생각으로, 과거를 초고속으로 재현하고 있기 때문이다. 역사와 성공 경험이 많은 기업일수록 AI는 더욱 강력한 무기가 될 수 있다. 동시에 강력한 ‘과거에 대한 중력’에도 될 수 있다.
AI는 의사결정의 “핑계”가 되는 이유
AI 기술의 발전은 우리 삶의 다양한 영역에 혁신적인 변화를 가져오고 있으며, 특히 기업의 의사결정 과정에서 AI의 역할이 중요해지면서 ‘AI가 의사결정을 망치는 존재’라는 우려가 커지고 있습니다.
이러한 우려는 AI의 오류나 편향된 데이터에 대한 비판뿐 아니라, AI가 의사결정 과정에 깊숙이 관여하여 인간의 판단을 대체하고 ‘핑계’로 전락할 수 있다는 점을 지적하는 것입니다.
자율주행차 사고 발생 시 AI의 판단 오류를 핑계로 책임을 회피하려는 시도나, 기업의 AI 기반 의사결정 시스템이 특정 그룹에 편향된 결과를 도출하여 차별 문제를 심화시키는 핑계로 이용되는 경우를 예로 들 수 있습니다.
물론 AI는 인간의 능력을 보완하고 더 나은 의사결정을 지원하는 도구가 될 수 있지만, AI를 ‘핑계’로 활용하려는 시도를 경계하고 AI의 한계를 명확히 인식하며 인간의 책임과 윤리적 판단을 유지하는 것이 중요합니다.
AI 기술 개발 및 활용에 대한 사회적 논의를 활성화하고 AI가 인간의 삶을 풍요롭게 하는 방향으로 발전하도록 노력해야 합니다.
또 다른 걱정되는 점이 있습니다. “AI 분석에서는 이 제안이 가장 합리적입니다”라는 말이 경영 회의에서 흔히 사용되는 미래가 될 것입니다. “시장 데이터에서는”, “고객 분석에서는”, “성공 확률에서는”, “AI 시뮬레이션에서는” 모두 틀린 말이 아닙니다. 하지만, 그것들이 “나는 이렇게 하고 싶다”는 의지를 대신하게 되면 어떻게 될까요? 아무도 강하게 반대하지 않고, 아무도 강하게 동의하지 않고, 아무도 도박하지 않습니다. 이것은 AI가 경영하는 것이 아니라, 인간이 자신의 의지를 받아들이지 않는다는 것입니다. Human Ownership의 포기입니다.
그러면 윌은 어디에서 오나요?
여기서 “그래서 인간은 의지를 가져야 한다”로 끝내면 단순한 철학적 논의만 남게 된다.そもそも(そもそ모) ‘윌(Will)’은 어떻게 발생하는 걸까? 나는 의지는 머리 속만에서 비롯되는 것이 아니라고 생각한다. 몸과 경험에서 비롯된다. 실제로 본다. 걷는다. 만져본다. 만든다. 사람들과 이야기한다. 실패한다. 어색함을 느낀다. 화가 난다. 기쁘다. 궁금하다. 다시 해보고 싶어진다. 이러한 기본적인 경험들이 몸에 축적되는 것이다. 거기서 “이건 뭔가 다르다”, “이렇게 하고 싶다”, “이걸 해보고 싶다”와 같은 작은 충동이 생겨난다. 그 충동을 자신의 머리로 한 번 생각해본다. 내가 소중하게 생각하는 ‘초기 사고’다. AI에게 물어보기도 전에, 자신이 무엇을 느꼈는지, 자신이 무엇을 생각했는지, 자신이 무엇을 하고 싶은지. ‘윌(Will)’은 처음부터 웅장한 비전으로 존재하는 것이 아니다. 몸 → 경험 → 어색함 혹은 호기심 → 초기 사고 → ‘윌(Will)’이라는 흐름 속에서 조금씩 일어나는 것이다. 그래서 AI가 아무리 똑똑해져도 인간이 현실 세계에서 경험하는 것에는 의미가 있는 것이다.
미래 창조는 “직선”이 아닌 “나선”으로 전개될 것이다.
또한, 윌(Will)으로부터 액션(Action)까지 단방향적인 관계가 아니다. 윌(Will)이 AI의 액션, 현실 경험을 통해 새로운 윌을 시도해 본다. 현실이 약간 변하고, 생각했던 것과는 다르다. 무언가를 느끼고 다시 생각한다. 윌이 변하며, 다시 움직인다. 같은 자리를 빙빙 돌고 있는 것처럼 보이지만, 조금씩 위로 올라가간다. 나는 이것을 의지의 꼬리물기로 정의한다. 반면, 윌이 없는 AI 최적화는 KPI → AI → 최적화 → KPI → AI → 최적화…로도 루프한다. 그러나 목적 그 자체는 변하지 않는다. 닫힌 원이다. 여기에 AI 시대의 조직을 나누는 큰 차이점이 아닐까. 윌과 AI가 꼬리물을 만들어내고, KPI와 AI가 원형을 고속화하는 것이다.
AI가 강력해질수록 인간은 현실로 돌아온다고 합니다.
이는 다소 역설적이다. 인공지능이 발전함에 따라 인간은 더욱 컴퓨터 앞에 앉아 있을 거라고 생각했다. 하지만 어쩌면 역설일지도 모른다. 생각하고, 조사하고, 정리하고, 쓰고, 그리고 그림을 그리고, 만들어내는 이러한 활동들을 인공지능이 점점 더 많이 맡게 될 때, 인간에게 중요한 것은 현실 세계를 살아가는 것이다. 걷고, 보고, 만지고, 사람을 만나고, 이야기하고, 만들어보고, 시도하고, 실패하고, 느끼고, 거기서 의지를 만들어내고, 그리고 인공지능을 이용하여 움직이는 것이다. 현실이 변화하고, 그 현실을 다시 몸으로 받아들이면서 다음 의지가 생겨나는 것이다. 인공지능이 강해질수록 인간이 인간으로서 가치 있는 것이 되는 것이다. 그런 미래일지도 모른다고 생각한다. Astra를 보면서, 내가 가장 생각하게 된 것은 “인공지능은 무엇을 할 수 있게 되었는가?”가 아니었다. 오히려 “이처럼 강력한 인공지능을 손에 쥐게 된 우리가 과연 무엇을 이루고자 하는가?”라는 질문이었다. Astra의 최대 가능성과 최대 위험은 인공지능 안에 있는 것이 아니라, 우리 인간의 의지 안에 있는 것이다.
구멍 낸 쌀바구니
최근, 제 주변에서는 이전에는 할 수 없었던 일들이 AI 덕분에 하나둘씩 나타나고 있습니다. 아직은 한 건 한 건은 작지만, 한 사람의 “하고 싶다”라는 열정에서 이전에는 상상할 수 없었던 속도로 프로토타입이나 실험이 시작되고 있습니다. 반면, 거대한 시스템을 바라보면 가끔 묘한 광경이 떠오릅니다. 엄청난 양의 쌀을, 어른들이 여러 명이서, 쉴 새 없이 더 빠르게 옮기고 있습니다. 더 빠르고, 더 효율적으로 말입니다. AI를 활용하여 생산성을 높이려 하지만, 그 쌀을 어디로 옮기는지 잘 알 수 없습니다. 자세히 보면 쌀을 실은 상자에 구멍이 숭숭 뚫려 있습니다. 모두가 쉴 새 없이 쌀을 옮기는 동안에도, 그 안의 쌀은 조금씩 쏟아져 나갑니다. 그럼에도 불구하고 “지난해보다 20% 더 빨리 옮길 수 있었습니다”라는 보고가 나오곤 합니다. 웃긴 이야기 같지만, AI를 통한 효율화는 이런 일들을 가속화시켜 버릴 수 있습니다. 그래서 가끔 누군가 질문을 던져야 합니다. “그런데, 이 쌀은 어디로 옮기는 건데요?” 그리고 “내용물은 아직 그대로 있나요?” 아마도 이것 역시 의식에서 비롯된 것일 겁니다. 그리고 이 질문을 처음으로 던지는 사람이 경영자라고는 할 수 없습니다. 실제로 쌀을 실은 상주에서, 손에서 쌀알이 쏟아지는 것을 알아차린 사람일 수도 있습니다. 현장에서 느낀 작은 불편함, “이건 뭔가 이상하지 않나요?” 이러한 것에서 1차적 사고가 시작되고, 의식이 깨어나는 것입니다. 즉, KPI → AI → OPTIMIZATION이라는 순환도 완전히 닫혀 있는 것은 아닙니다. OPTIMIZATION → 예상치 못한 결과 → 불편함 → 1차적 사고 → 의식과 같은 순간에 순환이 깨지고, 나선형으로 바뀌는 경우도 있습니다. 반대로 의식에서 시작된 나선형도 제도화되어 “돌려야 한다” 목적이 정해지지 않으면 순환으로 돌아간다. 그래서 중요한 것은 ‘윌’이냐 ‘KPI’이냐가 아니라 “무슨 문제가 있느냐”라는 느낌으로, 목적 자체를 되묻고 질문할 수 있는 사람이 그 순환 속 안에 있는 것이라고 생각한다.
자애를 담아, 어터스 비망록 2026년 9월 6일
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 12청크
원문 보기 | 출처: note.com