이전에는 우크라이나의 미하일로 페드로프를 추적하며 “국가와 전쟁의 OS”에 대해 생각했다. 그러면서 발견한 것은 드론이나 AI 그 자체보다, 현장에서 벌어진 일들을 배우고 의사 결정, 조달, 개발의 시스템을 빠르게 업데이트할 수 있는 것이 국가의 역량으로 발전하고 있다는 점이었다.
전선에서 문제가 발생한다. 기업이 해결책을 마련한다. 현장에서 사용하며, 결과가 돌아온다. 그리고 다시 개선한다.
대략적으로, 학습 루프를 얼마나 빠르게 회전시킬 수 있는지가 경쟁력이 된다.
그러나 지금, AI 세계에서는 그 전제를 더욱 흔들리는 논의가 시작되고 있다.
2026년 9월 12일, Anthropic CEO 다리오 아마데이가 “We Must Pace the Frontier”라는 글을 발표했다. AI 개발을 멈추라는 의미는 아니었다. 프론티어 AI의 능력 향상 속도를 조절하고, 안전성 평가 및 제어 측면이 따라올 시간을 확보해야 한다는 제안이었다.
더욱 흥미로운 점은 그 이후였다. OpenAI의 샘 후트먼 또한 “프론트라이드의 속도를 조절해야 한다”는 방향에 동의했으며, 독립적인 평가자 접근 확대에 지지를 표명했다. 일론 머스크 또한 아마데이의 주장을 지지했다. 경쟁 관계에 놓인 AI 기업의 수장이 적어도 “빠르면 빠를수록 좋다”는 문제의식을 공유했다는 점은 주목할 만한 부분이다.
왜 세계에서 가장 AI를 빠르게 발전시키고 있는 사람들이 스스로 “속도”에 대해 이야기하기 시작했을까.
기술 속도는 제도 속도를 능가한다. 이 그림에서 보여주고 싶은 것은 AI 자체의 발전 속도와 평가, 조직, 제도, 거버넌스가 변화하는 속도의 차이이다.
문제는 AI가 빠르다는 사실이 아닙니다.
아모데이의 글을 “AI는 위험해서 개발을 멈춰야 한다”는 논쟁으로 읽는 것은 다소 차이가 있다. 그는 AI의 가능성을 그 자체로 부정하는 것이 아니며, 오히려 AI 능력 향상이 안전성 평가, 통제, 제도 설계의 속도를 현저히 앞서는 것을 문제 삼고 있다.
따라서 “Stop”이 아니라 “Pace”라는 의미일 거라고 생각합니다. 모델을 만들거나 연구를 멈추게 하려는 것이 아니며, 인공지능의 능력만 엄청난 속도로 발전하고 인간의 평가나 통제가 크게 뒤쳐지지 않는 상황을 피하고자 합니다.
이 문제는 AI가 AI 연구 자체를 지원하기 시작하면서 더욱 복잡해진다. OpenAI는 9월 6일에 공개한 “Research acceleration: The view inside OpenAI”에서 AI 에이전트가 연구자의 일상 업무에 깊이 파고들어 코드 작성 및 실험 속도를 실제로 향상시키고 있다고 보고하고 있다. AI가 단순히 연구 대상이 아니라, 다음 AI를 만드는 연구 자체를 가속화하는 측면에 서서히 자리 잡고 있기 때문이다.
그러면 상당히 간단한 문제가 떠오른다.
AI만 압도적으로 빠른 것이다.
AI는 수週間에서 수개월 단위로 능력을 업데이트해 나간다. 반면, 기업의 업무 프로세스, 인재 육성, 법률, 규제, 교육 제도, 국제 규칙은 그렇게 빠르게 변화하지 않는다. 즉, 기술 발전 속도(Technology Speed)가 제도 변화 속도(Institutional Speed)보다 훨씬 빠르게 벌어진다.
AI의 성능 경쟁을 지켜보려 했었는데, 어쩌다 보니 우리가 얼마나 빠르게 변화할 수 있는가가 문제로 돌아와 있다.
속도 감소 또한 경쟁이 된다
여기서 제가 가장 흥미로웠던 부분입니다. 기업들끼리 경쟁한다면, 보통 상대방이 개발 속도를 늦추면 유리하게 됩니다. 자신만 빨리 달리면 되니까요. 그런데 AI 업계에서는 경쟁 상대들끼리 “어떻게 속도를 조절해야 하는가”를 논의하기 시작했습니다.
경쟁 속에 “속도를 어떻게 통치할 것인가”라는 축이 추가된 것은 중요하다는 생각을 한다.
지금부터는 ‘능력 속도’와 ‘제어 능력’의 조합을 겨루는 경쟁이 될지도 모른다.
AI의 능력을 얼마나 빠르게 향상시킬 수 있을지, 동시에 그 AI가 무엇을 하고 있는지 이해하고 문제점을 발견하며 평가할 수 있는지, 필요하다면 중단할 수 있는지 여부가 경쟁력에 영향을 미친다.
그러니, AI의 속도를 늦추는 논의 역시 AI 경쟁의 일부이다.
하지만, 한사대만, 한국대만으로는 늦을 수 없다.
물론 이야기는 간단하지 않다. Anthropic만이만 개발 속도를 조절한다 해도, 다른 회사들이 계속해서 경쟁한다면 경쟁 조건은 달라진다. 하나의 나라만이 신중해진다고 해도, 다른 나라들이 같은 생각을 공유한다고 보장할 수 없다.
이에 암데이는 기업 내부의 제3자 평가뿐만 아니라 업계에서의 기준 마련, 심지어 국제적인 협력까지 고려하고 있다. 한편, AI를 둘러싼 국가 간 경쟁, 특히 미중 간 경쟁이 이러한 협력을 어렵게 한다는 지적도 있다.
즉, 너무 빠르거나 위험하고, 너무 느리면 문제가 발생한다. 단순하게 브레이크를 밟는 것으로 해결되는 문제가 아니다. 어디까지 속도를 내는가, 어디에서 확인하는가, 어떤 징후가 나타나면 멈추는가. 그리고 그 판단은 누가 하는가.
AI 경쟁은 단순한 속도 경쟁에서 속도를 그 자체로 설계하는 경쟁으로 변화하고 있을지도 모른다.
AI는 이제 단순한 소프트웨어가 아니다.
이 문제의 심각성이 커지는 또 다른 이유는 AI가 단순한 디지털 서비스가 아닌 ‘지능형 사이버 능력’으로 발전해 왔기 때문이다. AI는 드론이나 로봇을 움직이고, 과학 연구를 가속화하며, 이러한 AI를 작동시키기 위해서는 반도체, 거대한 데이터 센터, 막대한 전력이 필요하다.
즉, 인공지능은 반도체를 통해 데이터 센터로 이어지고, 데이터 센터는 전력을 통해 사이버 보안으로, 사이버 보안은 로봇 공학으로 연결되기 시작합니다.
이 정도 수준까지 올라오면 AI 경쟁은 ‘어떤 회사의 모델이 가장 현명한가’라는 점뿐만 아니라, 필요한 컴퓨팅 자원을 확보할 수 있는지, 전력을 공급할 수 있는지, 사이버 공격에 견딜 수 있는지, 그리고 AI를 현실의 업무나 물리 세계에 통합할 수 있는지 등도 고려해야 합니다.
AI 경쟁이 기업과 국가의 역량 전체로 확산되고 있습니다.
이 점은 이전 글에서 언급한 우크라이나 사태와 연결된다.
페트로프의 “국가 OS”를 역방향으로 조망한다
우크라이나에서 인상적이었던 점은 AI나 드론의 성능뿐 아니라, 전선에서 발생하는 문제들을 해결하기 위한 개발, 구현, 데이터 분석, 개선이라는 학습 루프가 존재했다는 것이다.
그러므로 이전에는 국가의 강함은 단순히 무엇을 얼마나 소유하고 있는가뿐만 아니라, 얼마나 빠르게 학습할 수 있는가에 있는 것이 아닌지 생각했다.
그러나 아마데이의 경고는 그 이야기를 거꾸로 보게 해준다. 인간 조직이 학습 루프를 빠르게 회전시켜 경쟁력을 갖는 한편, AI에 의해 AI 연구 그 자체까지 가속화되면 기술 측의 개발 루프 또한 더욱 빠르게 진행될 것이다.
그러므로, AI의 발전 속도가 국가, 기업, 사회가 자신을 업데이트하는 속도보다 훨씬 빨라 국가가 발생할 수 있다.
지난 질문은 국가가 더 빠르게 학습할 수 있는 방법을 묻고 있었다. 이번 질문은 기술이 인간의 조직보다 빠르게 변화하기 시작했을 때 어떻게 대응할 것인지를 묻는 것이다.
이는 기업의 인공지능 도입에서도 발생하는
국가적인 문제로 보일 수 있지만, 기업의 AI 도입에서도 동일한 문제가 발생할 수 있지 않겠어. 최근에는 “얼마나 빨리 생성 AI를 도입할 수 있는가”가 자주 언급돼. AI 에이전트를 도입하고, 업무를 자동화하고, 개발 속도를 높이는 것 모두 의미가 있어. 물론, 빨리 사용을 시작하는 것 자체에도 의미가 있다는 거지.
하지만 AI를 빠르게 도입해도 평가 메커니즘이 따라가지 못하면 무엇이 실제로 개선되었는지 알 수 없다. 현장의 업무만 바뀌고, 인적 평가나 조직의 역할이 바뀌지 않으므로 마찰이 발생할 수 있다. AI 에이전트가 여러 시스템을 넘어 업무를 수행한다면 최종 판단을 누가 내리고 누가 책임을 지는가라는 문제도 제기될 수 있다.
그러므로 기업의 AI 경쟁력은 단순한 도입 속도만으로는 측정할 수 없다고 생각하지 않을까.
AI 도입 속도 × 평가 속도 × 조직 학습 속도 × 거버넌스 업데이트 속도
이 네 가지 요소가 모두 갖춰야만 AI의 속도를 제대로 활용할 수 있습니다. 그중 하나만이 극단적으로 빠르다고 해서 조직 전체가 빨라지지는 않습니다.
AI로 인해 기존에 모호했던 의사 결정, 책임 분담, 승인 프로세스의 지연 문제들이 더욱 두드러지게 나타날 수 있습니다.
더욱 빠르게 도입하는 회사보다 더욱 빠르게 학습할 수 있는 회사
아모데이의 글을 읽기 시작했을 때, “AI 개발 속도를 늦춰라”는 이야기라고 생각했다. 하지만 생각해보니 조금 달랐다.
질문되는 것은 AI를 가속화하느냐, 지연시키느냐는 이분법이 아니다.
AI의 발전 속도와 인간의 학습 속도를 어떻게 맞춰나갈 것인가.
이런 문제가 아니라고 생각합니다.
이전 글에서 페트로프을 따라가면서 기술이 조직의 운영체제(OS)에 영향을 미치면 의사 결정이나 권한 배분까지 바뀌어야 할 수 있다는 점을 언급했다. 이번에는 그 운영체제를 업데이트하는 속도 자체가 문제로 다루어지고 있다.
기업이든 국가든, 앞으로 가장 강한 것은 AI를 가장 빠르게 도입한 조직이 아니라, AI에 대해 가장 빠르게 배우고 자신만의 시스템을 업데이트할 수 있는 조직일지도 모른다.
AI의 속도를 지켜보면, 어쩔 수 없이 “너무 빠르다”라고 말하고 싶어진다. 하지만 그때 진정으로 고민해야 할 것은,
AI는 너무 빠른 걸까요. 아니면 우리가 아직 늦은 걸까요.
그러고 싶을 것이다.
자, 우선 이 기획의 개념을 다시 설명드리겠습니다. 이 플랫폼은 독자들이 자신의 취향에 따라 자유롭게 이야기를 창작할 수 있는 곳입니다. 물론, 전문 작가와 같은 수준 높은 작품을 발표하는 것도 가능합니다. 하지만 가장 중요한 목적은 독자들이 자신의 머릿속에 있는 아이디어를 구체화하여 이야기로 표현하는 것입니다.
구체적으로, 먼저 독자들이 자신이 좋아하는 장르, 캐릭터, 배경 설정 등을 자유롭게 선택할 수 있습니다. 그리고 그 선택에 따라 이야기의 줄거리를 구상하고 등장인물을 창조하며 이야기를 써나갑니다. 물론, 줄거리 작성이나 캐릭터 설정, 문장 표현 등에 어려움이 있다면 전문 스태프가 조언과 지원을 제공합니다.
이 플랫폼의 가장 큰 특징은 독자들이 자신이 쓴 이야기를 다른 독자들과 공유하고 피드백을 받을 수 있다는 점입니다. 또한 다른 독자의 이야기를 읽거나 댓글을 보내는 것만으로도 자신의 작품을 더욱 발전시키기 위한 영감을 얻을 수도 있습니다.
더욱이 이 플랫폼에서는 독자들의 이야기 중에서 뛰어난 작품을 선정하여 전문 작가가 편집하고 교정하여 책으로 출판하는 기획도 검토하고 있습니다. 물론, 이는 독자들의 창작 활동을 지원하기 위한 것일 뿐, 모든 작품이 책으로 출판되는 것은 아닙니다.
마지막으로, 이 기획은 독자들이 자신의 이야기를 창작하는 즐거움을 최대한 경험할 수 있는 혁신적인 플랫폼이 되도록 노력할 것입니다.
인공지능의 발전으로 인한 우려에 공감하지만, 이러한 우려가 과장되었다고 생각합니다. 인공지능은 아직 초기 단계이며, 우리에게는 충분한 시간이 있습니다.
인공지능이 우리 삶에 미치는 영향은 매우 클 것입니다. 인공지능은 의료, 교육, 교통 등 다양한 분야에서 더 나은 서비스를 제공할 수 있습니다. 하지만 인공지능이 우리에게 부정적인 영향을 미칠 가능성도 배제할 수 없습니다. 인공지능은 일자리 감소를 야기하거나, 인간을 통제하거나 심지어 파괴적인 결과를 초래할 수도 있습니다.
우리는 인공지능의 위험을 최소화하기 위해 노력해야 합니다. 인공지능을 책임감 있게 개발하고 사용하는 것은 물론, 인공지능이 우리에게 해를 끼치지 않도록 주의해야 합니다.
인공지능의 미래는 불확실하지만, 저는 인공지능이 우리에게 긍정적인 영향을 미칠 것이라고 믿습니다. 우리는 인공지능을 활용하여 더 나은 세상을 만들어갈 수 있습니다.
특히, 2023년 11월 16일에 발표된 OpenAI의 연구에 따르면 GPT-4는 98%의 정확도로 다양한 시험에서 인간 수준의 성능을 보였습니다. 이는 인공지능이 빠르게 발전하고 있으며, 우리에게 더 많은 가능성을 제시한다는 것을 의미합니다.
우리는 인공지능의 발전을 지속적으로 주시하며, 위험을 최소화하고 혜택을 극대화하기 위해 노력해야 합니다.
OpenAI, 연구 가속화: OpenAI 내부 시점
OpenAI는 연구 가속화를 위해 다양한 노력을 기울이고 있습니다. 특히, 연구자들에게 필요한 자원과 환경을 제공하고, 협업을 촉진하며, 혁신적인 아이디어를 현실로 구현할 수 있도록 지원하는 데 중점을 두고 있습니다.
최근 OpenAI는 ‘GPT-3’와 같은 대규모 언어 모델(Large Language Model, LLM) 개발에 집중하며, 이를 통해 다양한 분야에서 활용 가능한 혁신적인 솔루션을 제공하고자 노력하고 있습니다. 또한, ‘DALL-E 2’와 같은 이미지 생성 모델 개발을 통해 창작 활동을 지원하고, 연구자들의 새로운 가능성을 열어두고 있습니다.
OpenAI는 이러한 연구 활동을 지원하기 위해 ‘Superalignment’ 프로젝트를 통해 안전하고 신뢰할 수 있는 AI 시스템 개발에 힘쓰고 있습니다. ‘Superalignment’ 프로젝트는 AI가 인류의 가치와 목표에 부합하도록 설계될 수 있도록 하는 것을 목표로 하며, 이는 OpenAI의 핵심 연구 방향 중 하나입니다.
OpenAI는 또한 연구자들과의 협업을 장려하고 다양한 연구 커뮤니티를 지원하고 있습니다. 이를 통해 OpenAI는 연구의 효율성을 높이고, 새로운 아이디어를 발굴하며, 혁신적인 솔루션을 개발하는 데 기여하고 있습니다.
OpenAI는 앞으로도 연구 가속화를 위한 노력을 지속하며 인류의 삶에 긍정적인 영향을 미치는 AI 기술 개발에 앞장설 것입니다.
OpenAI, AI 다음 단계 구축 기준
OpenAI는 인공지능(AI)의 다음 단계 발전을 위한 구축 기준을 발표했습니다. 이 기준은 AI 시스템 개발 및 배포 과정에서 일관성과 안전성을 확보하고, 잠재적인 위험을 최소화하는 데 중점을 둡니다.
OpenAI는 현재 AI 기술이 빠르게 발전하고 있지만, 그만큼 윤리적, 사회적 문제에 대한 우려도 커지고 있다고 지적합니다. 특히, AI 시스템이 악용될 가능성, 편향된 데이터로 인한 차별 문제, 일자리 감소 등 다양한 문제에 대한 심각성을 인지하고 있습니다.
따라서 OpenAI는 AI 개발자, 기업, 정부, 학계 등 다양한 이해관계자들이 협력하여 AI 기술을 책임감 있게 발전시켜 나가야 한다고 강조합니다. 이를 위해 OpenAI는 다음과 같은 핵심 구축 기준을 제시합니다.
**1. 투명성 및 설명 가능성:**
AI 시스템의 작동 방식, 데이터 사용, 의사 결정 과정 등을 투명하게 공개하고, 사용자가 AI 시스템의 판단 근거를 이해할 수 있도록 설명 가능성을 높여야 합니다. 이는 AI 시스템의 신뢰도를 높이고, 오류나 편향을 발견하고 수정하는 데 도움이 됩니다.
**2. 책임성 및 책임 소재 명확화:**
AI 시스템의 개발, 배포, 사용 과정에서 발생할 수 있는 문제에 대한 책임 소재를 명확히 해야 합니다. AI 시스템의 오작동으로 인한 피해 발생 시, 개발자, 운영자, 사용자 등 관련 주체들이 책임을 져야 하며, 이에 대한 법적, 윤리적 기준을 마련해야 합니다.
**3. 안전성 및 보안 강화:**
AI 시스템이 예상치 못한 방식으로 작동하거나, 악의적인 공격에 취약하지 않도록 안전성과 보안을 강화해야 합니다. AI 시스템의 설계 단계부터 안전성을 고려하고, 정기적인 보안 점검을 통해 취약점을 제거해야 합니다.
**4. 데이터 관리 및 편향 방지:**
AI 시스템 학습에 사용되는 데이터의 품질을 확보하고, 편향된 데이터로 인한 차별 문제를 방지해야 합니다. 데이터 수집 단계부터 편향을 최소화하고, 학습 알고리즘을 통해 편향을 제거하는 기술을 개발해야 합니다.
**5. 인간 중심의 AI 개발:**
AI 시스템이 인간의 가치와 존엄성을 존중하고, 인간의 삶을 풍요롭게 하는 데 기여하도록 인간 중심의 AI 개발을 추진해야 합니다. AI 시스템이 인간의 일자리를 대체하는 대신, 인간의 능력을 보완하고 새로운 기회를 창출하는 방향으로 발전해야 합니다.
OpenAI는 이러한 구축 기준을 바탕으로 AI 기술의 안전하고 책임감 있는 발전을 위한 노력을 지속할 계획입니다. 또한, AI 기술 개발의 글로벌 표준을 마련하기 위해 국제적인 협력을 강화할 것입니다.
OpenAI는 또한, AI 기술의 발전 속도를 늦추거나 특정 기술의 개발을 막는 것이 아니라, AI 기술이 인류에게 긍정적인 영향을 미칠 수 있도록 돕는 것을 목표로 합니다. OpenAI는 AI 기술의 잠재력을 최대한 활용하면서도, 동시에 발생 가능한 위험을 최소화하기 위한 균형 잡힌 접근 방식을 추구할 것입니다.
AP, AI 경쟁사들이 드물게 안전 문제에 대한 합의를 이끌어냈다. 실제 적용은 더 어렵다.
The Guardian, 중국 ‘괴물’ 논쟁은 미국 기업들의 인공지능 종말론적 시나리오를 드리운다는 비판을 받는다. 다리오 아마데이(Dario Amodei)는 “중국이 AI 기술을 개발하는 방식에 대한 우려가 상당하다”고 말하며, “미국 기업들은 중국의 AI 기술 발전에 대한 경쟁 압박을 감당하기 위해, AI의 잠재적 위험에 대한 극단적인 시나리오, 즉 ‘종말론’을 설정하고 있다”고 지적했다. 그는 “이는 중국을 ‘괴물’로 묘사하는 데 지나지 않으며, 실제로는 미국 기업들이 자신의 경쟁 우위를 확보하기 위해 만들어낸 이야기일 뿐”이라고 주장했다.
“미국 기업들은 중국의 AI 기술이 미국 시장에 대한 위협으로 간주하고 있으며, 이는 미국 정부의 외교 정책에도 영향을 미치고 있다”고 아마데이(Amodei)는 설명했다. “미국 기업들은 중국의 AI 기술 개발을 억제하기 위해, 중국을 ‘기술적 경쟁자’로 낙인찍고 있으며, 이는 미국 외교 정책의 중요한 부분으로 자리 잡고 있다.”
그는 “중국이 AI 기술을 개발하는 방식에 대한 우려가 과장되었다”고 강조하며, “중국은 AI 기술 개발에 막대한 투자를 하고 있으며, 빠르게 발전하고 있다”고 덧붙였다. “중국이 AI 기술을 개발하는 방식에 대한 우려를 해소하기 위해서는, 중국의 AI 기술 개발에 대한 투명성을 높이고, 국제적인 협력을 강화해야 한다”고 주장했다.
아마데이(Amodei)는 “미국 기업들이 중국을 ‘괴물’로 묘사하는 것은, 미국 기업들의 경쟁 우위를 확보하기 위한 전략일 뿐”이라고 강조하며, “미국과 중국은 AI 기술 분야에서 협력 관계를 구축해야 한다”고 제안했다. “미국과 중국은 AI 기술 분야에서 경쟁하는 동시에 협력하는 관계를 구축해야 한다.”
The Guardian, 수요일 브리핑: 왜 기술 기업들이 우리에게 인공지능이 ‘우리 모두를 죽일 것’이라고 믿게 되어 기쁠 수 있을까.
미국 연합통신(AP) 보도: Anthropic, OpenAI, SpaceX, Google가 인공지능(AI) 속도 저하에 대한 불법 합의 혐의를 받는다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 42청크
원문 보기 | 출처: note.com