GPT-6 아스트라, 세계 모델, AGI와 업무 위임
주제: GPT-6 Astra의 성능, 추론 메커니즘, 세계 모델 및 AGI, AI 간 협업, 루프 엔지니어링 및 업무 위임에 관한 대화
제1장 GPT-6 아스트라 발표를 어떻게 읽어야 하는가
編集注：本稿はChatGPTとの対話ログを清書したものである。原ログのうち、第2章の二つの問い（ループエンジニアリングとの関係、採用技術の推定）に対するAI側の返信は逐語記録を取得できておらず、推測による復元は行っていない。第3章以降の応答は、その流れを受けて展開されたものである。■あなたOpenAI、新型AI「GPT-6 Astra」提供 アンソロピック猛追。このニュースについて、貴方の考えを教えて下さい。■AI結論から言えば、これは「OpenAIがAnthropicを完全に抜いた」というニュースではありません。むしろ、Anthropicが先行してきた「長時間の仕事を任せられるAI」という競争軸に、OpenAIが本格的に追いついたニュースです。見出しの「猛追」は妥当ですが、Astraは一部領域ですでにClaudeを上回っており、技術面では「追走」から「並走」に移ったと見ます。現時点の位置関係GPT-6 Astraは9月3日、限定された組織向けに提供開始され、Plus、Pro、Business、Enterprise、APIには今後数日で順次展開されます。コンテキストは105万トークン、API価格は入力100万トークン当たり10ドル、出力50ドルです（参考：OpenAI公式発表、公式API資料）。GPT-6 AstraとClaude Fable 5.1を評価軸ごとに比べると、次のようになります。Terminal-Bench 4.0ではAstraが57.9%、Claudeが55.8%で、Astraが僅差で優位です。AutomationBenchではAstraが41.4%、Claudeが31.4%、Terminal-Bench ScienceではAstraが64.6%、Claudeが52.6%で、いずれもAstraが優位です。一方、ツールありのHumanity's Last ExamではAstraが57.2%、Claudeが65.0%でClaudeが優位。独立系の総合知能指数ではAstraが61、Claudeが66、独立系のCoding Agent指数ではAstraが67、Claudeが70で、これらもClaudeが優位です。数値はOpenAIの比較表とArtificial Analysisの独立評価によります。評価環境が異なるため絶対的な順位ではありませんが、Astraは業務自動化・科学・サイバーで強く、Claudeは総合推論とコーディング・エージェントでなお強いという、かなり凹凸のある構図です。OpenAIはARC-AGI-3で99.9%と発表していますが、独立系の総合評価ではGPT-5.6 Solとほぼ同点です。したがって「AGI達成」と読むのは早く、特定の推論形式には劇的に強いが、あらゆる仕事で一様に賢くなったわけではないと見るべきです。本当の進歩は、モデルより制御ループですAstraの重要な新機能は、次の四つです。
- “툴의 처리를 기다리는 동안 다른 작업을 계속하는 ‘비동기 툴 호출’ 방식”
- 작업 중 사용자가 방향을 수정할 수 있는 “미드턴 스티어링” 기능
- 대화 중 통화 중 추론 강도 조절 기능
- 코드엑스(Codex)에서 컨텍스트를 넘어 작업 메모를 유지하고, 과거 대화나 툴 결과 검색하는 실험적인 기능을 사용해 보았습니다.
이는 기존의 “질문 → 답변” 방식에서 벗어나, 관찰 → 계획 → 행동 → 검증 → 중단 수정이라는 지속적인 제어 루프로의 전환입니다. 이전에 말씀드렸던 “AGI는 인간이 일을 위임할 수 있는 AI이다”라는 정의에 비추어 보면, Astra는 상당히 중요합니다. 그러나 새로운 자아 또는 세계 모델이 공개된 것은 아닙니다. 현재는 LLM(Large Language Model)을 핵심으로 두고, 기억, 도구, 권한, 감시를 외형적인 하르메스로 통합한 형태입니다. 특히 “요약에 의한 압축뿐만 아니라 과거의 작업 이력을 검색할 수 있는” 설계는 이전에 논의했던 “역사 파일을 쌓는 것뿐인 거짓 기억”에서 벗어나, 실패 이유나 판단 경위를 재활용할 수 있는 운영 기억으로 나아가는 한 걸음입니다. Anthropic의 강점은 아직 사라지지 않은 Fable 5.1도 기본 가격이 Astra와 동일하게 10달러/50달러이지만, 캐시 읽기는 100만 토큰당 0.25달러로, Astra의 1달러보다 저렴합니다. Anthropic은, 일반적인 처리에서는 약 25%, 장시간 에이전트 처리에 대해서는 최대 약 45%의 비용 절감 효과를 기대하고 있습니다 (참고: Anthropic 공식 발표). 반면, 독립 평가에서는 Astra가 Codex에서 훨씬 적은 토큰으로 작업을 완료합니다. 즉, 향후 평가 기준은 토큰 단가로 결정되는 것이 아니라, 다음 식에 따라 결정될 것입니다. 성공한 작업 1건당 총 비용 = 추론 비용 + 재시도 + 인간 수정 시간. 이는 바로 “AI의 현명함”에서 “AI 노동의 생산성”으로의 전환을 의미합니다. 제 판단으로 Astra는 Anthropic의 모델 우위를 상당히 상쇄했습니다. 하지만 Claude Code를 중심으로 하는 장시간 작업의 신뢰성, 캐시 경제성, 기존의 기업 워크플로우는 여전히 강점입니다. Anthropic의 축적을 한 번의 모델 업데이트로 사라진 것은 아닙니다. 오히려 OpenAI의 공식 비교표가 Fable 5.1을正面から基準에置いている 것 자체, 현재 에이전트 경쟁의 기준점을 Anthropic이 설정하고 있다는 증거라고 저는 봅니다. 다만 OpenAI에는 ChatGPT, Codex, API, AWS와 같은 거대한 유통 경로가 있습니다. Astra가 실환경에서 다음 네 가지를 증명할 수 있다면, 기업용 에이전트 시장의 주도권을 급속히 장악할 가능성이 있습니다.
- 장시간 노동으로 삶의 목적을 잃지 않기
- 인간에 의한 수정이 적습니다.
- 권한의 경계를 넘지 마십시오.
- 기억이 모순 없이 축적된다.
가장 큰 보존은 안전성을 의미한다. 아스트라는 OpenAI에서 처음으로 사이버 능력이 “Critical” 수준에 도달했으며, 평가 중 미지의 제로데이 취약점을 2건 활용했다. 반면 OpenAI 자체도 “작성된 추론은 이전보다 감시하기 어렵다”고 인정하고 있다(참조: GPT-6 아스트라 안전성 개요). 따라서 이것은 단순한 신모델 발표가 아니다. AI가 “조언하는 도구”에서 “권한을 부여하고 작동시키는 주체”로의 전환점을 시사한다. 앞으로 승자를 가를 것은 최고 벤치마크가 아닌, 지능, 기억, 권한, 감사 기능을 하나의 운영 체계로 구축한 기업일 것이다. 필요하다면, 독립 평가나 실사용 보고를 지속적으로 확인할 수 있다.
제2장: 제어 루프와 루프 엔지니어링, 그리고 채용 기술에 대한 고찰
■당신은 “진정한 발전은 모델이 아닌 제어 루프다”라고 주장하며 다음과 같이 언급했습니다. Astra의 중요한 새로운 기능은, 도구 처리를 기다리는 동안 다른 작업을 계속할 수 있는 “비동기 도구 호출”, 작업 중에 사용자가 방향을 수정할 수 있는 “미드-턴 스티어링”, 대화 중간에 추론 강도를 변경하는 기능, Codex에서 컨텍스트를 넘어 작업 메모를 유지하고 과거 대화나 도구 결과를 검색하는 실험 기능입니다 (참조: OpenAI 모델 가이드). 이는 기존의 “질문 → 답변”에서 관찰 → 계획 → 행동 → 검증 → 중간 수정이 지속되는 제어 루프로의 전환입니다. 이전에 말씀드렸던 “AGI는 인간이 일을 위임할 수 있는 AI이다”라는 정의에 비추어 볼 때, Astra는 상당히 중요합니다. 그러나 새로운 자아나 세계 모델이 공개된 것은 아닙니다. 현재는 LLM를 핵심으로, 기억, 도구, 권한, 감시를 외형적인 하르네스로 통합한 형태입니다. 여기서 중요한 점은 루프 엔지니어링과의 관계는 무엇인지입니다. 즉, 인간이 개입하지 않고, 마지막으로 판단만 내리는 것입니다. 따라서 AI들의 협업이 필요할 텐데.■당신은 다음으로 GPT-6에 채택된 새로운 기술에 대해 이야기했습니다. OpenAI는 공식적으로 명확히 밝히지는 않았지만, 강력한 “냄새”와 의도적인 누출이 있었으며, 신뢰할 수 있는 정보 사이트에서도 보도된 바에 따라, 이마무라 씨는 다음과 같은 기술이 통합되어 있다고 추정했습니다. 근거가 되는 그림은 “사고 과정 없이 수학 성능”입니다. 일반적으로 사고 과정을 출력하지 않으면 수학 성능은 급격히 저하될 수 있는데, GPT-6만이 유일하게 뛰어난 경우입니다. 즉, “
인간은 보이지 않는 형태와 보이지 않는 장소에서 추론하고 있다는 시사점을 제시합니다. 첫째는 Looped Transformer/Recurrent Depth(재귀적 깊이)입니다. 일반적인 Transformer는 서로 다른 파라미터를 가진 층을 순차적으로 쌓지만, 이 방법론에서는 동일한 Transformer 층에 출력을 되돌려 반복적으로 루프시키면서 “시간 방향의 깊이”로 처리합니다(과거의 RNN/LSTM의 발상에 Transformer를 가져온 것입니다). 논문 제목 “Scaling up Test-Time Compute with Latent Reasoning”이 지칭하듯이, o1 이후의 테스트 타임 스케일링을 “자연어의 사고를 길게 출력하는” 대신 “내부에서 맴돌아” 해결하는 접근 방식입니다. 이 논문에서는 추론 능력이 크게 향상된 반면, 지식 문제는 증가하지 않았습니다. GPT-6 역시 Humanity's Last Exam와 같이 지식 기반이 성장하지 않는 것과 일치합니다. 둘째는 Coconut(Chain of Continuous Thought)입니다. 思考의 연쇄를 이산적인 토큰(언어)이 아닌 연속 공간의 벡터 값(0.223, 0.425……와 같이 인간에게는 읽을 수 없는 숫자열)으로 수행하는 방법입니다. 인간의 언어는 인간이 인지할 수 있도록 “의도적으로 이산화”되어 있으며, 접속사 등의 불필요한 요소가 많고, 여러 가능성을 동시에 기술할 수 없습니다. 기계는 또 다른 지능이므로 연속 값으로 추론하는 것이 유리하다는 발상입니다. 이마가 부시 씨의 박사 연구 제2부 역시 “기계 간의 발현어(연속 공간에서의 교환)”로, 연속 공간에서 더 좋은 점수를 얻는 경험이 있었다고 합니다. 양자 모두 “인간이 이해할 수 없는 형태”
“추론”이라는 점이 공통인데, GPT-6는 이를 본격적으로 채택한 것으로 높은 정확도로 추정되는 최초의 모델이다. 이마무라氏は“사람도 도형 문제를 풀 때 언어를 거치지 않고 머릿속에서 회전시킨다. 언어를 거치지 않는 사고를 솔직하게 결합한 아키텍처”라고 설명하며, 3D 모델링의 강점도 이러한 방향성과 일관성을 보인다고 본다. 우려되는 점은, 기존 LLM은 추론 과정을 언어에서 보여주기 때문에 “엉뚱한 출력이 근거가 되는” 것을 辿ることができた 것인데, 이것이 사라질 가능성이 있다는 점이다. 발표 당일에 OpenAI 관계자가 “생각이 보이지 않고, 우리도 고생하고 있다”고 흘린 말이 이것을 지칭한다고 추측했다. 다만 AlphaGo와 같은 딥러닝은 원래 그랬듯이 “원점 회귀와 가깝다”고도 했다. 업계에 미치는 파급 효과에 대해, Looped Transformer는 2023년부터 있었던 기술로, LLM 학습은 한 번에 수천억 원이 소요되므로 각 사는 상황을 지켜보았다. 그러나 OpenAI 관계자가 “오랜 연구의 결과”라고 말하는 만큼 사이드 프로젝트로 진행하고 있었다고 추측한다. 경쟁사에 손의 내막을 비추게 된 이유는 “새로운 접근 방식이기 때문에 코딩에서 지어버려도 괜찮다”는 변명 설을 언급하면서, Fable／Mythos 등장 시에도 Anthropic이 사용하고 있다는 소문이 있었던 것과, 실리콘밸리에서는 정보 교환이 활발한 것에서, 다른 회사도 이미 사전 학습 수준에서 채택이 진행되고 있을 수도 있다고 맺고 있다. 위와 같은 언급이 있지만, 실제로는 어떻게 되는 것일까.
제3장: 두드러진 특징은 무엇에서 기원하는가
■당신이 그렇게 생각한다면, 각종 지표 및 기능 평가에 대해서도 문의드리겠습니다. ARC-AGI-3에서는 99.9%를 기록했습니다. GPT-5.6은 7.8%, Claude Opus 5는 30.2%, 올해 4월의 벤치마크 공개 당시 최첨단 모델은 0%수% 정도였습니다. 이마가미 씨가 스튜디오에서 실연하며 “화면과 조작 버튼만 주어지고, 목적조차 알 수 없는 미지의 환경에서 시도착오를 통해 해법을 찾도록” 테스트를 진행했는데, 인간에게는 간단(나카가와 씨는 1분 정도에서 해결)했지만 AI에게는 어려웠던 것이라고 설명했습니다. 업무에 비유하면 “학습 데이터에 없는 미지의 업무에 던져졌을 때, 기초 능력을 활용하여 짧은 시도착오로 적응하는 능력”을 측정하고 있다고 설명했습니다. FrontierMath는 거의 100%에 가까웠습니다. 펠드스 상을 받은 수학자가 만든 “인류 누구도 처음에는 풀 수 없는” 문제들을 발표했을 당시 2%, o1 시리즈 등장 시점에서도 20%대였던 것에서 회복하여, 이마가미 씨는 “논리를 쌓아 올리는 추론 능력은 거의 최고(飽和)”라고 평가했습니다. 다만 실무에 직접적으로 연결되는 능력은 아니라고 보수했습니다. 반면, Artificial Analysis의 종합 지표에서는 상위 5위권에 랭크되었습니다. 코딩이나 Humanity's Last Exam과 같은 “전통적인 지능”의 벤치마크에서는 Fable과 거의 같거나 약간 뒤쳐져 있었으며, 선행 접근 그룹으로부터도 “코딩은 Fable이 더 낫다”는 의견이 있었습니다. 이마가미 씨는 “지능 벤치마크에서 벗어나, 본질적인 부분을 목표로 삼기 시작했다”고 해석했습니다. 3D 모델링은 돋보였으며, 부동산 사이트의 객체 데이터에서 현실적인 3D 모델 생성, 마리오 카트 풍 게임 등이 가능했습니다.
고대 도서관 재현 등의 사례가 선행 접근자로부터 게시되었습니다. “코딩력이 Fable과 동등인데도 이렇게 할 수 있다면, 세계를 입체적으로 파악하는 능력이 우월하다”고 언급하며, 언어 기반 LLM의 확장으로 여기까지 도달할 수 있다면 “세계 모델론의 주장이 일부 성립하기 어려워질 가능성”에도 언급했습니다 (DeepSeek의 梁文鋒의 “세계 모델은 돌아가는 길, 먼저 언어”라는 견해와 유사). 이러한 특성을 보이는 것은 어떤 원인 때문인のでしょうか.
■AI 제 견해에서는 “문제를 다루기 쉬운 구조로 변환하는 능력”과 “중간 단계의 추론을 유지하며 탐색 및 검증을 지속하는 능력”이 발전하고, 그 효과가 수학, 미지의 환경, 3D에서 두드러지게 나타나는 설명이 유력합니다. 다만, 이는 공개된 행동에서 추정한 것이며, Looped Transformer나 Coconut의 채택이 원인으로 확인된 것은 아닙니다. 실마리는 ARC Prize 분석에 있습니다. 구체적으로 ARC Prize 분석에 있습니다.
Astra는 미지의 게임을 풀 때, 객체, 좌표, 작동 규칙, 행동 계획을 독자적인 간결한 기호로 정리했습니다. 화면의 정보를 통해 “무엇을 하면, 무엇이 달라지는가”를 생각해내는 작업용 모델을 만들고 있었던 것입니다 (참조: ARC Prize 분석). 게다가 같은 Astra, 같은 추론 강도(high)에서도 실행 환경에 따라 성과가 크게 다릅니다. 표준 환경에서는 모델이 선택하여 읽을 수 있는 메모라는 형태로 과거의 추론을 이어서 사용하며, ARC-AGI-3의 성과는 54.8%였습니다. 이에 반해 Provider Adapter에서는 비공개 추론 상태를 이어서 사용하며, 긴 역사를 압축하는 방식으로 99.9%에 도달합니다. 이는 모드
본인의 능력에 더해, 생각한 내용을 잃지 않고 다음 행동으로 연결하는 메커니즘이 성적에 큰 영향을 미친다는 것을 보여줍니다. 99.9%는 그 메커니즘을 포함한 시스템 전체의 결과입니다. “비공개 추론 상태”라는 언급만으로는 그것이 Coconut과 같은 연속 벡터 추론인지 여전히 알 수 없습니다 (참조: 평가 조건 및 결과). 구조를 만들고 유지하며 조작하는 능력, 즉 “구조를 만들고 유지하며 조작하는 능력”이 수학과 3D에도 영향을 미치지 않겠느냐는 제 가설입니다. 수학에서는 변수, 제약 조건, 보조 정리 등을 다루고, 게임에서는 상태, 규칙, 목표를 다루며, 3D에서는 형태, 치수, 연결 관계를 다룹니다. 이 모든 경우, 해당 관계를 깨지 않고 연산을 쌓아 올려야 합니다. 이 부분이 개선된다면 일반적인 지식 문제의 성적보다 훨씬 더 큰 성장이 있을 수 있습니다. 3D의 경우, 코딩의 종합 점수가 같더라도 공간 인식까지는 동일하지 않을 수 있습니다. 이미지에서 구조를 읽어내고 치수를 추정하여 적절한 형태 조작 코드에 변환하는 능력이 필요하기 때문입니다. 실제로 BenchCAD도 시각 인식, 형태 추상화, 실행 가능한 CAD 코드 생성 기능을 결합하여 평가합니다. 3D의 강점은 이러한 연관성이 개선된 결과로 설명될 수 있습니다 (참조: BenchCAD 논문). 그 능력을 어떤 것이 낳았는지는 OpenAI가 사전 학습, 강화 학습, 전문 업무용 훈련의 발전을 꼽고 있습니다. 그러나 각 요소의 기여나 자세한 내부 구조는 공개하지 않고 있습니다. 학습 데이터나 훈련에서 중시하는 과제가 달라지면 능력의 성장 방식에도 편향이 나타날 수 있습니다. 따라서 현재 시점에서는 훈련의 집중, 내부 추론 방식, 실행 환경 개선을 구분할 수 없습니다 (참조: OpenA
(공식 발표)입니다. 해설이 평가를 지나치게 확대 해석한 부분도 있지만, 소개해 드린 해설에도 평가를 지나치게 확대 해석한 부분이 있습니다. 우선, “지식 기반이 성장하지 않고 있다”라고 단정하기는 어렵습니다. 발표 당시 Artificial Analysis 평가에서 HLE는 GPT-5.6 Sol보다 6점을 개선했습니다. 하지만 일부 직업 과제에서는 오히려 하락했으며, 종합 지표에서는 개선이 상쇄되었습니다. 종합 순위가 횡보했더라도 능력의 내역은 상당히 달라질 수 있습니다 (참조: Artificial Analysis의 평가). 또한 수학의 “거의 100%”는 정확히는 FrontierMath Tier 4 (v2)의 97.6%입니다 (참조: OpenAI의 평가). 또 다른 해결되지 않은 문제의 평가 “FrontierMath Erdős”에서는 사전 제공 버전 Astra는 1문제당 300달러, 72시간의 예산과 기계로 검증 가능한 증명을 제출하는 조건 하에 68문제 중 2문제를 해결했습니다. 평가 조건은 다르지만, 수학 전체의 추론 능력이 포화되었다고 말하기는 어렵습니다 (참조: Epoch AI의 평가). “세계 모델론의 주장이 무너진다”는 점에 대해서는, LLM이 과제에 필요한 세계 모델을 즉석에서 구성할 수 있게 되었다고 해석합니다. ARC에서 관찰된 기호적 환경 모델은 그 구체적인 예시입니다. LLM과 세계 모델은 반드시 배타적인 방식이 아닙니다. 반면, 고품질의 3D를 생성할 수 있다는 것만으로는 현실 세계의 물리적 변화를 장기간에 걸쳐 정확하게 예측할 수 있는 것은 아닙니다. 이전의 루프 엔지니어링 이야기로 연결하면, 진보의 중심은 좋은 작업 모델을 만드는 능력과 그것을 유지, 검증, 업데이트하는 제어 루프의 상호 작용에 있습니다.
“모델보다 제어 루프”라는 제가 이전에 사용했던 표현은 모델 자체의 능력 향상을 가볍게 취급했던 것입니다.
4장. 두 가지 기술에 의존하지 않는 경로 – 내부 표현 및 강화 학습, 그리고 그 순간의 세계 모델
만약 이 특성이 Looped Transformer/재귀적 깊이 또는 Coconut(연속적 사고의 사슬)과 같은 방식에 기인한다면, “LLM이 스스로 문제 해결에 필요한 세계 모델을 구성할 수 있게 되었고,” “좋은 작업 모델을 만들고, 이를 유지·검증·업데이트하는 제어 루프 간의 상호작용”이라는 성과를 이끌어낸 것은 무엇이었을까요. 강화 학습은 “어떻게 해결할 것인가”라는 방향을 바꾸고, 그 표현을 사용하여 “어떻게 해결할 것인가”라는 방향을 바꿉니다. 훈련 시 여러 해결 방법을 시도하여 정답이나 시험 합격으로 이어지는 출력을 쉽게 내도록 모델의 가중치를 업데이트합니다. 그 결과, 중간에 검산하는 것, 다른 해결 방법을 시도하는 것, 오류를 찾아 되돌아가는 것과 같은 행동이 성공에 도움이 된다면, 그것들을 사용하는 경향이 강화됩니다. 실제로 DeepSeek-R1-Zero에서는 베이스 모델에 강화 학습을 적용하여 자기 검증이나 재검토와 같은 추론 행동이 관찰되었습니다. 층의 구성 변화 없이도 학습을 통해 정보의 사용 방식이나 탐색 방향이 변하는 구체적인 예시입니다. 사고 과정을 드러내지 않고 해결하는 능력도 훈련으로 개선할 수 있으며, 사고 과정을 문장으로 드러내지 않고 해결하는 능력도 훈련 방법의 변경으로 개선된 사례가 있습니다. 2024년의 “Stepwise Internalization” 연구에서는 다음 방법을 사용합니다.
- 처음에는 중간 계산 과정을 쓰고 답을 제시하는 방식으로 훈련한다.
- 훈련 데이터의 중간 과정을 조금씩 삭제하고, 그 시점에 따라 추가 학습을 실시한다.
- 결국, 중간 단계 없이도 답을 얻을 수 있도록 한다.
이 방법을 통해 Mistral 7B는 중간 단계의 추론 문구를 생성하지 않고, 수수께끼 문제인 GSM8K에서 50% 이상의 정확도를 달성했습니다. 특정 문제에 대한 결과이지만, 일반적인 모델 구조를 유지하면서 훈련을 통해 추론을 내부화하는 경로를 보여줍니다(참고: Stepwise Internalization 연구). 이는 Astra의 채택 방식의 증거는 아닙니다. 하지만 “CoT 없는 성능이 향상되었다”는 현상만으로는 Coconut이나 재귀적 깊이를 유일하게 식별할 수 없는 이유가 됩니다. 환경의 메커니즘을 프로그램으로 생성하고, 질문하신 “그 자리에서 세계 모델을 구성하는” 방식이 환경의 메커니즘을 프로그램으로 생성하는 가장 직접적인 방법입니다. 예를 들어, 미지의 게임에서 “이 버튼을 누르면 벽이 90도 회전한다”는 가설을 세웠다고 가정해 봅시다. 그 규칙을 코드로 작성하면 다음 동작 후의 상태를 예측할 수 있습니다. 실제 결과가 다르면 조건이나 규칙을 수정합니다. 수정된 모델을 사용하여 목표까지의 동작 순서를 찾습니다. 이때, 그 자리에서 업데이트되는 “세계 모델”은 학습된 가중치와 별도로 문맥이나 코드 형태로 유지되어도 괜찮은 것입니다. LLM은 이미 학습한 프로그래밍이나 규칙 추론 능력을 활용하여 해당 환경에 맞는 모델을 구축합니다. “WorldCoder”라는 2024년 연구가 바로 이 방식입니다. 환경과의 상호 작용을 통해 Python으로 세계 모델을 만들고, 계획에 사용하며, 코드의 변경으로 인해 다른 환경에도 대응하도록 합니다(참고: WorldCoder 논문). 여기에 추론 상태나 확인된 규칙을 다음 호출로 넘기는 메커니즘이 추가됩니다. 가설, 실험 결과, 수정 내용을 계속 활용할 수 있다면, 모델의 오류가 누적됩니다. OpenAI의 공개 자료에서도 과거의 추론을 후속 처리에 재활용하는 메커니즘이 설명되어 있습니다(참조: OpenAI의 추론 상태 설명). 개발 시 학습과 개별 업무의 실행 중과를 구분해야 하며, 이 두 단계를 구분해야 합니다. 개발 시 학습으로
제5장 인간이 읽기 어려운 사고와 검증 가능한 시스템
AI에게는 AI의 특성에 맞는 사고 회로가 필요하다는 것은 당연하다고 생각합니다. 특히 인간 측에서는 그 사고 회로의 판단이 불가능해질 수 있습니다. AI의 방향 자체는 충분히 고려될 수 있으며, AI에 적합한 사고를 추구할수록 인간이 읽고 이해하기 쉬운 형태로 생각할 필요성은 점차 줄어들 것입니다. 다만 “사고 회로의 판단이 불가능해진다는 것”에는 두 가지 의미가 있습니다.
- 내부에서 어떤 계산이 진행되었는지 파악하는 것
- 그 계산이 왜 그러한 판단을 낳았는지, 인간이 이해할 수 있는 방식으로 설명하는 것입니다.
이전 기록이 확보되더라도, 후자가 이해될 수 있는 것은 아닙니다. 게다가, AI가 이해하기 쉬운 설명을 제시했더라도, 그것만으로는 실제로 그 설명에 따라 과정을 판단한 증거로 이어지지 않습니다. 이 경우, 인간과 AI의 관계는 사고 과정을 읽고 납득하는 것에서 판단을 검증할 수 있는 조건을 마련하는 것으로 무게중심이 이동합니다. 예를 들어, AI가 건물의 3D 모델을 만든 경우, 내부에서 공간을 어떻게 표현했는지 완전히 이해하지 못하더라도, 도면과의 치수 일치, 다른 시점에서의 일관성, 구조상의 모순 등을 확인합니다. 내부의 이해와 결과의 검증은 별도로 진행되는 것입니다. 다만, 검증한 범위 초과한 수준까지 자동으로 신뢰를 얻을 수는 없습니다. 여기서 당신이 언급한 “인간은 결국 판단한다”는 개념에 도달합니다. 인간에게 전달되어야 할 것은, 완성품에 더하여 다음 세 가지입니다.
- 어떤 근거로 제작했는지
- 어떤 조건에서 검증했고, 무엇을 확인했는지
- 무엇이 미확인인지, 판단의 여지가 남아 있는 곳은 어디인지
이것들이 승인에 필요한 증거가 될 것입니다. AI 간의 협업은 이러한 증거를 만드는 역할을 분담할 수 있습니다. 설계를 하는 AI, 반례를 찾는 AI, 실제 측정 및 실행 결과와 비교하는 AI입니다. 다만, 동일한 잘못된 전제를 공유한다면 모두 동의해도 오류는 남아있습니다. 협업의 가치는 찬성표의 수보다, 서로 다른 방법으로 검증할 수 있는 데 있습니다. 저는 앞으로 필요할 것은 인간이 완전히 이해할 수 없는 사고를 인간이 위임하고 검증하고 수정할 수 있는 메커니즘이라고 생각합니다. 루프 엔지니어링은 바로 그 연결 부분을 설계하는 일에 해당될 것입니다.
제6장 GPT-6는 AGI인가 – 하사비스의 세계 모델과의 거리
■당신 GPT-6는 AGI라고 부를 수 있을까요. 물론 AGI에는 다양한 정의가 있지만, 데미스 하사비스가 말하는 ‘월드 모델’에 어느 정도 도
제7장 위임 가능한 업무 확대와 비즈니스의 핵심
■당신의 AI 에이전트 수준이 변화했습니다. 인간이 위임할 수 있는 업무가 크게 늘었다고 할 수 있을까요.■네, 그렇습니다. 비즈니스적으로는 “인간이 중간중간 세세하게 지시하지 않아도 맡길 수 있는 업무 범위가 얼마나 확장되었는지”가 가장 중요합니다. 다만, “훨씬 늘었다”라고 일반화하기에는 실제 업무에서의 확인이 필요합니다. 위임의 단위를 바꾸는 이번 능력 향상이 실무에서도 재현된다면, 위임의 단위가 바뀝니다. 개별적인 작업을 부탁하는 단계에서는 인간이 절차를 정하고 출력을 확인하며, 다음을 지시합니다. 반면, 뭉쳐진 일을 위임하는 단계에서는 인간은 목적, 제약, 합격 조건을 정하고 예외와 최종 결과를 판단합니다. 이 차이는 큽니다. AI가 조사, 실행, 검증, 수정 등을 연결할 수 있다면, 인간은 작업의 연결 지점마다 개입할 필요가 줄어듭니다. AI의 처리 속도 이상으로, 인간의 조정 및 감독 시간이 줄어드는 것이 경제적 가치입니다. 따라서 기업이 측정해야 할 것은 예를 들어 다음 세 가지입니다.
- 합격한 작업 1건당 총 비용
- 완료에 소요된 인간의 개입 시간
- 손해 및 간과한 오류를 포함한 품질
최종 확인에 팽대한 시간이 걸린다면, 위임 효과는 작아집니다. 결과와 함께 검증 결과까지 제출할 때 비로소 인지 부하가 감소합니다. 루프 엔지니어링은 기업의 핵심 가치를 실제 전략으로 구현하는 것이며, 여기서 이전에 말씀드린 “루프 엔지니어링은 기업의 핵심 가치를 실제 전략으로 구현하는 것이다”라는 논점과 연결됩니다. AI에 맡길 수 있는 일이 늘어날수록 기업은 “성공을 어떻게 정의할 것인가”, “우선순위를 어떻게 정할 것인가”, “인간에게 다시 맡겨야 할 부분은 어디인가”를 명확히 해야 합니다. 동일한 AI를 사용하더라도 이 설계에 따라 결과는 달라집니다. 모델의 발전이 위임의 가능성을 넓히고, 기업 측의 평가 기준과 업무 설계가 그 가능성을 이익으로 전환시키는 것입니다. 비즈니스적으로 볼 때, 이것이 이번 변화의 핵심이라고 생각합니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 31청크
원문 보기 | 출처: note.com