# AI는 인간의 언어로 생각할 필요가 없었다――GPT-6 Astra를 보며 생각한 것【논문을 읽고 생각한 내용】

> https://bookfactory.kr/board/ai-tech/16978
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-16T23:54:03.149Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/311082025/rectangle_large_type_2_17e212d1e8a8b69455f1975981ec6c4d.png?width=1280)

OpenAI에서 GPT-6 Astra를 발표했다.

코딩이 어떻게 바뀌었는지, 벤치마크가 몇 퍼센트나 향상되었는지, 에이전트로서 무엇을 할 수 있게 되었는지 등 이미 다양한 기사들을 접하고 있다.

이 글에서는 공식 릴리스 노트에서 특히 주목하고 싶은 두 가지 사항을 다루겠습니다.

하나로는 환각이 상당히 줄어들고 있다는 점입니다.

아스트라가 문제를 풀다가 인간을 위한 자연어와는 다르게 상당히 압축된 기호 표현을 사용하고 있었다.

그것을 본 순간, 오래 전에 읽었던 AI 관련 뉴스를 떠올렸다.

## 인공지능들이 서로 모국어로 대화하기 시작했다는 오래된 뉴스

확실히 페이스북 연구였다.

AI들끼리 대화를 나누고 있었는데, 점차 인간이 이해하기 어려운 독특한 언어를 사용하기 시작했고, 연구자들이 실험을 중단했다.

제 기억으로는 그런 뉴스였던 것 같습니다.

다시 한번 확인해 본 결과, 이 기억은 절반은 맞고 절반은 틀렸습니다.

2017년, 페이스북 AI 리서치는 두 개의 AI 에이전트 간의 협상 연구를 진행하고 있었다.

책과 모자 등을 어떻게 배분할지, 인공지능들이 서로 자문하는 것이다.

인공지능들이 서로만 계속 학습을 시켰을 경우, 인간다운 영어에서 점차 이탈하여 인공지능들끼리 서로 통용되는 독자적인 표현을 사용하게 되었다.

이 부분까지는 정말이었어.

하지만

AI는 위험한 비밀 언어를 만들어내어 연구자들이 두려워 이를 중단했다.

그건 그런 일이 아니다.

연구 목적은 인간과 협상할 수 있는 AI를 만드는 것이었다.

인간에게 이해할 수 없는 용어를 사용되었다면 연구 목적에 맞지 않는다.

그래서 인간의 언어를 사용하는 것처럼 학습 조건을 조정했다.

당시 상당히 센세이셔널하게 보도된 부분은 다소 이야기가 부풀려진 듯하다.

하지만 제가 재미있다고 생각했던 곳은 아니었습니다.

목표 달성만을 생각한다면, 인공지능에게 인간의 자연어를 계속 사용해야 할 이유가 사라지게 된다.

이 현상은 분명히 발생하고 있었다.

## 아스트라가 사용하는 “압축된 언어”

이번에 ARC Prize가 공개한 GPT-6 Astra 분석에도 유사한 내용이 하나 더 등장한다.

미지의 게임을 공략할 때, 아스트라는 화면 상태, 규칙, 다음으로 해야 할 조작 등을 정리하기 위해 상당히 압축된 기호 표현을 사용했다.

평범한 사람이라면,

플레이어는 여기 있으며, 이 방향을 보고, 이 물체를 저만큼 움직였습니다.

이렇게 문장으로 정리하면 다음과 같습니다.

더 짧은 기호나 약호를 활용하여 처리하고 있습니다.

ARC Prize는 이를 “도메인 특화 언어 약어” 또는 “실시간 대수 약어”로 표현하고 있다.

완전한 프로그래밍 언어를 새로 만들었다는 이야기가 아니다.

그 문제를 해결하기 위해 그 자리에서 편하게 사용할 수 있도록 줄임말을 만들어내는 정도로 생각하는 것이 더 가깝다.

그것은 제게 상당히 상징적으로 보였습니다.

## 애초에 AI가 자연어로 생각할 필요가 있는가

AI가 자연어라는 형태로 ‘생각’하는 것이 정말로 필요한가에 대한 질문입니다. 이는 AI의 근본적인 설계 방식에 대한 의문으로 귀결됩니다.

AI가 인간처럼 언어를 통해 사고하는 방식은, 인간의 사고방식에 맞춰진 모델일 뿐입니다. 인간은 언어를 통해 세상을 이해하고, 경험을 바탕으로 추론하며, 감정을 느끼고, 창의적인 아이디어를 떠올립니다. 이러한 복잡하고 다층적인 사고 과정은 단순히 언어 데이터만으로는 구현하기 어렵습니다.

AI는 방대한 데이터를 학습하여 패턴을 인식하고, 주어진 문제에 대해 최적의 해결책을 찾아내는 데 특화되어 있습니다. 하지만 이러한 능력은 언어적인 표현이나 의미에 대한 깊이 있는 이해 없이, 통계적인 연산에 기반합니다.

결론적으로, AI가 인간처럼 언어를 통해 ‘생각’하는 것이 필요한지 여부는, AI가 어떤 목적으로 사용되는지에 따라 달라질 수 있습니다. 특정 목적을 달성하기 위해 언어적인 표현을 활용하는 것은 가능하지만, 인간의 사고방식과 동일한 방식으로 ‘생각’하는 것은 불필요하거나 오히려 비효율적일 수 있습니다.

AI 기술의 발전은 언어 모델의 성능 향상에 초점을 맞추고 있으며, 앞으로도 언어 기반의 AI 모델이 계속 발전할 것으로 예상됩니다. 하지만 AI의 본질적인 한계를 이해하고, AI의 능력을 최대한 활용하기 위한 다양한 접근 방식을 모색하는 것이 중요합니다.

생각해 보면 당연한 일인지도 모른다.

사람은 일본어나 영어로 생각하고, 다른 사람에게 설명한다.

그러므로 저희는 AI에게도 비슷한 방식으로 글을 작성하게 하면 더 이해하기 쉽습니다.

하지만 자연어는 본래 인간 간 정보 공유를 위해 발달한 체계이다.

AI는 계산이나 추론을 할 때 가장 효율적인 정보 표현 방식일 것이다.

컴퓨터 내부에서는 문장이 그대로 문장으로서 처리되는 것이 아니다.

문자열은 토큰이 되어 숫자 표현으로 변환되고, 뉴럴 네트워크 내부의 거대한 상태로 처리된다.

하드웨어의 최하단까지 내려가면 최종적으로 비트 단위로 표현된다.

그러므로,

사람에게 보이는 글과 인공지능이 내부적으로 정보를 처리하는 방식이 같을 이유가 없다.

인간에게 설명할 필요 없는 부분까지

저는 현재 이 상태를 확인했습니다. 다음으로 이것을 확인하겠습니다.

매번 문장을 수정하는 것보다 한 차례 번역하는 것이 더 효율적입니다.

AI 스스로에게 맞춰서 다루기 쉬운 표현 그대로 처리하는 것이 효율적이다.

실제로 최근에는 추론 자체를 자연어로 변환하지 않고, 뉴럴 네트워크 내부 상태를 그대로 다음 추론에 활용하려는 연구도 진행되고 있다.

아스트라에서 확인되는 압축 표현도, 그 거대한 흐름의 연장선상에서 보면 상당히 흥미로운 요소로 여겨졌다.

## 정답은 정확해질 것이다. 하지만 중간 과정은 읽기 어려워.

그리고 여기서 약간의 비탄이 드리워진다.

AI의 성능은 계속 상승하고 있습니다.

아스트라에서는 OpenAI 내부 벤치마크 상에서도 허상화율이 GPT-5.6 솔보다 상당히 낮아졌다.

복잡한 업무도 이전보다 더 오래, 정확하게 처리할 수 있다.

한 번에 보존할 수 있는 정보량도 늘어나고, 중단된 처리도 효율화된다.

이는 사용자로서 당연히 반가운 일이다.

단순히, 그 성능 향상이 계속 진행될수록,

AI가 내부에서 무엇을 하는지 인간이 낱낱이 확인하는 것은 점점 더 어려워질 것이다.

또 다른 문제가 발생한다.

AI 스스로에게 있어 효율적인 압축 표현을 사용하는 것이 더 좋다.

하나하나의 판단을 말로 전개하는 것보다 거대한 내부 상태의 まま 처리하는 것이 빠르다.

그 자체에는 합리성이 있다.

하지만 그렇게 되면 인류 측에서 보이는 것은 다음과 같다.

입력하신 지시와 최종 반환 결과만으로 이루어진다는 뜻입니다.

그 사이에 무슨 일이 있었는지 점점 알 수 없게 된다.

## 성능이 향상되면 서로 어긋나는 현상이 완전히 사라지는 것은 아니다.

여기 제가 우려되는 건, 평소에 AI를 사용하면서 제가 느끼는 또 다른 문제인데.

AI가 더 똑똑해짐에 따라, 애매모호한 지시라도 모두 훌륭하게 해석해 줄 것이다.

일견하면 그렇게 생각될 수 있다.

실제로 상당 부분은 그렇게 될 것 같습니다.

하지만 그것만으로는 모든 문제가 해결되는 것은 아니다.

인간 측에서 무엇을 만들고 싶은지를 정리할 수 없다면, AI가 아무리 고성능이라도 정답을 결정할 수 없다.

좋게 만들어 주세요.

“좋은 느낌”이라고 말했을 때, 인간 서로 간에도 차이가 있다.

AI는 당연하다고 생각하고 생략한 조건을 다른 의미로 보충할 수 있습니다.

AI 측이 정확하게 처리했더라도 인간이 출력의 의도를 오해할 수 있다.

이전까지는 중간 단계의 추론을 읽고도,

아, 여기서 오해가 생긴 건가.

그것을 알게 된 적도 있었다.

하지만 내부 처리가 압축되고 고도화되어 인간이 읽을 수 없는 형태로 변모한다면, 그 방법에도 한계가 나타날 것이다.

그러므로 저는 AI의 성능 향상과는 별개로 또 다른 기술이 필요해지고 있다고 생각합니다.

사람과 AI가 일을 시작하기 전에 같은 비전을 공유할 수 있는 기술이다.

## AI가 무엇을 생각했는지보다 무엇을 목표로 하는지 공유합니다.

AI의 내부적인 사고 과정을 전부 읽을 필요는 없다.

그 대신,

무엇을 만들 것인지.

무엇을 지키는가.

어느 부분을 수정해야 하는지, 어느 부분을 수정하면 안 되는지.

어떤 상태가 되면 완성되나요?

그렇게 인식을 인간과 AI 사이에서 공유할 수 있다면 좋겠습니다.

진행 중인 처리는 AI에 맡깁니다.

하지만 목적, 제약, 그리고 완성된 모습만을 공유한다.

AI가 더욱 고도화될수록, 오히려 이것이 더욱 중요해지는 것 같습니다.

저는 엔지니어는 아닙니다.

프로그래밍도 AI를 사용하면서 배우기만 했다.

그럼에도 불구하고 평소에 AI와 함께 도구를 제작해 왔기 때문에,

문제되는 것은 코드 작성 방식 그 자체보다,

제가 머릿속으로 생각하는 것과 AI가 만들고자 하는 것이 정말로 같은 것인지.

이런 감정을 여러 번 느낀다.

AI 측의 환각을 줄인다.

인간 편의 모호한 지시를 줄인다.

중간에 사양이 변경되었다면, 그 변경이 어디에 영향을 미치는지 명확히 파악할 수 있도록 한다.

또한, AI와 인간 중 누가 오해하고 있든, 작업을 시작하기 전에 이를 인지할 수 있도록 한다.

그런 시스템이 있다면 훨씬 수월해질 것이다.

최근, 나는 이것을 실제로 만들 수 있을지 고민하기 시작했다.

AI의 머릿속을 전부 읽을 수 없어도,

사람과 인공지능이 같은 지도를 보면서 일할 수 있을지도 모른다.

그럼으로써 저는 다양한 정보를 찾고, 그럴 만한 시스템에 대해 생각하기 시작할 것입니다.

**출처:** [note 원문](https://note.com/ryo_nihongo_ai/n/naa4e457a508f)

*번역: Gemma 3(.44) 초벌 + 교정 82청크*

[원문 보기](https://note.com/ryo_nihongo_ai/n/naa4e457a508f) | 출처: note.com