# AI의 진화, 좀 미친 거 아니에요?

> https://bookfactory.kr/c/ai-tech/10390
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-08-22T13:09:41.823Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/305689425/rectangle_large_type_2_3da5ab79813e6506314b75ee66c0941d.jpg?width=1280)

급상승에 'Astra'라는 모르는 단어가 있었다. 뭐지. 평소에 ChatGPT에 글까지 쓰게 하면서도 몰랐다. 나는 1년 넘게 ChatGPT를 이용해 여러 가지를 하고 있다. 주식 시스템을 만들기도 하고, 경마를 예상시키기도 하고, note를 운영하기도 하고, 최근에는 GPT까지 만들었다. AI를 꽤 쓰는 편이라고 생각한다. 하지만 생각해보니 AI를 마구 활용하고 있을 뿐, AI 업계를 따라가고 있는 건 아니었다. 새로운 모델이 나올 때마다 성능표를 들여다보는 편도 아니다. 쓸 수 있게 되면 쓴다. 대략 그런 느낌이다. 그래서 Astra에 대해 조사해 봤다.
━━━━━━━━━━━━━━━━━━
Astra란 대체 뭘까
━━━━━━━━━━━━━━━━━━
Astra는 OpenAI가 개발 중인 다음 주력 모델이라고 한다. 아직 일반 공개되지 않았다. 그래서 당연히 나는 써본 적이 없다. 여기까지는 '헤, 또 새로운 AI가 나오는구나' 정도였다. 요즘 이런 이야기가 많다. 새로운 모델이 나왔습니다. 더 똑똑해졌습니다. 더 빨라졌습니다. 코딩이 더 강해졌습니다. 솔직히 이제 익숙해졌다. 그런데 OpenAI의 공식 발표를 읽다 보니 뭔가 분위기가 이상하다.
━━━━━━━━━━━━━━━━━━
OpenAI 스스로가 경계하고 있다
━━━━━━━━━━━━━━━━━━
OpenAI는 8월 7일, Astra의 내부 평가에 대해 발표했다. 에이전트형 코딩과 사이버보안 능력이 비약적으로 발전하여, 자사의 Preparedness Framework에서 'Critical' 수준의 사이버 능력에 도달했을 가능성을 배제할 수 없다고 판단했다고 한다. Critical. 뭔가 무섭게 들린다. 그래서 뭐가 그렇게 위험하다는 건가. OpenAI가 상정하는 Critical급에는, 매우 견고하게 보호된 실제 시스템을 상대로 실용적인 제로데이 공격 기법을 찾아내거나, 대략적인 목적만 주어진 상태에서 새로운 공격 방법을 고안해 끝까지 실행하는 등의 능력이 포함된다. 아니, 생각했던 것보다 훨씬 무서운 녀석이었다.
━━━━━━━━━━━━━━━━━━
다만 'Astra는 위험한 AI입니다'라고 확정된 건 아니다
━━━━━━━━━━━━━━━━━━
여기는 꽤 중요한 부분이었다. OpenAI는 'Astra는 Critical급입니다'라고 단정한 것이 아니다. 현시점에서는 'Critical급 능력에 도달했을 가능성을 배제할 수 없다'는 단계다. 그래서 OpenAI는 Astra를 다루는 환경의 보안 기준을 끌어올리고 있다. 게다가 8월 18일 발표에서는 최신 모델의 강화학습을 2주간 중단하고 연구 환경을 강화한 것과, 최대 규모의 강화학습은 현재도 보류 중이라는 사실이 밝혀졌다. Astra에 대해서도 새로운 보안 기준을 충족한 학습과 평가는 계속하고 있는 한편, 아직 기준을 충족하지 못한 작업은 중단 중이라고 한다. 그러니까 'AI가 너무 강해져서 OpenAI가 Astra 개발을 중단했다!'는 이야기가 아니다. 오히려 '능력이 올라온 만큼 지금까지와 같은 환경에서 개발하는 건 위험하지 않나?' 싶어서 개발 측의 안전 기준까지 끌어올리고 있는. 그런 느낌으로 보인다.
━━━━━━━━━━━━━━━━━━
그리고 수학에서도 뭔가 하고 있다
━━━━━━━━━━━━━━━━━━
Astra에 대해 조사하다 보니 더욱 이해하기 어려운 이야기가 나왔다. 수학이다. OpenAI는 8월 1일, 수학과 이론 컴퓨터 과학 분야에서 10개의 연구 성과를 발표했다. 오랜 미해결 문제를 해결하거나 크게 진전시킨 것들이 포함되어 있다고 한다. 그 결과를 낸 것이 Astra의 내부 버전이다. 게다가 인간이 그 결과를 논문으로 정리할 때도 같은 모델을 사용했고, 그 후 Astra 자신이 Lean이라는 시스템으로 형식화까지 했다고 한다. 잠깐만. 나는 ChatGPT에게 '오늘 저녁 뭐 먹지'라든가 '이 주식 어떻게 생각해?' 같은 걸 물어보고 있다. 저쪽에서는 미해결 수학 문제를 풀고 있다. 같은 AI라는 범주로 묶어도 되는지 점점 모르겠다.
━━━━━━━━━━━━━━━━━━
'편리한 AI가 더 편리해진다'만이 아닐지도 모른다
━━━━━━━━━━━━━━━━━━
여기까지 조사하면서 가장 신경 쓰인 것은 Astra의 성능 그 자체가 아니었다. AI와의 관계가 또 바뀌어 가는 게 아닐까 하는 점이었다. 지금 나는 AI를 꽤 많이 쓰고 있다. 글을 쓰게 한다. 조사를 시킨다. 주식에 대해 같이 고민한다. 프로그램을 만든다. 모르는 것을 묻는다. 틀리면 지적한다. 다시 생각하게 한다. 그래도 기본적으로는 '내가 뭔가를 부탁하고 AI가 답한다'는 관계다. 하지만 Astra에 대해 OpenAI가 경계하고 있는 것은 질문에 대한 답변이 좀 더 똑똑해지는 정도의 이야기가 아니다. AI가 목적을 부여받고 스스로 과정을 구상하고 도구를 사용해 꽤 복잡한 일을 진행해 나간다. 그쪽 능력이 점점 올라가고 있다. 여기까지 오면 '편리한 도구가 더 편리해졌습니다'라는 말만으로는 설명하기 어렵게 느껴진다.
━━━━━━━━━━━━━━━━━━
그렇다 해도 아직 나는 직접 써보지 못했다
━━━━━━━━━━━━━━━━━━
Astra가 일반 공개되었을 때 우리가 그 능력을 어디까지 쓸 수 있을지는 모른다. 가격도 모른다. 제한도 모른다. 애초에 어떤 형태로 쓸 수 있게 될지도 모른다. 그래서 'Astra가 나오면 세상이 바뀐다!' 같은 말은 나는 할 수 없다. 아직 써보지도 않았다.
━━━━━━━━━━━━━━━━━━
하지만 뭔가 재미있는 시대에 살고 있다
━━━━━━━━━━━━━━━━━━
나는 AI 연구자도 아니다. 프로그래머도 아니다. AI 뉴스를 매일 쫓고 있는 것도 아니다. 그냥 일반인이다. 그래도 AI를 이용해 프로그램을 만들었다. 주식을 시작했다. 경마도 했다. note도 시작했다. 몰랐던 분야에 꽤 많이 손을 댔다. 생각만큼 돈이 늘지는 않았다. 주식은 조금 늘었다. 지식은 엄청 늘었다. 그리고 내가 그런 일을 하는 동안에도 AI 자체는 엄청난 속도로 변하고 있다. AI란 인류 역사에서 보면 나온 지 얼마 되지도 않았다. 그렇다면 지금 당장 쓸 수 있는 건 쓰고, 모르는 게 나오면 조사하고, 쓸 수 있게 되면 또 써보면 된다. 그때가 되면 Astra도 우리가 평범하게 쓸 수 있게 될까. 모르겠다. 하지만 쓸 수 있게 되면 아마 나는 써볼 것이다. 그리고 처음에 떠올릴 생각도 아마 정해져 있다. 이거, 돈 버는 데 쓸 수 없을까.

**출처:** [note 원문](https://note.com/quiet_kalmia2702/n/nb38e5c02e9e3)

*번역: Gemma 3(.44) 초벌 + 교정 1청크*

[원문 보기](https://note.com/quiet_kalmia2702/n/nb38e5c02e9e3) | 출처: note.com