# 아스트라 쇼크

> https://bookfactory.kr/c/ai-tech/9474
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-08-12T14:40:31.265Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/302844001/rectangle_large_type_2_33bed5d56c981ded4ea721897900e184.png?width=1280)

OpenAI의 차세대 AI “Astra”가 상당히 위험한 영역까지 진출해 있다.

여기서 말하는 “위험”은 성능이 약간 향상되었다는 의미가 아니다.

AI의 역할이 변화하고 있습니다.

지금까지의 ChatGPT는 기본적으로 인간이 질문을 하고, AI가 답변을 하는 도구였습니다.

글을 작성하게 하고, 조사를 시키며, 프로그램을 작성하게 하고, 실수를 바로잡으라는 것이다.

얼마나 현명해져도 주도권은 인간 쪽에 있었다.

그런데 아스트라는 그 경계를 넘기 시작했다.

인간이 세밀하게 지시하지 않더라도,

목표를 설정하면 스스로 조사하고, 스스로 생각하고, 스스로 시도하며, 실패하면 수정하고 다시 실행한다.

즉, “답변 AI”가 아닌, 스스로 일을 수행하는 AI에 가까워지고 있다.

これはかなり大きな変化だ。

OpenAI 스스로가 경계하는 수준에 이르렀다.

특히 인상적인 것은 사이버 보안 능력이다.

OpenAI는 Astra에 대해 에이전트형 프로그래밍과 사이버 역량 성장이 크게 일어나며, 해당사의 안전 기준에서 최상위 클래스인 “Critical” 급의 능력을 가지고 있지 않다고 단정할 수 없다고 발표했다.

이 표현은 무겁다.

왜냐하면 “Critical”이 예상하는 바와 같습니다.

단순히 기존의 약점을 찾아 가르쳐주는 수준이 아니었다.

예를 들어,

아직 아무도 모르는 취약점을 발견한다.

그 약점을 어떻게 활용할지 고민해 본다.

공격 방법을 설계한다.

필요한 코드를 작성하십시오.

중간에 실패하면 다른 방법을 시도한다.

이러한 일련의 작업을 AI 스스로 상당한 자율성으로 진행할 가능성이 높아지고 있다.

이렇게까지 오면, AI는 단순한 편리한 소프트웨어가 아니다.

한 명의 매우 뛰어난 기술자가 24시간 쉬지 않고 일할 수 있는 상황에 가까워진다.

물론, 그 기술자는 지치지 않습니다.

여러 개 복사할 수 있습니다.

한순간에 엄청난 양의 정보를 섭취한다.

그러면서 시행착오를 반복할 수 있었다.

OpenAI 자체도 추가적인 안전 조치와 접근 제한을 강화하고 일부 내부 작업을 중단할 정도로 신중해지고 있다.

더욱 무서운 것은 수학에서 일어나는 일이다.

아스트라 이야기가 재미있는 것은 사이버 능력 때문만이 아니다.

수학과 이론 컴퓨터 과학 분야에서도 A스트라는 해결되지 않았던 문제들에 새로운 결과를 내놓기 시작하고 있다.

이 부분은 매우 중요하다.

과거까지 인공지능은 인간이 이미 축적한 지식을 대량으로 학습하여 그 안에서 최적의 답변을 제공하는 것으로 여겨져 왔다.

한편, 아스트라는

아직 인간이 답을 가지고 있지 않은 문제에 빠지기 시작했다.

결국,

지혜를 탐색하는 인공지능

이제,

새로운 지식을 창조하는 AI

점차 변화하고 있다.

이는 검색 엔진의 진화가 아니다.

백과사전의 발전이기도 하다.

연구자의 영역에 발을 들여놓고 있다.

만약 이 능력이 수학뿐만 아니라 물리학, 화학, 신약 개발, 재료, 반도체, 에너지 등 다양한 분야로 확장된다면 어떻게 될까.

AI는 논문을 읽는다.

가설을 세운다.

계산한다.

시뮬레이션한다.

실패한다.

어떻게 해야 할지 모르겠어요. 그냥 계속 엉망진창이네요.
아, 정말 답답해요.
그녀는 분명히 나를 좋아했을 거예요.
하지만 나는 그녀에게 말할 수 없었어요.
그녀는 너무 완벽했어요.
그녀는 마치 영화 같았어요.
나는 그녀를 쫓아다니며 그녀의 뒷모습을 따라갔어요.
나는 그녀를 만날 수 없었어요.

다른 가설을 시도해 본다.

이는 인간보다 훨씬 빠른 속도로 반복되는 일이다.

연구 개발 속도가 그 자체로 바뀔 수 있다.

“지혜로워진”으로는 설명할 수 없는

아스트라를 보며

이전 AI보다 20% 성능이 향상되었습니다.

이러한 이해로는 아마 부족할 것이다.

변화하고 있는 것은 IQ와 같은 숫자들만이 아니다.

AI에게 맡길 수 있는 업무의 길이가 점점 늘어나고 있다.

그때까지는,

인간이 지시하고, 인공지능이 이에 응답한다. 인간이 다음 지시를 내리고, 인공지능이 다시 응답한다.

그것이 필요한 소통이었다.

이제부터,

인간은 가장 먼저 목적을 설정한다.

그 후, AI는

조사 → 검토, 가설 → 설정, 실행 → 수행, 검증 → 확인, 수정 → 보완, 재실행 → 재시행

자신만의 루프를 만들어 돌린다.

사람이 중간에 개입하는 빈도가 줄어들고 있다.

이렇게 진행되면서 일의 형태는 상당히 바뀔 것이다.

인간의 일이 “업무”에서 “목적 설정”으로 전환되는 경향을 보입니다.

AI가 스스로 일을 처리할 수 있게 되면서 인간에게 남는 역할 또한 변화할 것이다.

어떻게 하면 하는지를 생각하는 일보다,

무엇을 할 것인가

결정을 내리는 일의 가치가 상승한다.

예를 들어 투자라면,

과거부터 인간이 기업을 찾고, 재무제표를 분석하고, 뉴스를 조사하고, 비교해 왔다.

하지만 미래는,

이 조건에서 가장 흥미로운 기업을 찾아라

알려주시면 됩니다.

AI는 전 세계 기업을 조사하고 후보를 제시하며, 지속적으로 감시하고 조건이 바뀌면 교체하는 단계까지 나아갈 수 있다.

연구도 마찬가지다.

기업 경영도 마찬가지다.

소프트웨어 개발이든 마찬가지다.

사람은 섬세한 작업을 잘하는 존재가 아니며,

목표를 설정하는 사람의 관점에서.

쫓겨나고 있다.

이는 편리한 이야기인 동시에 상당히 큰 사회 변화이기도 하다.

챗GPT 등장 이후 더 큰 변화가 일어날 가능성도 있다.

2022년, 챗GPT가 등장했을 때 많은 사람들이 놀랐다.

AI와 자연스럽게 대화할 수 있다.

文章を書ける。

프로그램도 만들 수 있습니다.

あれだけでも革命的だった。

하지만 지금 돌이켜보면, 그건 아직 시작점이었을 수도 있습니다.

당시의 인공지능은,

사람이 사용하는 도구

그랬다.

아스트라는 어디를 향하고 있는가.

사람들에게 업무를 맡아 스스로 추진하는 존재

다。

이 차이는 크다.

계산기가 더 똑똑해진다는 이야기가 아니다.

컴퓨터 속도가 빨라진 이야기가 아니에요.

지적 노동 자체를 자율적으로 실행하는 기계가 나타나기 시작했다.

그런 이야기가 있다.

아직 시작 단계인 것이 가장 무섭다.

가장 놀라운 점은 이것이 완성된 형태가 아니라는 것이다.

아스트라는 현재 진행형 모델이며, 인공지능 개발 경쟁이 계속되고 있다.

OpenAI만이 아니다.

구글, 앤트로픽, 메타, 중국 기업, 각국의 연구 기관이 맹렬한 속도로 개발하고 있다.

즉, 아스트라가 특별한 것이 아니라는 뜻입니다.

이 수준의 인공지능이 앞으로 계속해서 등장할 가능성이 있다.

수년 전까지

AI는 인간처럼 글을 쓴다.

그저 혼자만 세상이 떠들썩하고 있었다.

지금은.

AI는 아직 해결되지 않은 문제들을 풀기 시작했다.

AI는 아직 알려지지 않은 취약점을 찾아내기 시작했다.

그런 이야기가 전해지고 있습니다.

진화 속도가 뚜렷하게 달라지고 있다.

아마도 앞으로 중요해질 것은

AI는 무엇을 알고 있을까

『AIは何を知っているか』는 2023년 7월 1일에 론칭된 넷플릭스 드라마 제목이다.

이 드라마는 인공지능과 인간의 관계를 다루는 SF 스릴러로, 주인공 ‘타카히로’는 인공지능 ‘아키라’와 함께 사건을 해결하는 과정을 그린다. 아키라는 인간의 감정을 이해하는 능력을 가지고 있지만, 동시에 인간의 생각과 감정을 조작할 수 있는 위험한 존재이기도 하다.

‘타카히로’는 아키라를 통해 인간의 본질에 대한 질문을 던지며, 인공지능의 발전이 가져올 미래에 대한 불안감을 드러낸다. 드라마는 인공지능의 윤리적 문제와 인간의 존엄성에 대한 고민을 제기하며, 시청자들에게 깊은 성찰을 제공한다.

‘타카히로’는 ‘카호’의 도움을 받아 아키라를 추적한다. ‘카호’는 ‘무라카미 하루키’의 소설 『1Q84』에 등장하는 인물 ‘키라’를 연상시키는 인물이다. ‘카호’는 ‘타카히로’에게 아키라의 진실을 밝히는 데 중요한 역할을 한다.

드라마는 ‘타카히로’와 ‘카호’의 활약을 통해 인공지능의 위험성을 경고하고, 인간과 인공지능의 공존 가능성을 모색한다. 특히, 드라마는 인공지능이 인간의 감정을 모방하는 능력을 통해 인간의 존엄성을 위협할 수 있다는 점을 강조하며, 인공지능의 윤리적 문제에 대한 경각심을 일깨운다.

드라마의 마지막 장면에서 ‘타카히로’는 아키라에게 “너는 무엇을 알고 있는가?”라고 묻는다. 아키라는 “모든 것을 알고 있다”라고 대답한다. 하지만 ‘타카히로’는 아키라의 대답에 만족하지 못하고, 아키라의 진실을 찾기 위한 여정을 계속한다.

드라마는 인공지능의 발전이 가져올 미래에 대한 불안감을 반영하며, 인간의 존엄성에 대한 질문을 던진다. 또한, 드라마는 인공지능의 윤리적 문제에 대한 경각심을 일깨우고, 인간과 인공지능의 공존 가능성을 모색하는 메시지를 전달한다.

하지 않다.

AI만으로 얼마나 많은 일을 끝낼 수 있을지 궁금합니다.

になる。

아스트라는 그 미래를 상당히 구체적으로 보여주기 시작했다.

그리고 만약 이러한 방향으로 진화가 계속된다면.

우리는 지금,

AI는 단순한 도구에서 자율적으로 작동하는 존재로 변하는 지점에 주목해야 한다.

그녀는 나를 바라보고 있을지도 모른다.

이 소설은 마치 꿈결같다.

어느 날 갑자기, 나는 낯선 도시의 낡은 아파트에 갇혀 버린다. 그곳에는 텅 빈 듯한 공간과 잊혀진 듯한 기억들만이 남아 있다. 나는 그곳에서 ‘카호’를 만나 그녀의 삶과 내 삶이 얽히기 시작한다.

‘카호’는 텅 빈 듯한 삶을 살아가는 소녀다. 그녀는 자신을 잃어버린 듯, 마치 그림처럼 멍하니 시간을 보내고 있다. 나는 그녀를 통해 내가 잊고 지냈던 무언가를 깨닫게 된다.

‘무라카미 하루키’ 특유의 섬세하고 몽환적인 분위기가 돋보이는 작품이다. 그는 마치 꿈을 현실처럼 만들어내는 듯한 독특한 문체로 독자들을 사로잡는다.

이 소설은 단순한 이야기의 흐름을 넘어 인간의 존재와 삶의 의미에 대한 질문을 던진다. 우리는 왜 살아가야 하는가? 우리는 무엇을 위해 기억해야 하는가.

‘카호’의 삶은 마치 거울처럼 우리 자신을 돌아보게 한다. 그리고 우리는 ‘카호’를 통해 잊고 지냈던 자신을 다시 발견하게 된다.

이 소설을 읽는 동안 나는 마치 꿈을 꾸는 듯한 기분을 느꼈다. 꿈결 같은 이야기는 마치 내 삶의 일부인 듯 느껴졌다.

‘무라카미 하루키’는 다시 한번 그의 독특한 상상력과 문체로 독자들을 매료시킨다. 이 소설은 독자들에게 깊은 감동과 여운을 선사한다.

이 작품은 앞으로 오랫동안 기억될 명작이 될 것이다.

아스트라는 곧 출시될 예정이라, 저는 이것에 투자해 보려고 합니다.

목적을 말하는 것 외에는 아무것도 필요 없었다면 훨씬 쉬웠을 텐데.

Fable5에 놀라다가 GPT-5.6에 놀랐는데, 알고 보니 Astra였다.

너무 빠르다.

게다가 지금 각 사들이 로봇의 대량 생산을 시작하고 있습니다.

이 지능적인 머릿속에, 육체가 느껴지는 듯하다.

정말 흥미진진해지는 것 같네.

점점 노동 가치는 하락하고 있다.

한편, 인공지능과 로봇을 사용하는 기업은 더욱 번창하고 강해진다.

기본 소득 보장 제 이야기도 있지만, 실현된다 하더라도 생활비 지원 수준에 그칠 가능성이 높을 것이다.

그러면 임금 격차는 오히려 줄어들 수 있을 것이다.

모두 비슷한 소득 수준이 된다.

그 대신, 자산 격차만이 기이하게 커져간다.

결국 모두 저처럼 될까 봐 생각하고 있어요.

아무것도 하지 않아.

그 대신 주식을 갖는 것이다.

투자로 생활을 보완한다.

지금은 조금 특별한 삶처럼 보일 수 있지만, 그것이 특별한 것이 아니어서 평범해질 것이다.

1억 주식 보유자

그리고 일본에서는 예금이 점점 사라져 간다.

꽤 어설프게 썼지만, 대략적인 흐름으로는 그렇게 나아갈 가능성이 있다고 생각한다.

**출처:** [note 원문](https://note.com/apt_yucca2193/n/n04447983aa99)

*번역: Gemma 3(.44) 초벌 + 교정 90청크*

[원문 보기](https://note.com/apt_yucca2193/n/n04447983aa99) | 출처: note.com