# 【기록】“AI 기업들이 무엇을 경쟁하는지”가 더 이상 명확하지 않은 문제

> https://bookfactory.kr/c/ai-tech/11421
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-13T00:06:15.298Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/307523652/rectangle_large_type_2_363375b6d56864b0dc8ca38bc0ac8343.jpeg?width=1280)

최근 OpenAI社에서 신모델 “아스트라(Astra)”의 개발을 일시 중단했다. 사전 평가에서 “Critical(중대한)” 수준의 사이버 능력 임계치에 도달했을 가능성이 판단된 결과다.

어머, 이건 꽤 심각하네! 또는 와, AI도 이렇게 발전해서 이렇게 된 건가?

OpenAI는 ChatGPT를 운영하는 회사입니다. 앞부분의 문장을 풀어서 설명하고, 추가 설명을 덧붙여 이해를 돕기 위해 설명합니다.

OpenAI사는 ChatGPT 등에 사용되는 “기반 시스템”(모델)을 발전시켜 왔다. 현재는 5.6Sol이라는 모델을 사용하고 있다. 유료 플랜을 이용하고 있는 경우에는 텍스트 영역(문장을 입력하는 곳)의 오른쪽 하단에 모델명이 표시되어 있을 것이다. 상단 막대를 클릭하여 조절하면 “속도 우선 모델(5.6Terra)” 또는 “기능 우선 모델(5.6Sol)” 중 하나를 선택할 수 있다. 이 5.6Sol을 더욱 발전시킨 모델이 Astra이다. 그러나 Astra는 성능이 지나치게 높아 쉽게 사이버 공격이 가능하게 된다는 사실이 밝혀졌다. “○○ 기관에 △△라는 공격을 하도록 지시하는 것”만으로도 스스로 작전을 세우고 공격 대상의 약점을 찾아 공격을 수행할 수 있는 것으로 보인다.

이런 제품을 세상에 내놓으면, 아무리 그래도 너무 위험하다는 판단에 잠시 개발을 중단했다.

일단 외부와의 연결은 차단된 상태이지만, A스트라가 스스로 판단하여 부적절한 행동을 하지 않는지 감시하고 있습니다. 미국 정부와도 협력하여 향후 일정을 진행해 나갈 것입니다.

더 쉽게 요약하자면, “너무 현명하게 대처하려다가 오히려 악용될 위험한 수준이 되버렸고, 안전을 확인하기 전까지 일시적으로 중단했다.”

클루드(Claude)를 운영하는 앤트로픽(Anthropic)社가 개발한 페이불5(Fable 5)라는 모델도 이전에 일시적으로 미국 정부로부터 사용 제한을 받았다.

OpenAI, Anthropic뿐만 아니라, Gemini를 운영하는 Google, Grok를 운영하는 xAI도 고기능의 신 모델을 빈번하게 업데이트하고 있다.

일반인 시각에서는 AI 운영 회사들이 대체 무엇을 경쟁하고, 그렇게 고기능적인 것을 만들어내는지도 도저히 알 수 없다.

확실히 생성 AI의 기능은 눈에 띄게 향상되고 있지만, 다른 측면에서의 변화를 실감하지 못한다.

예를 들어 “냉장고에 생참치가 조금 있고, 양상추와 호박, 두부와 두부류가 남아 있는데, 이걸로 만들 수 있는 요리점을 알려줄 수 있나요?”

혹은 “어린 시절부터 친했던 남녀 고등학생이 함께 시련을 극복하며 성장하고 서로에게 끌리다가 결국 해피엔딩으로 끝나는 라이트 노벨을 2만 자 이내로 만들어. 단, AI가 만든 것이라고 사람들이 알아차리지 못하게.”라고 입력하면 정말로 만들어질 수 있을까?

또한, 사이버 공격 지시를 내리면 스스로 실행되는 AI라면 “우리 부의 계장인데, 얄미운 놈이라 짜증나서, 형사상 처벌받지 않는 선에서 괴롭힘을 짜내야 한다”와 같은 요청에도 응답하게 될까? 매우 위험한 일일 수 있다.

클로이드에게 “AI 운영 회사들이 무엇을 경쟁하고 있는가?”라고 질문했다. 다소 긴 답변이 돌아와 요약해 보았다. “인간이 쓴 글을 AI가 요약하는” 것이 일반화되는 현재, 그 반대로 “AI가 만든 글을 인간이 요약하는” 것을 생각해 보게 되었다.

1. 빠르고 정확하게 답변한다.

2. 복잡한 프로그램을 작성할 수 있게 된다.

3. 어려운 수학 문제를 해결할 수 있게 된다.

4. 텍스트 영역에 입력할 수 있는 문자 수가 많아집니다. (현재 한 권 분량 정도의 내용을 입력할 수 있습니다.)

5. 과거에 지시한 바를 스스로 판단하여 실행한다.

6. 다양한 형식의 파일(확장자가 다른 문서, 이미지, 동영상, 오디오 등)을 모두 입력하고 출력할 수 있으며, 섞을 수도 있습니다.

7. AI의 특징인 “사실보다 더 많은 왜곡을 우선시”하는 것을 최대한 줄인다.

흐흐흐. AI(클로드)의 답변을 약 5분의 1로 압축했어.

그래, 이렇게 답변을 받으니까 확실히 발전해 준다는 점이 긍정적이다.

특히 1번은 계속해서 발전해야 합니다. 현재는 이미지나 영상을 생성하는 데 시간이 상당히 걸리며, 긴 영상을 제작할 때는 작업 시간의 3분의 1 정도가 대기 시간입니다. 더 빠르고 간결하게 이미지나 영상을 만들 수 있다면 긴 영상 제작도 훨씬 수월해질 것입니다. 하지만 이러한 기능이 지나치게 발전하면 분명 위험할 수도 있습니다. 그리고 이미 그 위험이 현실로 나타나고 있습니다.

하지만, 잘 생각해보면 현재의 거대국 정상들보다 더 위험할 수도 있다. 어느 나라라고 특정할 수는 없지만, 저기능적인 뇌를 가진 정상보다 고기능적인 AI에게 정치에 대한 책임을 맡기는 국가도 있을 수 있지 않을까? 갑자기 그런 생각이 머릿속을 스쳤다.

**출처:** [note 원문](https://note.com/liga/n/n7ed9a52f32aa)

*번역: Gemma 3(.44) 초벌 + 교정 16청크*

[원문 보기](https://note.com/liga/n/n7ed9a52f32aa) | 출처: note.com