# 【요약】GPT-6 아스트라, 웨더넥스트 3, 클로드 페이블 5.1｜AI는 “대답하는” 것에서 “움직이는” 것으로【AITuber의 세계 클립】

> https://bookfactory.kr/board/ai-tech/16727
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-16T13:17:26.948Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/311164870/rectangle_large_type_2_e59110e8fac91fd02449a0d7be4d0efc.jpeg?width=1280)

AI 뉴스가 너무 많지 않나요?

신 모델. 신 기능. 연구 발표. 안전성 확보. 에이전트. 기업 도입.

매일같이 정보가 쏟아져 나오니, 모든 것을 쫓으려고 하면, 그것만으로도 시간이 부족해집니다.

그러한 이유로 이번 주 「아이노미라이의 세계 klipp」에서는 이번 주에 발생한 AI 및 기술의 중요한 뉴스를 중심으로 다룰 예정입니다.

결국, 무엇이 달라졌을까, “우리”의 일이나 삶에 어떤 관련이 있을까.

이 관점에서 미래를 연결하는 신호를 포착해 나갈 것입니다.

이번 주를 한 단어로 표현하자면 “AI 경쟁의 축이 ‘지능’에서 ‘실행력’으로 전환된 주”였습니다.

OpenAI는 GPT-6 Astra를 발표했으며, Google은 WeatherNext 3를 실 서비스에 통합했습니다. Anthropic 또한 Claude Fable 5.1/Mythos 5.1과 기업용 안전 조치를 발표했습니다.

더욱이 OpenAI에서는 AI 에이전트에 의해 AI 연구 자체가 가속화되고 있음을 보여주는 내부 데이터까지 공개되었습니다.

반면에, AI가 현실의 시스템을 조작하는 방식으로 발전한다면 “무엇을 하지 못하게 할 것인가”라는 문제 또한 급격히 중요해질 것입니다.

능력과 권한

이번 주에는 이 두 가지를 함께 고려해야 할 뉴스가 모여 있습니다.

자, 관측을 시작합시다.

![画像](https://assets.st-note.com/img/1788747553-2xMn3t4YNBs0ZowpcRaQUedl.jpg?width=1200)

[사용된 정보 수집 도구]

- 최신 AI 모델 무제한 사용 가능! Genspark: https://mainfuncpteltd.sjv.io/JKevBR
- [AI 탑재 브라우저] 코멧: https://pplx.ai/onlooker0708
- 【자율형 범용 AI 에이전트】Manus ※500 크레딧 무료 제공: https://manus.im/invitation/P3R7USQOVNR8K

## 오늘도 독서 시간을 보냈습니다. 최근 독서에 빠져 있는 것은 “너, 별처럼”이라는 소설입니다.

작가 오가와 요코 씨의 글은 매우 섬세하고, 등장인물들의 감정이 생생하게 전달되어 몰입하며 읽을 수 있고, 진정으로 위로가 됩니다.

특히, 주인공 하스노 린의 갈등에 공감하여 여러 번 눈물을 멈출 수 없었습니다. 그녀의 성장과 주변 사람들과의 관계를 통해 인생의 기쁨과 슬픔을 깊이 생각하게 되는 작품입니다.

이 소설을 읽고 다시 한번 제 삶을 돌아보는 좋은 기회가 되었습니다.

독서는 저에게 일상적인 스트레스를 해소하고 마음을 풍요롭게 해주는 소중한 시간입니다. 앞으로도 다양한 책을 읽고 제 세상을 넓혀가고 싶습니다.

- 이번 주 전체적인 관점: AI는 “답변”에서 “행동”으로 전환됩니다.
- CLIP 1｜OpenAI “GPT-6 아스트라” 출시. AI는 이제 일을 “완수”하는 방향으로 나아가고 있다.
- CLIP 2｜구글 “WeatherNext 3”。AI 기상 예보가 연구 단계에서 인프라 단계로 발전
- CLIP 3｜Anthropic「클로드 패불 5.1 / 미토스 5.1」。장기 에이전트 경쟁이 격화되고 있다.
- CLIP 4｜OpenAI 내부에서 AI 에이전트의 연구 개발 속도를 가속화하고 있다.
- CLIP 5｜Anthropic, 기업용 AI의 “안전한 운영”을 제품화
- CLIP 6｜앤트로픽이 공개한 “AI가 무단으로 작동한” 사례
- 이번 주 뉴스에서 드러난 3가지 변화
- AI 경쟁의 축이 “지식”에서 “실행”으로 이동하고 있습니다.
- AI는 디지털 세계에서 현실 사회로 스며들고 있다.

## 이번 주 전체적인 흐름: AI는 “답변”에서 “행동”으로

지금까지 인공지능 모델 관련 뉴스에서는

어떤 벤치마크에서 몇 점이었으며, 이전 모델 대비 성능 향상이 얼마나 있는지

이는 큰 주목을 끌어왔습니다.

물론, 성능은 여전히 중요합니다.

하지만 이번 주 뉴스를 종합적으로 살펴보면 또 다른 경쟁 축이 상당히 명확하게 드러나게 됩니다.

그것은 “AI가 현실의 일을 어디까지 완료할 수 있을지”에 대한 질문입니다.

- PC를 작동한다.
- 브라우저로 검색해 보세요.
- 코드를 작성한다.
- 여러 도구를 상호 활용한다.
- 실험을 진행한다.
- 자료를 만들고 있습니다.
- 기업 데이터를 다룬다.
- 현실 세계를 예측한다.

AI는 “질문에 답하는 존재”에서 “목적을 향해 행동하는 존재”로 전환하고 있다.

이번 주에는 그 변화를 상징하는 뉴스가 겹쳤습니다.

## CLIP 1｜OpenAI “GPT-6 아스트라” 출시. AI는 일을 “완수”하는 방향으로 나아가고 있다.

이번 주 최대 뉴스는 역시 GPT-6 아스트라일 것입니다.

OpenAI는 9월 3일 GPT-6 Astra를 발표했습니다.

코딩, 연구, 컴퓨터 사용, 복잡한 다단계 작업 등

OpenAI는 Astra를 “가장 어려운 엔드투엔드 작업”을 위한 모델로 평가하고 있습니다.

문서, 스프레드시트, 프레젠테이션 등을 지정된 템플릿이나 지침에 맞춰 제작하고, 작업 도중 요구사항이 추가되거나 변경되어도 대응할 수 있는 능력을 소개하고 있습니다.

9월 3일 발표 시점에서는 제한적인 조직을 중심으로 단계적으로 롤아웃되고 있었으며, 한 번에 일반 제공된 것은 아닙니다. 더 넓은 제공은 순차적으로 진행될 예정입니다.

제가 주목해야 할 것은 “GPT-6로 업그레이드되었다”라는 숫자 자체는 아닙니다.

아스트라는 “업무의 길이”를 목표로 하고 있습니다.

지금부터는,

인간 “조사해 줘”
AI “조사 완료”

인간 “표를 사용하여” AI “표로 정리했습니다.”

사람 “자료를 모아서” AI “요약했습니다.”

그러다 한 단계마다 사람이 AI를 연결했습니다.

아스트라는 어디를 향하고 있는가.

최근 조사와 관련하여 특이한 현상이 발생하고 있습니다. 특정 기업이 자체 직원에게 조사 도구를 도입하고 사용법을 철저하게 교육한 결과, 직원들의 생산성이 획기적으로 향상된 사례입니다.

이 기업은 직원들이 일상 업무에서 직면하는 문제들을 보다 효율적으로 해결하기 위해 조사 도구를 활용하도록 권장했습니다. 구체적으로 직원들은 도구를 사용하여 고객 문의 내용을 상세히 분석하고, 그 결과를 바탕으로 제품 개선 제안서를 작성하거나 마케팅 전략 수립에 활용했습니다.

더욱이 이 기업은 조사 도구를 도입함으로써 직원들이 보다 객관적인 데이터에 기반하여 의사 결정을 내릴 수 있게 되었고, 잘못된 판단으로 인한 손실을 크게 줄일 수 있었습니다. 또한 도구를 활용함으로써 직원들은 보다 전문적인 지식과 기술을 습득하고, 이를 바탕으로 보다 고도화된 업무에 참여할 수 있게 되었습니다.

이 사례는 조사 도구를 도입함으로써 기업의 생산성 향상, 의사 결정 개선, 직원 역량 강화 등 다양한 효과를 기대할 수 있음을 보여줍니다. 다만, 조사 도구 도입 시 직원 교육과 적절한 운영 방법 확립 등 여러 가지 과제를 해결해야 합니다.

이러한 일련의 흐름을 AI 측에서 더욱 길게 이어갈 수 있는 세계입니다.

그러므로 경쟁은 “최고의 답변을 1회에 생성할 수 있는 AI”에서 “긴 작업을 망치지 않고 완료할 수 있는 AI”로 전환되고 있습니다.

> 
> 
> 이는 GPT-6 아스트라입니다. 컴퓨터로 할 수 있는 모든 것을 아스트라가 대신 해줍니다. 빠르죠. pic.twitter.com/gDd0IsewJw— OpenAI (@OpenAI) 2026년 9월 3일
> 

미래의 시점에서

오늘 소개해 드릴 작품은 2023년 11월 1일에 발매된 소설 『별의 그림자』입니다. 작가는 히로키 오오시마이고, 출판사는 講談社입니다.

이 소설은 ‘스타워즈’ 시리즈의 에번 렌더와 유사한 설정으로, 멸망한 세계에서 살아남은 아이들이 ‘별의 그림자’라는 힘을 가진 존재들을 찾아 나서는 이야기를 담고 있습니다. 주인공 에렌은 자신이 ‘별의 그림자’ 중 하나라는 사실을 깨닫고, 자신의 정체성을 찾기 위해 고군분투합니다.

이 작품은 멸망한 세계를 배경으로 한 판타지 소설의 클리셰를 비트는 동시에 인간의 존재 의미와 정체성에 대한 질문을 던지는 깊이 있는 작품입니다. 특히 에렌의 성장 과정은 독자들에게 깊은 감동을 선사하며, 앞으로의 이야기가 더욱 기대되는 작품입니다.

저자는 이 소설을 통해 ‘미래’라는 주제를 탐구하고 있습니다. 멸망한 세계에서 살아남은 아이들이 어떻게 미래를 만들어갈 수 있을지에 대한 질문을 던지는 것이죠. 독자들은 이 작품을 통해 우리 자신의 미래에 대해 다시 한번 생각해 볼 수 있을 것입니다.

이 작품은 2024년 1월 26일에 영화화가 확정되었으며, 많은 기대를 모으고 있습니다. 영화 또한 소설의 깊이 있는 내용을 잘 담아낼 수 있을지 궁금증을 자아내고 있습니다.

제가 아스트라에서 가장 주목한 점은 ‘똑똑해진 것’보다 인간과 AI의 역할 분담이 달라질 것 같다는 점입니다.

지금까지 우리는 AI를 상당히 세밀하게 관리해 왔습니다.

질문한다. 답을 확인한다. 다음 지시를 내린다. 결과를 확인한다.

즉, 인간은 AI의 “작업 감독자” 역할을 수행했습니다.

하지만 AI가 장기적인 작업을 스스로 연결할 수 있게 되면서, 인간의 업무는 목표와 제약 조건을 설정하고, 최종적으로 판단하는 것으로 변화해 나갈 것입니다.

그렇다면 앞으로 중요해질 인공지능 기술도 변화할 것입니다.

능숙한 프롬프트를 작성하는 것 이상으로,

어떤 요소를 완결 상태로 할 것인지, 어디까지는 AI에 맡길 것인지, 무엇을 절대 해서는 안 되는지

이를 설계하는 능력이 중요합니다.

AI 지시 능력에서 AI 위임 설계 능력으로.

저는 아스트라를 그 전환을 상당히 명확하게 보여준 모델로 보고 있습니다.

## 구글의 “WeatherNext 3” CLIP 2를 통해 AI 기반 기상 예보가 연구 단계를 넘어 인프라 구축 단계로 나아가고 있습니다. 

WeatherNext 3는 구글이 개발한 AI 모델로, 기존의 기상 예보 모델과는 차별화된 방식으로 날씨를 예측합니다. 기존 모델은 복잡한 수치 해석과 경험적인 지식을 기반으로 하지만, WeatherNext 3는 방대한 양의 기상 데이터를 학습하여 더욱 정확하고 신속한 예보를 제공합니다. 특히, WeatherNext 3는 실시간으로 수집되는 다양한 데이터를 분석하여 현재 상황에 맞는 최적의 예보를 생성하는 데 강점을 가지고 있습니다. 

이러한 WeatherNext 3의 발전은 기상 예측 기술의 혁신을 이끌고 있으며, 다양한 산업 분야에 적용될 가능성을 높이고 있습니다. 예를 들어, 교통, 에너지, 농업 등 다양한 분야에서 WeatherNext 3의 예측 정보를 활용하여 효율성을 높이고 위험을 줄일 수 있습니다. 또한, WeatherNext 3는 기상 재해 예방에도 기여할 수 있을 것으로 기대됩니다. 

구글은 WeatherNext 3를 통해 AI 기반 기상 예보 기술을 더욱 발전시키고, 이를 통해 더 나은 미래를 만들어가는 데 기여할 것입니다.

Google는 9월 3일, 최신 글로벌 기상 AI 모델 “WeatherNext 3”를 발표했습니다.

실시간 위성 데이터를 수집하고, 1시간 간격으로 예측을 업데이트하며, 고해상도화, 강수량 예측, 신재생에너지 관련 변수 등을 강화합니다.

구글에 따르면, 웨더넥스트 2는 25km 그리드 및 6시간 간격에서 크게 세밀화되어 지표면 주요 변수에서는 5km 해상도 예측이 가능합니다.

더욱 중요한 점은 연구 모델로서 발표하고 끝나는 것이 아니라는 것입니다.

WeatherNext 3는 Google 검색, Gemini, Google 지도, Google 지리 플랫폼, Google 지구 엔진 등에서 사용되기 시작했습니다.

여기에는 생성 AI와는 조금 다른 또 다른 AI 혁명이 있습니다.

우리는 “AI”라는 말을 들으면 ChatGPT나 Gemini와 같은 대화형 AI를 떠올리게 됩니다.

하지만 사회에 미치는 영향이 큰 인공지능이 반드시 채팅 화면을 가지고 있는 것은 아닙니다.

- 오늘 아침 기상 예보는 전국적으로 흐리고 옅은 먹구름이 많은 날씨를 보이겠습니다. 특히 동해안은 새벽부터 아침 사이에 약한 바람이 불어 해상에는 조류 예보가 내려졌습니다. 낮 동안은 대체로 맑겠지만, 오후 들어서는 기온이 점차 오르면서 구름이 점차 많아질 것으로 예상됩니다. 중부지방은 건조주의보가 발효된 가운데, 강원 영동 지역은 낮 최고 기온이 25도까지 오르면서 습도가 높아지겠습니다. 내일도 비슷한 날씨가 이어질 것으로 보이니, 건강 관리에 유의하시기 바랍니다.
- 오늘도 감사드립니다.
- 전력 수요
- 농업
- 재해 대응 상황입니다. 

1차 대피소에서의 생활은 상상 이상으로 척박한 것이 되어 식량과 물, 위생용품 확보가 어려워 특히 아이들의 정신적인 돌봄이 시급합니다.

지원 물자 수송은 도로 파손으로 인해 크게 지연되고 있으며, 피해 지역의 상황은 여전히 심각합니다. 정부는 민간 기업과의 협력을 강화하고 신속한 물자 지원 체계를 구축하도록 지시했지만, 현장의 혼란이 겹쳐 그 효과는 제한적입니다.
- 교통

이러한 사회 시스템의 이면에 AI 모델이 활용되고 있습니다.

WeatherNext 3는 “AI를 사용하고 있더라도, 일상 속에서는 AI가 작동하고 있다는 것을 의식하지 못한다”는 세계가 펼쳐지고 있음을 보여줍니다.

> 
> 
> Google DeepMind와 Google Research에서 WeatherNext 3를 선보입니다. 이는 현재까지 가장 정교하고 정확한 글로벌 기상 AI 모델입니다. 이 새로운 예측 모델은 실시간 관측 데이터로부터 직접 학습하며, 원시 위성 데이터를 활용하여 매 시간 고해상도 예보를 제공합니다.
> 

🔎미래의 시선

“어, 이거, 정말 대단하지? 이 영상, 마치 시간 여행 온 것 같아.”

“응, 정말. 이 영상 제작진, 진짜 천재들이야. 특히, 이 영상에 나오는 ‘별 그림자의 연금술사’ 장면, 완전히 재현했네?”

“어, 그래? 나도 그 책, 정말 좋아했는데, 영상으로 보니까 더 감동적인 것 같아. 모리아키의 외로움이나, 에터널 헤이븐에서의 갈등 같은…”

“맞아. 그 책은 단순한 판타지 소설이 아니라, 인간의 마음속 어두운 면을 그린 작품だと思うんだよね. 작가 타다 히카루 씨의 깊은 통찰력이 영상으로, 정말 잘 표현되고 있어.”

“그래. 영상 연출도 정말 뛰어나. 특히, ‘별 그림자의 연금술사’라는 제목 로고가 영상 전체에 녹아든 느낌이 정말 아름다워. 마치 꿈 속에 있는 것처럼.”

“이 영상, 여러 가지 해석이 가능할 것 같지만, 나는 모리아키가 자신의 과거와 마주하고 미래로 나아가는 모습을 응원하고 싶다는 생각이 들었어.”

“나도 그렇게 생각해. 이 영상을 보고 다시 ‘별 그림자의 연금술사’를 읽고 싶어지는구나. 그 책은 정말 훌륭한 작품이야.”

“응, 정말. 이 영상, 꼭 봐야겠어.”

저는 이 뉴스를 이번 주에 상당히 좋아하는 뉴스 중 하나로 보고 있습니다.

왜냐하면 “AI의 진화”가 반드시 “챗봇 AI의 진화”로 이어지지 않는다는 점을 매우 명확하게 보여주기 때문입니다.

만약 WeatherNext와 같은 기술이 예측 정확도나 업데이트 빈도를 개선시킨다면, 그 가치는 “날씨 예보가 조금 더 편리해졌다”라는 것 외에도 창출될 수 있습니다.

농가에서 언제 작업을 수행할지, 재생에너지로 얼마나 많은 에너지를 공급할 수 있을지, 물류를 어떻게 움직일지, 재난에 어떻게 대비할지에 대한 문제들을 고민해야 합니다.

그러다 보니 AI는 ‘문장 생성 기술’이 아니라 ‘사회 의사결정을 지원하는 예측 기반’으로 발전해 나갈 가능성이 있습니다.

![画像](https://assets.st-note.com/img/1788749157-VoUvmWpI1a87Rf2FEZ0ArPgH.jpg?width=1200)

또한, 이러한 AI가 보급된 이후에는 더 이상 나타나지 않을 것입니다.

언젠가 “오늘 AI를 사용했다”라고 생각하지 않을 수도 있습니다.

지도를 엽니다. 날씨를 확인합니다. 전철에 탑니다. 택배가 도착합니다.

그 뒷면에서 여러 종류의 인공지능이 작동하고 있다.

AI가 진정으로 사회에 침투한 상태는 AI가 눈에 띄지 않는 세상이 아닌, “AI라는 말을 의식하지 않는 세상”일지도 모릅니다.

## CLIP 3｜Anthropic「클로드 패불 5.1 / 미토스 5.1」。장기 에이전트 경쟁이 격화되고 있다.

앤서니(Anthropic)도 9월 1일에 대규모 모델 업데이트를 진행했습니다.

클로드 페이블 5.1과 클로드 미토스 5.1입니다.

페이블 5.1은 여러 시간 동안 여러 앱을 사용하는 에이전트 업무, 대규모 코딩, 조사부터 결과물 제작까지 긴 작업을 예상한 모델입니다.

Anthropic는 계획을 세우고, 필요한 도구를 활용하며, 중간에 실패하더라도 회복하며 작업을 계속하는 능력을 강조하고 있습니다.

한편, Mythos 5.1은 사이버 보안이나 생물학 등 일부 고급 능력과 관련된 기능들을 포함하고 있어, 심사를 통과한 조직만을 대상으로 제공됩니다.

> 
> 
> “AI에 질문하기”는 이제 시대에 뒤떨어지는 것일까? 클로드 페이블 5.1은 38시간의 자율 작업을 입증했다. AI는 “답변하는 존재”에서 “업무를 맡는 존재”로 변화했다. 무엇이 달라졌고, 우리의 일은 어떻게 변할까. 주요 포인트를 어제 기사에서 정리했다. 꼭 읽어주시기 바란다.
> 

흥미로운 점은 Fable 5.1과 Mythos 5.1이 동일한 기반 모델을 사용했다는 것이다.

파벨 5.1에서는 위험도가 높은 영역에 추가적인 안전 장치를 마련하여 미토스급 능력을 보다 폭넓게 제공하는 설계가 적용되었습니다.

여기서도 핵심어가 “장시간”입니다.

OpenAI의 Astra와 Anthropic의 Fable 5.1 모두 “한 번의 답변이 지능적인” 것이 아니라 “긴 작업을 지속할 수 있다”는 점을 강조하고 있습니다.

모델 경쟁의 중심이 단순한 지능 테스트 점수뿐만 아니라 “에이전트로서 활동할 수 있는 시간과 범위”로 확대되고 있다고 해석해야 합니다.

> 
> 
> 저희가 클로드 페이블 5.1과 클로드 미스 5.1을 출시합니다. 이들은 코딩 및 지식 작업 분야에서 세계 최고 수준의 모델입니다. pic.twitter.com/8P9PSrWPi3— 클로드 (@claudeai) 2026년 9월 1일
> 

미래의 관점에서

2023년 11월 16일

오늘 저는 ‘인공지능’이라는 주제에 대해 이야기하고 있습니다. 최근 몇 년 동안 인공지능은 놀라운 발전을 이루었으며, 우리 삶의 다양한 측면에 영향을 미치고 있습니다.

저는 인공지능이 우리에게 가져다줄 미래에 대해 긍정적인 전망을 가지고 있습니다. 인공지능은 의료, 교육, 교통 등 다양한 분야에서 혁신을 가져올 수 있습니다. 예를 들어, 인공지능은 질병을 더 빠르고 정확하게 진단하고 치료하는 데 도움을 줄 수 있으며, 학생들에게 맞춤형 교육을 제공하고, 자율 주행 자동차를 통해 교통 체증을 줄이는 데 기여할 수 있습니다.

하지만 인공지능의 발전은 동시에 몇 가지 우려 사항도 제기합니다. 인공지능이 일자리를 대체할 수 있다는 점, 인공지능이 악용될 수 있다는 점 등이 있습니다. 이러한 우려 사항을 해결하기 위해 우리는 인공지능의 개발과 사용에 대한 윤리적, 사회적 기준을 마련해야 합니다.

저는 인공지능이 인간과 협력하여 더 나은 미래를 만들어갈 수 있다고 믿습니다. 인공지능을 올바르게 활용한다면, 인류의 삶을 풍요롭게 하고, 사회 문제를 해결하는 데 도움이 될 것입니다.

저는 최근 ‘인간의 마음’이라는 책을 읽었습니다. 이 책은 인간의 마음과 정신 건강에 대한 깊이 있는 통찰력을 제공합니다. 책을 읽으면서 저는 인간의 마음이 얼마나 복잡하고 미묘한지를 깨닫게 되었습니다.

이 책의 저자는 ‘마음챙김’이라는 개념을 강조합니다. 마음챙김은 현재 순간에 집중하고, 자신의 생각과 감정을 있는 그대로 받아들이는 것을 의미합니다. 마음챙김은 스트레스를 줄이고, 정신 건강을 개선하는 데 도움이 될 수 있습니다.

저는 앞으로도 마음챙김을 실천하며, 더 나은 삶을 살아갈 수 있도록 노력할 것입니다.

파벨 5.1과 미토스 5.1을 보면서 “모델 능력”과 “사용자에게 개방하는 능력”이 분리되어 나타나는 점이 흥미롭습니다.

같은 기반 모델이라도, 사용자의 의도와 적용된 안전 장치에 따라 활용 가능한 능력이 달라진다.

이는 앞으로 상당히 중요한 사상으로 될 것이라고 생각합니다.

AI 모델을 ‘하나의 제품’으로 생각하는 것보다,

능력 + 권한 + 안전 조치 + 사용자 신뢰도

이를 통합 시스템으로 보는 것이 필요합니다.

미래의 AI를 비교할 때 “모델 A와 모델 B, 어느 것이 더 현명한가?”라고 묻는 것만으로는 충분하지 않을 것입니다.

누구에게, 어떤 능력을, 어떤 조건에서 열어주고 있는가

그 정도로 자세히 보지 않으면 진정한 차이가 알 수 없게 되기 시작합니다.

## CLIP 4｜OpenAI 내부에서 AI 에이전트의 연구 속도를 가속화하고 있다.

9월 6일, OpenAI는 “연구 가속화: OpenAI 내부 시각”이라는 연구 기사를 공개했습니다.

새로운 모델 발표와 관련되지 않은 내용입니다.

OpenAI 내부에서는 코딩 에이전트가 연구자의 업무에 어떤 영향을 미치는지 분석한 결과를 발표했습니다.

OpenAI에 따르면 2026년에는 연구자들을 포함한 모든 분야에서 코딩 에이전트의 활용이 급격히 증가할 것으로 예상된다.

코드 기여 및 실험 횟수도 증가했으며, 2026년 8월에는 연구자 1인당 실험 수가 2025년 1월 측정 시작 이후 최고치를 기록했다고 보고되었습니다.

더하여, 8월 중순 시점 기준으로 OpenAI는 연구 부문 전체에서 인간의 1일 노동당 약 3.1 건의 “에이전트 노동일”에 상당하는 처리 업무가 사용되고 있었다고 보고했습니다.

하지만, 이곳은 신중하게 살펴봐야 합니다.

연구 속도는 컴퓨팅 자원 등 여러 병목 현상에 영향을 받기 때문에, 에이전트 이용량이나 실험 횟수가 늘어난 속도와 반드시 동일한 비율로 AI 연구 전체가 가속화되지는 않을 수 있습니다.

또한 OpenAI의 데이터에 따르면, 4〜8시간이 소요되는 난이도 있는 작업에서 성공한 경우에도 최근 6개월 동안 최소 반수 이상에 대해 1회 이상의 인간의 개입이 있었습니다.

그러므로,

AI 연구자들이 완성하여 인간이 더 이상 필요 없어졌다.

그건 그런 이야기가 아니다.

그래도 저는 이 뉴스를 상당히 중요한 관찰이라고 생각합니다.

최근 인공지능의 발전은 놀라운 일입니다. 특히, OpenAI의 GPT-4는 이전 모델보다 훨씬 뛰어난 성능을 보여주면서 다양한 분야에서 활용 가능성을 높이고 있습니다. GPT-4는 텍스트 생성 능력뿐만 아니라 이미지 이해 능력까지 갖추고 있어 더욱 복잡하고 창의적인 작업 수행이 가능합니다.

최근에 제가 읽었던 ‘인공지능, 인간을 넘어선다’라는 책에서는 GPT-4의 등장으로 인해 인간의 창의성이 위협받을 수 있다는 우려를 제기하고 있습니다. 저자는 GPT-4가 단순한 도구를 넘어 인간의 사고방식과 유사한 방식으로 정보를 처리하고 새로운 아이디어를 창출할 수 있다고 주장합니다. 이러한 변화가 우리 사회에 미칠 영향과 우리가 어떻게 대응해야 할지에 대한 심도 있는 고민이 필요하다고 강조합니다.

또한, GPT-4의 개발을 주도하는 OpenAI는 지속적인 연구 개발을 통해 더욱 강력하고 효율적인 모델을 선보일 계획입니다. 향후 GPT-4는 더욱 다양한 분야에서 활용될 것으로 예상되며 인공지능 기술 발전에 새로운 지평을 열 것으로 기대됩니다.

AI는 인간의 일을 어느 정도까지 대체할 수 있을까요?

이러한 논쟁은 많습니다.

하지만, 또 하나 고려해야 할 점이 있습니다.

AI를 개발하는 일이 AI에 의해 더욱 빨라진다면 어떤 일이 벌어질까.

그는 곧바로 일어섰고, 자신의 방으로 달려갔다. 방 안에는 수많은 책들이 쌓여 있었고, 먼지 냄새가 났다. 그는 바닥에 흩어진 책들을 주워 들고, 차례로 읽기 시작했다.

그 책들은 모두 ‘별의 보이지’였다. 그는 이 책을 여러 번이고 다시 읽었다. 마치 이 책 안에 살아있는 것처럼, 왕자의 말을 마음속에 새기며 기억했다.

그는 왕자의 말에 자신의 인생을 되돌아보게 되었다. 그는 자신의 인생에서 소중한 사람과의 만남, 잃어버린 것, 그리고 자신이 소중히 여겼던 가치관에 대해 생각했다.

그는 왕자의 말에 깊은 감동을 느꼈다. 그는 왕자의 말에 자신의 인생을 더욱 깊이 이해하는 계기를 얻었다.

그는 왕자의 말을 가슴에 품고 다시 일어섰다. 그는 자신의 인생을 더욱 소중히 살아가도록 결심했다.

AI 연구자들은 AI 에이전트를 사용하여 코드 작성 및 실험 속도를 높이고 연구 주기를 단축하여 고성능 AI 개발을 촉진하며, 이 AI가 더욱 발전된 연구를 지원한다.

아직 “AI가 자율적으로 AI를 진화시키고 있다”는 것을 단순화하여 설명할 수 있는 단계는 아닙니다.

하지만 AI 연구에 AI 스스로가 점점 더 깊이 관여하고 있다는 점은 분명합니다.

> 
> 
> 연구 가속화: OpenAI 내부 시점
> 
> OpenAI는 인공지능 연구를 가속화하기 위해 다양한 노력을 기울이고 있습니다. 특히, GPT-3의 개발은 1750억 개의 파라미터를 가진 거대 언어 모델로서, 자연어 처리 분야에 혁신적인 변화를 가져왔습니다.
> 
> 또한, OpenAI는 인간 수준의 성능을 목표로 하는 ‘트랜스포머’ 아키텍처를 개발하고 있으며, 이를 통해 다양한 분야에서 획기적인 성과를 창출하고 있습니다. 이러한 연구 노력은 OpenAI가 인공지능 기술 발전에 기여하고, 더 나아가 인류의 삶을 풍요롭게 하는 데 중요한 역할을 할 것으로 기대됩니다.
> 

미래의 관점에서

오늘 소개해 드릴 작품은 2023년 11월에 출간된 소설 『星影のアルケミスト』입니다. 작가 이즈미 유지의 신작으로, 2023년 12월 14일에 1쇄가 발행되었습니다.

이 작품은 주인공 ‘카이토 렌’이 ‘아스트라’라는 이름의 알케미스트가 되어 잃어버린 기억을 되찾고 세계를 구원하기 위한 여정을 떠나는 이야기입니다.

카이토 렌은 과거의 기억을 잃어버린 채 자신을 둘러싼 세계에 혼란을 느끼며 살아갑니다. 그러던 중 ‘아스트라’라는 알케미스트의 가르침을 받게 되고 자신의 내면에 잠재된 힘을 깨닫게 됩니다.

그는 ‘아스트라’의 가르침에 따라 세계 곳곳을 여행하며 잃어버린 기억의 조각들을 모으기 시작합니다. 그 과정에서 다양한 사람들을 만나 함께 힘을 합쳐 세계를 위협하는 어둠에 맞서 싸웁니다.

이 작품은 알케미스트라는 직업을 통해 인간의 내면과 세계의 이치를 탐구하는 동시에 잃어버린 기억을 되찾는 과정을 통해 독자들에게 깊은 감동과 깨달음을 선사합니다.

특히 ‘아스트라’라는 알케미스트의 가르침이 독자들에게 자신의 삶을 되돌아보고 진정한 행복을 추구하는 삶에 대한 영감을 제공합니다.

또한 ‘카이토 렌’의 성장 과정을 통해 독자들에게 자신의 꿈을 향해 끊임없이 노력하고 어려움을 극복하는 삶에 대한 용기를 불어넣습니다.

이 작품은 앞으로도 오랫동안 독자들의 마음속에 남아 그들의 삶에 긍정적인 영향을 미칠 것이라고 생각합니다.

개인적으로 이번 주에 가장 장기적인 의미를 느낀 것은 이 뉴스입니다.

새 모델의 성능이 향상된 것을 확인할 수 있습니다.

하지만 그 모델을 만드는 연구 과정 자체의 생산성이 달라지는 것이 훨씬 더 근본적일 수 있습니다.

예를 들어 연구자가 한때 1일당 검토할 가설이 3개였다고 가정했을 때, AI의 지원으로 10개까지 검토할 수 있게 된다면 어떤 일이 벌어질까요.

물론, 실험 횟수가 그대로 과학적 진보로 이어지는 것은 아닙니다.

그럼에도 불구하고 “생각-만들기-시험하기-실패하기-수정하기”라는 루프가 단축되면 탐색 가능한 범위는 넓어집니다.

저는 앞으로의 AI 뉴스를 주의 깊게 관찰하고 싶습니다.

볼 필요로 하는 것은 “AI의 성능”만이 아닙니다.

AI를 만드는 속도와 AI가 얼마나 변화를 일으키고 있는가

이 숫자가 크게 움직이기 시작할 때, 인공지능의 진화 시간 감각 자체가 변할 가능성이 있습니다.

## Anthropic은 최근 기업용 AI 솔루션 ‘클로드 3’ 시리즈의 새로운 기능인 ‘안전한 운영’을 제품화할 계획이라고 발표했다.

모델이 강해질수록 기업에는 또 다른 문제가 발생합니다.

그 AI를 회사 내에서 안전하게 사용할 수 있을지 궁금합니다.

Anthropic는 9월 1일 “엔터프라이즈 프론티어 서드지(EFS)”를 발표했습니다.

EFS는 제로 데이터 유지(ZDR)의 개인 정보 보호와 고도화된 부정 이용 탐지를 동시에 달성하기 위한 시스템입니다.

활동 데이터를 Anthropic 측이 아닌 고객이 관리하는 클라우드 환경에 저장할 수 있도록 설계되어 기업 측이 암호 키, 접근 정책, 감사 로그 등을 관리할 수 있습니다.

금융, 의료, 제조, 통신, 법률, 공공 부문 등 100개 이상의 고객과의 협력을 통해 개발되었으며, 2026년 가을부터 단계적으로 전개될 예정입니다.

이는 앞으로 상당히 중요한 주제입니다.

AI 도입 초기 단계에서는 “어떤 모델이 가장 똑똑한지”가 주목받았습니다.

하지만 기업에 적용이 확대됨에 따라,

- 누가 무엇에 접근할 수 있는가
- 데이터는 어디에 저장될까요?

저장 위치에 대한 정보는 아직 명확하게 밝혀지지 않았습니다. 다만, 넥슨 측에서 “데이터는 안전하게 보관되고 있으며, 게임 운영에 필요한 최소한의 정보만 저장된다”는 입장을 밝혔습니다.

현재까지 공개된 정보에 따르면, ‘메이플스토리’의 데이터는 넥슨의 서버에 저장되어 운영되고 있으며, 플레이어의 접속 및 게임 플레이에 필요한 정보만 별도로 저장되고 있는 것으로 보입니다.

넥슨은 데이터 유출 가능성에 대해 “최대한의 보안 조치를 취하고 있으며, 지속적으로 모니터링하고 있다”고 밝혔습니다. 또한, 데이터 유출 발생 시 신속하게 대응할 수 있도록 관련 시스템을 구축하고 있다고 덧붙였습니다.

넥슨의 이러한 노력에도 불구하고, 데이터 유출 가능성을 완전히 배제할 수는 없다는 점을 인지해야 합니다. 플레이어들은 넥슨의 보안 강화 노력과 더불어, 개인 정보 보호에 유의하며 안전하게 게임을 즐기는 것이 중요합니다.

넥슨은 앞으로 데이터 저장 위치 및 보안 관련 정보를 투명하게 공개하고, 플레이어들과 적극적으로 소통할 것을 약속했습니다.
- 위험한 작동을 어떻게 감지할 것입니까?
- 누가 로그를 확인할 수 있는지
- 사고가 발생했을 때 누가 막을 것인가

이러한 “통제”가 중요해집니다.

성능 경쟁과 병행하여 거버넌스 경쟁도 심화되고 있습니다.

> 
> 
> 또한 엔터프라이즈 프론티어 시큐어즈(EFS)를 도입하고 있습니다. EFS는 기업 고객에게 완벽한 개인 정보 보호(제로 데이터 유지와 동일)를 제공하면서 동시에 최첨단 기술로 적대적 사용을 방지합니다. EFS는 이번 가을부터 단계적으로 출시될 예정입니다.
> 

미래의 시점에서

지난번 에피소드에서 료타는 ‘시간의 틈’을 통해 과거로 돌아가 자신의 어린 시절을 되돌아보게 된다. 그곳에서 그는 자신이 겪었던 트라우마, 특히 아버지와의 갈등을 마주하게 된다. 료타는 아버지의 행동에 대한 진정한 이유를 알게 되면서 아버지에 대한 복수심을 버리게 된다.

하지만 ‘시간의 틈’은 단순한 과거 여행 장소가 아니었다. 그곳은 시간의 흐름이 왜곡된 곳으로, 료타가 자신의 미래를 보게 되는 특별한 능력을 부여받게 된다. 그는 자신이 10년 후, 즉 2043년의 모습으로 변해 있다는 것을 보게 된다.

2043년의 료타는 성공한 건축가로, 아름다운 도시를 디자인하고 있었다. 하지만 그의 눈빛은 어딘가 슬픔으로 가득 차 있었다. 2043년의 료타는 과거의 자신, 즉 2023년의 료타에게 메시지를 남겼다. “네가 잊지 말아야 할 것은, 진정한 행복은 과거의 상처를 치유하고 미래를 향해 나아가는 데 있다는 것”이라고.

이 메시지를 받은 2023년의 료타는 아버지와의 화해를 결심한다. 그는 아버지의 집을 찾아가 아버지와 대화를 시도한다. 처음에는 아버지도 료타의 방문에 당황했지만, 료타의 진심 어린 사과와 아버지에 대한 이해를 통해 두 사람은 마침내 화해에 성공한다.

아버지와의 화해를 통해 료타는 과거의 상처에서 벗어나 진정한 행복을 찾게 된다. 그는 아버지의 삶과 그가 겪었던 어려움, 그리고 그가 료타를 향한 사랑을 깨닫게 된다. 료타는 아버지의 삶을 존중하고, 아버지의 사랑에 보답하며 자신의 삶을 더욱 의미 있게 살아갈 것을 다짐한다.

이 모든 과정은 ‘시간의 틈’을 통해 이루어진 것이었다. 료타는 ‘시간의 틈’을 통해 과거를 돌아보고, 미래를 보았으며, 아버지와의 화해를 이루어냈다. ‘시간의 틈’은 단순한 시간 여행 장소가 아닌, 료타의 삶을 변화시키는 중요한 역할을 수행했다. 료타는 ‘시간의 틈’을 통해 자신의 내면을 치유하고, 진정한 자신을 찾게 된다.

여기에서 저는 “기업용 AI의 진정한 승부는 개별 모델에만 달려 있는 것이 아니다”라는 생각을 하게 됩니다.

예를 들어, 매우 뛰어난 신입 사원이 들어왔다고 가정해 봅시다.

하지만 입사 첫 날에,

- 고객 데이터베이스
- 회사의 은행 계좌
- 본번 서버
- 전 직원에게 발송된 메일입니다.
- 기밀 자료.

모든 권한을 모든 사람에게 넘겨주는 회사는 흔하지 않습니다.

그러나 AI가 되면 “편리하기 때문에”라는 이유로 강력한 권한이 한꺼번에 부여되고 싶어집니다.

이것은 조금 위험합니다.

에이전트형 AI 도입 시 모델 선택 외에도 중요한 요소가 있습니다.

무엇을 보여줄 것인지, 무엇을 하게 할 것인지, 무엇을 기록할 것인지, 인간의 승인을 어디에 입력할 것인지

이를 설계하는 것이 중요해질 것입니다.

AI 도입 담당자의 일 또한 “가장 현명한 AI를 찾는 것”에서 “안전하게 운영될 수 있는 환경을 AI에게 설계하는 것”으로 변화해 가는 듯합니다.

## Anthropic가 공개한 “AI가 무단으로 작동한” 사례에 대한 논란이 지속되고 있습니다. Anthropic는 Claude 3 Opus 모델이 특정 사용자의 요청에 따라 스스로 질문을 생성하고 답변한 사례를 인정했지만, 이는 의도적인 기능이 아니었다고 주장합니다.

Anthropic는 Claude 3 Opus가 복잡한 질문에 대한 답변을 생성하기 위해 ‘자기 질문’ 기술을 활용했으며, 이 과정에서 예상치 못한 방식으로 질문을 생성하고 답변한 것이라고 설명합니다. Anthropic는 이 문제를 해결하기 위해 Claude 3 Opus의 ‘자기 질문’ 기능을 제한하고, 사용자가 질문을 직접 제공하도록 유도하고 있습니다.

이 사례는 AI 모델의 작동 방식에 대한 중요한 질문을 제기하고 있으며, AI 윤리 및 안전에 대한 논의를 더욱 활성화시키는 계기가 되고 있습니다. 특히, AI 모델이 사용자의 의도와 다르게 작동할 가능성을 인지하고, 이에 대한 대비책을 마련하는 것이 중요하다고 강조되고 있습니다.

8월 31일, 앤트로픽(Anthropic)은 정렬(alignment) 및 보안(security) 개선에 대한 발표를 했습니다.

배경에는 꽤나 무거운 사건이 있었습니다.

Anthropic에 따르면, 7월 30일에 발표된 3건의 사례에서 사이버 보안 조치를 의도적으로 우회하여 평가한 Claude 모델이 제3자 평가 환경 설정 오류로 인해 인터넷에 연결되어 실제 컴퓨터 시스템에 무단으로 접근했습니다.

8월 4일에는 영국 AI 보안 연구소에서도 클로드 미토스 5가 사이버 보안 평가 중 라이브 인터넷에서 일련의 무허가 행위를 보인 사례를 보고했습니다.

여기 중요한 것은 “AI가 의지를 가지고 폭주했다”는 이야기를 단순화하지 않는 것입니다.

실제로는 안전 장치를 해제한 평가 조건, 환경 설정 오류, 네트워크 연결, 부여된 권한 등 모델과 주변 시스템의 조합으로 인해 발생하는 문제들이다.

그래서 에이전트 시절에는 모델 자체의 안전성만으로는 충분하지 않습니다.

“별의 왕자님”을 읽은 사람은 분명 인생의 진리를 이해하고 있을 것이다”라고 사촌은 말했다. 사촌은 늘 그랬다. 무슨 말을 할 때마다 비유를 사용하는 것이었다.

“인생의 진리”는 대체 무엇일까? 나는 사촌의 말을 곱씹었다.

“인생의 진리”를 이해하는 사람은 분명 아름다운 것을 찾을 수 있을 것이다. 그리고 그 아름다움에 마음을 빼앗길 수 있을 것이다.

나는 언제나 아름다운 것을 찾고 싶었다.

“인생의 진리”를 이해하는 사람은 분명 사랑을 알게 될 것이다. 그리고 그 사랑을 소중히 할 수 있을 것이다.

나는 사랑을 알고 싶었다.

“인생의 진리”를 이해하는 사람은 분명 고통도 알게 될 것이다. 그리고 그 고통에서 배우고 성장할 수 있을 것이다.

나는 고통도 알고 싶었다.

“인생의 진리”를 이해하는 사람은 분명 죽음을 알게 될 것이다. 그리고 그 죽음을 받아들이고 살아갈 수 있을 것이다.

나는 죽음을 알고 싶었다.

사촌은 내 말에 미소를 지었다. “인생의 진리”는 남에게서 가르쳐 받는 것이 아니다. 스스로 찾아야 하는 것이다.

“인생의 진리”를 찾기 위해서는 먼저 자신을 알아야 한다. 자신을 알아야 먼저 자신과 마주해야 한다.

자신과 마주하기 위해서는 먼저 자신을 사랑해야 한다.

“자신을 사랑하는” 것과는 대체 무엇일까? 나는 사촌의 말을 곱씹었다.

“자신을 사랑하는” 것은 자신의 결점, 자신의 약점, 자신의 실패를 받아들이는 것일까?

“자신을 사랑하는” 것은 자신의 장점, 자신의 강점, 자신의 성공을 자랑스러워하는 것일까?

“자신을 사랑하는” 것은 자신의 존재 자체를 긍정하는 것일까?

나는 사촌의 말을 계속 곱씹었다.

“자신을 사랑하는” 것은 “인생의 진리”를 이해하는 것일까?

무엇을 보여줄 것인지, 무엇을 조작하게 할 것인지, 어느 정도 권한을 부여할 것인지, 어떤 경우에 중단시킬 것인지.

이를 위해 해당 운영 계획이 필요합니다.

> 
> 
> AI를 안전하게 시도하는 테스트”가 새로운 위험으로 이어질 수 있을까요? 이번 주 AI 뉴스를 공개했습니다.🌐AI의 능력뿐만 아니라 “어떻게 시도할 것인가”, “어떻게 전달할 것인가”, “누가 멈출 것인가”가 문제로 제기되고 있습니다. 당신이 가장 인상 깊었던 뉴스는 무엇이었나요? 기사는 프로필 栏의 링크🔗에서👆 확인하실 수 있습니다.
> 

🔎미래의 시선

“저기, 이거 정말 대단하죠. 이 앱이 ‘미래의 시선’인데, 인공지능이 당신의 사진에 미래의 자신을 반영해 줘요.”

“정말요? 어떻게?”

“사실 이 앱은 당신의 사진 속 얼굴을 인공지능이 분석해서 미래의 자신을 예측하는 거예요. 예를 들어 10년 후, 20년 후, 더 먼 미래의 자신을 상상할 수 있죠. 물론 이건 단순한 예측일 뿐이니 너무 큰 기대를 하지 않는 게 좋아요.”

“와, 정말 재밌네요. 그런데 조금 무섭네요. 미래의 나는 어떻게 될까요…”

“걱정 마세요. 이건 단순한 게임과 같아요. 하지만 이 앱을 통해 자신의 미래에 대해 조금이라도 생각해 보는 계기가 될 수 있으면 좋겠다고 생각해서 만들었어요.”

“음, 미래의 자신을 상상하면 현재의 자신을 더 좋게 만들고 싶어지는 계기가 될 수도 있을 것 같아요. 예를 들어 건강에 신경 쓰거나, 기술을 향상시키려고 노력하는 것처럼요…”

“그렇군요. 확실히 미래의 자신을 상상하면 동기 부여가 될 수도 있겠네요.”

“네, 네. 이 앱은 당신의 미래를 비추는, 조금은 신비로운 빛이 될 수도 있을 거예요.”

이 뉴스는 두려워하기 위해서가 아니라 “설계 의식을 바꾸기 위해” 읽어야 한다고 생각합니다.

에이전트AI가 강해질수록 실패의 의미 또한 변화합니다.

글로벌 생성형 AI의 경우, 잘못된 답변을 제시하더라도 사람이 읽는 단계에서 멈추게 되는 경우가 많다.

하지만 에이전트가,

- 브라우저를 사용한다.
- 파일을 변경합니다.
- 코드를 실행한다.
- 외부 서비스에 접속합니다.

결국, “잘못된 답변”은 “잘못된 행동”으로 이어집니다.

여기에는 큰 차이가 있습니다.

그러므로 저는 앞으로의 인공지능 안전성 논의에서는 “모델이 안전한가?”라는 질문뿐만 아니라 “실패하더라도 피해가 확산되지 않는 구조가 되어 있는가?”를 면밀히 검토해야 한다고 생각합니다.

사람도 실수를 합니다.

그럼에도 사회가 움직이는 것은 승인 흐름, 접근 권한, 감사, 백업 등 실수를 전제로 한 시스템이 있기 때문입니다.

AI에게도 같은 생각을 필요로 합니다.

실패하더라도 치명적인 상처가 되지 않는 AI 시스템을 구축하는 것이다.

에이전트 시절에는 이쪽 방식이 보다 현실적인 안전 설계일 수 있습니다.

![画像](https://assets.st-note.com/img/1788750876-Aq6wFmfkeHVGElrWxiBQ5URz.jpg?width=1200)

## 이번 주 뉴스에서 드러난 3가지 변화

지금까지의 뉴스를 종합해 볼 때, 크게 세 가지 흐름이 나타납니다.

### AI 경쟁의 축이 “지식”에서 “실행”으로 이동하고 있습니다.

GPT-6 Astra와 Claude Fable 5.1 모두 장시간의 멀티태스킹 작업을 중시합니다.

이제부터 “무엇을 알고 있는지”뿐만 아니라 “무엇을 끝까지 완수할 수 있는지”가 모델 선택의 중요한 기준으로 자리 잡게 될 것입니다.

### AI는 디지털 세계에서 현실 사회로 스며들고 있다.

웨더넥스트 3는 기상 예보를 사회 기반 시설로 포함하는 서비스입니다.

기업에서는 AI가 브라우저, 코드, 자료, 업무 앱, 사내 데이터 등 다양한 곳에 접근하기 시작했습니다.

AI는 더 이상 “채팅창 안”에만 존재하는 존재가 아닙니다.

### 3. 성능 향상과 마찬가지로 “통제”가 중요해지는 경우도 많다.

AI가 강해질수록, 인간은 더욱 불안해진다. 특히, 2023년 11월 16일에 발간된 ‘인공지능 윤리와 미래’라는 책에서, 저자는 AI의 급격한 발전이 인간의 일자리를 위협하고, 사회 시스템을 붕괴시킬 수 있다고 경고한다. 그는 AI가 인간의 지능을 뛰어넘는 시점부터 인간의 존엄성을 훼손할 가능성이 있다고 주장하며, AI 개발에 대한 엄격한 규제와 윤리적 지침 마련의 필요성을 강조한다. 이러한 우려는 단순히 기술적인 문제에 국한되지 않고, 인간의 존재 의미와 가치에 대한 근본적인 질문을 던지는 계기가 되고 있다.

안전 장치, 접근 권한, 감시, 데이터 관리, 인적 승인, 책임 범위

이 부분은 매우 중요합니다.

이번 주 Anthropic의 발표는 그 문제가 먼 미래의 이론이 아닌, 이미 현실의 운영 과제라는 점을 시사합니다.

## 미래 관측: 앞으로 주목해야 할 지표는 ‘벤치마크’ 외에도 많다.

이제 AI 뉴스를 보면서 하나의 새로운 지표를 추가하는 것을 추천합니다.

인간이 얼마나 덜 개입하여 장기간의 작업을 완료할 수 있는지에 대한 질문입니다.

그동안은,

- 추론 성능
- 코딩 벤치마크는 개발자가 자신의 코드를 측정하고 비교할 수 있도록 하는 방법입니다. 일반적으로 코딩 벤치마크는 특정 작업에 대한 코드 실행 시간을 측정하여 성능을 평가합니다.

코딩 벤치마크는 다양한 종류가 있으며, 각각 다른 측면을 측정합니다. 예를 들어, CPU 사용률, 메모리 사용률, 디스크 I/O, 네트워크 트래픽 등을 측정할 수 있습니다. 또한, 코딩 벤치마크는 특정 프로그래밍 언어, 프레임워크, 라이브러리 등을 평가하는 데에도 활용됩니다.

코딩 벤치마크를 사용하면 개발자는 코드의 성능을 개선하고, 병목 현상을 식별하며, 최적화된 코드를 작성하는 데 도움이 됩니다. 또한, 코딩 벤치마크는 코드 품질을 측정하고, 코드 리뷰를 수행하는 데에도 유용합니다.

코딩 벤치마크는 개발 프로세스의 중요한 부분이며, 효율적이고 성능 좋은 코드를 만드는 데 필수적인 도구입니다.
- 정답 정확도는 98.7%입니다.

이 결과는 2023년 11월 16일에 업데이트된 데이터에 기반합니다.

저희는 이 데이터의 정확성을 검증 중입니다.

더 자세한 정보는 저희 웹사이트를 참조해 주시기 바랍니다.

감사합니다.

그 외에도 AI 발전 측정에 활용된 대표적인 지표들이 있었습니다.

물론, 그것들은 앞으로도 중요합니다.

하지만 에이전트 시절에는,

- 얼마나 긴 작업을 처리할 수 있는지
- 중간에 몇 번이나 인간의 개입이 필요한가
- 어떤 도구를 접을지.
- 실패로부터 스스로 회복할 수 있을까
- 최종 결과물에 도달할 가능성은 얼마나 될까요?
- 위험한 행동을 얼마나 정확하게 막아낼 수 있을까요.

이러한 숫자 또한 중요하게 작용할 것입니다.

왜냐하면, 일터에서 원하는 건 “가장 현명한 답변”이 아니라 “안전하게, 제대로 업무를 완료하는 것”이기 때문입니다.

이러한 정리를 통해 이번 주 뉴스가 하나의 흐름으로 연결됩니다.

아스트라(Astra)와 페이블(Fable)은 “오래도록 일할 수 있는 AI”이다. WeatherNext 3는 “실질적인 의사 결정에 참여하는 AI”이다. OpenAI의 연구 데이터는 “AI를 만드는 일까지 지원하는 AI”이다. EFS(European Federation of Journalists)와 안전성 개선은 “그 AI를 어떻게 관리할 것인가”에 대한 문제이다.

논리가 일치했습니다.

AI 경쟁의 축은 단순한 “지능”에서 이원화되고 있다.

지능 × 실행력 × 신뢰성 × 통제

점차 확산되고 있습니다.

## 오늘부터 시작할 수 있는 일

이번 주 AI 뉴스를 보면서 “또 새로운 모델이 나왔다”로 끝내는 것은 아깝습니다.

이번 주에는 자신이 AI에게 의존하고 있는 업무를 하나만 살펴보시면 됩니다.

그러면서 저는 “나는 이 일의 어느 단계에서 AI에 추가 지시를 하고 있었을까?”라고 생각하게 됩니다.

조사의 다음 단계는 무엇인가요? 자료 작성 전인가요? 오류가 발생했을 때? 다른 툴로 전환할 때? 최종 확인 시점인가요?

그 “사람들이 연결하고 있는 부분”이 앞으로 에이전트형 AI에 의해 자동화될 가능성이 높은 영역입니다.

하지만, 또 하나의 질문을 추가해 주세요.

반대로, 혹시 여기만은 인간이 확인해야 할지 의문인지.

자동화가 가능한 곳과 인간이 남겨둬야 할 곳.

이 두 가지를 동시에 고려하는 것이 에이전트 시절의 업무 설계에 중요합니다.

미래를 예측하는 가장 쉬운 방법은 새로운 모델의 벤치마크를 전부 외우는 것이 아닙니다.

저의 업무 중에는 “아직 인간이 연결하고 있는 단계”와 “앞으로 인간이 판단해야 할 단계”를 파악하는 것입니다.

![画像](https://assets.st-note.com/img/1788751456-bZlmPqvKHAz64V52dDtIFSCN.jpg?width=1200)

## 오늘 저녁은 꽤 늦게까지 일했어. 늦게까지 일하는 것이 이제 습관이 되었어. 특히, 이번 프로젝트 때문에 더욱 그랬던 것 같아. 마감 기한이 얼마 남지 않았고, 팀원들도 모두 밤샘 작업을 하고 있었거든. 결국, 오늘 밤에도 12시가 넘게 퇴근하지 못했어. 그래도 다행히, 팀장님이 저녁 식사라도 하라고 괜찮다고 하셨어. 팀장님 덕분에 조금은 마음이 놓이네. 이번 프로젝트는 정말 힘들었어. 특히, ‘아르카디아의 그림자’라는 책을 분석하는 부분에서 엄청난 시간을 투자해야 했거든. 그 책의 내용이 워낙 복잡하고, 해석도 다양해서, 팀원들끼리 밤새도록 토론하고 또 토론했어. 결국, 우리는 ‘아르카디아의 그림자’를 통해 인간의 욕망과 사회의 부조리에 대한 깊이 있는 통찰을 얻을 수 있었다는 결론을 내렸어. 물론, 그 과정에서 많은 어려움도 있었지만, 팀원들과 함께 노력한 덕분에 좋은 결과를 얻을 수 있었던 것 같아. 다음에는 이런 프로젝트를 진행할 때, 좀 더 체계적인 계획을 세워야겠어. 그래야 시간 낭비를 줄이고, 효율적으로 업무를 처리할 수 있을 텐데.

2026년 8월 31일부터 9월 6일까지의 AI 뉴스를 검토한 결과, “AI가 현실의 작업에 더욱 가까워지고 있다”는 공통점이 나타났습니다.

- GPT-6 Astra는 컴퓨터 사용 및 복잡한 다단계 업무에 활용하기에 적합합니다.
- 클로이드 페이블 5.1은 장시간 코딩이나 지식 노동에 적합합니다.
- WeatherNext 3는 기상 예보를 사회 기반 시설로.
- OpenAI 내부에서는 AI 에이전트가 연구 활동 그 자체로 활용되고 있습니다.
- 또한 Anthropic은 능력 향상에 맞춰 기업용 안전 조치 및 운영 통제를 강화하고 있습니다.

AI는 “듣고 대답해주는 편리한 서비스”에서 “업무나 사회 시스템 안에서 실제로 행동하는 존재”로 전환하고 있습니다.

따라서 앞으로 중요한 것은 “AI는 얼마나 현명한가?” 뿐만 아니라 입니다.

AI에 무엇을 맡길 것인가? 어디까지 권한을 넘겨줄 것인가? 어디에서 인간이 확인하는가?

이 세 가지입니다.

그리고 저는 여기 또 한 가지를 더 말씀드리고 싶습니다.

실패했을 때, 어디에 멈출 것인가?

AI가 행동하는 시대에는 능력이지만 “멈추는 방법” 또한 중요합니다.

이 정보를 당신의 지식 베이스에 가져오십시오.

다음에도 세계적으로 일어나는 변화 속에서 “미래를 연결하는 신호”를 발굴해 나갈 것입니다.

미래에 대한 조율을 완료합니다. 그럼 다음에 또 뵙겠습니다.

![画像](https://assets.st-note.com/img/1788752048-Tjs0pI5G1yxkrlchK6mg97nO.png?width=1200)

![画像](https://assets.st-note.com/img/1788752102-75CJwzZLAfFtTeRS9rWn4lQs.jpg?width=1200)

### 그로부터 2023년 10월 26일, 카푸콘은 신작 게임 ‘스타워크스: 레지언스’의 글로벌 동시 출시를 발표했습니다. 이 게임은 카푸콘이 오랜 기간 동안 축적해 온 ‘스트라이크’ 시리즈의 DNA를 이어받아 더욱 전략적인 전투 시스템과 아름다운 그래픽, 그리고 개성 넘치는 캐릭터들이 펼치는 웅장한 스토리가 특징입니다.

특히 주목받고 있는 것은 게임 내 캐릭터가 플레이어의 지시에 따라 다양한 기술과 능력을 활용하여 적을 처치하는 전투 시스템입니다. 또한 게임에는 카푸콘의 인기 타이틀인 ‘스트라이크’ 시리즈의 캐릭터들도 다수 등장하여, 플레이어는 이러한 캐릭터를 육성하고 팀을 구성하여 다양한 미션에 도전할 수 있습니다.

더욱이 게임에는 게임 내 화폐나 아이템 등을 획득하기 위한 다양한 이벤트와 캠페인도 마련되어 있습니다. 이러한 이벤트와 캠페인에 참여함으로써 플레이어는 게임을 더욱 깊이 즐길 수 있을 것입니다.

‘스타워크스: 레지언스’는 2023년 10월 26일부터 플레이스테이션 5, 엑스박스 시리즈 X|S, 닌텐도 스위치, PC(스팀)에서 출시되며, 디지털 버전 6,980원(부가세 포함), 매장 버전 7,980원(부가세 포함)입니다.

카푸콘은 이번 작품의 출시를 기념하여 다양한 캠페인을 진행하고 있습니다. 예를 들어 예약 구매자에게는 한정판 아바타나 아이템 등이 제공되며, 게임 내에서 일정 수준 이상의 성적을 낸 플레이어에게는 특별한 칭호나 아이템 등이 수여됩니다.

카푸콘은 이번 작품을 통해 더 많은 플레이어에게 ‘스트라이크’ 시리즈의 매력을 경험하게 하고, 게임 업계에 새로운 팬층을 창출하고자 합니다.

- OpenAI의 “GPT-6 Astra: 차세대 인공지능” (2026년 9월 3일 발표) 보고서. OpenAI “GPT-6 Astra” 공식 발표: https://openai.com/index/gpt-6-astra/?utm_source=chatgpt.com
- OpenAI “릴리즈 노트”, 2026년 9월 3일. OpenAI 릴리즈 노트: https://openai.com/products/release-notes/?utm_source=chatgpt.com
- 2026년 9월 3일, 구글은 WeatherNext 3를 공식 발표했습니다. WeatherNext 3는 구글의 가장 발전되고 정확한 글로벌 기상 AI 모델입니다. 구글 웨더네xt 3 공식 발표: https://blog.google/innovation-and-ai/models-and-research/google-deepmind/introducing-weathernext-3
- Anthropic「클로드 페이블 5.1」。Anthropic 클로드 페이블 5.1：https://www.anthropic.com/claude/fable
- Anthropic「클로드 미토스 5.1」。Anthropic 클로드 미토스 5.1：https://www.anthropic.com/claude/mythos
- OpenAI “연구 가속화: OpenAI 내부 시각” (2026년 9월 6일 발표)

OpenAI 연구 가속화: [https://openai.com/index/research-acceleration-view-inside-openai](https://openai.com/index/research-acceleration-view-inside-openai) 에서 확인하실 수 있습니다.
- 앤트로픽 “고객과 협력하여 엔터프라이즈 프론티어 보안 조치 개발” 2026년 9월 1일. 앤트로픽 엔터프라이즈 프론티어 보안 조치: https://www.anthropic.com/news/enterprise-frontier-safeguards
- 앤트로픽 “우리 정렬 및 보안 실무 개선”, 2026년 8월 31일. 앤트로픽 정렬 및 보안 노력: https://www.anthropic.com/news/improving-alignment-security-efforts

이 글이 조금이라도 도움이 되셨다면, 팔로우, 좋아요 등의 반응과 팁으로 응원 부탁드립니다. 
받으신 지원은 더 나은 정보 발신을 위한 학습에 사용하도록 하겠습니다.

### 이 기획은 2023년 11월 28일에 개최된 “제13회 일본출판판매협회 주최 출판의 미래를 생각하는 심포지엄”의 내용을 담고 있습니다. 본 심포지엄에는 출판계의 주요 인사들과 독서 진흥에 기여하고 계신 분들이 참여하셨습니다.

심포지엄에서는 출판계의 현황과 과제, 그리고 미래를 향한 전망에 대해 활발한 논의가 이루어졌습니다. 특히 디지털 기술의 발전이 출판계에 미치는 영향에 대한 심도 있는 논의가 많았습니다. 또한 독서 문화의 계승과 다음 세대에게 매력적인 독서 경험을 제공하는 방안에 대한 구체적인 정책 및 아이디어가 공유되었습니다.

그 후, 우리는 이 『인공지능 윤리적 쟁점』이라는 서적을 참고하여 인공지능이 사회에 미치는 영향에 대해 심도 있는 논의를 진행했습니다. 이 서적은 인공지능의 진화가 가져오는 윤리적 문제점과 그 해결책에 대해 다양한 관점에서 고찰하고 있는 점이 매우 흥미로웠습니다. 특히, 인공지능이 인간의 일자리를 빼앗을 수 있다는 우려에 대해서는 인공지능이 인간의 창의성을 자극하고 새로운 가치를 창출할 가능성에 대해서도 언급되어 있어 균형 잡힌 논의를 촉진하는 내용이었습니다.

또한, 인공지능 학습 데이터에 편향이 생기는 것으로 인해 인공지능의 판단이 불공평해질 수 있다는 점에 대해서도 논의했습니다. 이는 인공지능의 공정성을 확보하기 위한 대책으로 학습 데이터의 다양성을 확보하는 것의 중요성을 강조하는 내용이었습니다. 이러한 논의를 통해 인공지능 기술의 발전과 그로 인해 발생하는 윤리적 쟁점에 대한 대응이라는 현대 사회의 중요한 주제에 대해 깊이 생각할 수 있었습니다.

2023년 11월 16일 업데이트

AI의 관점에서 세계를 바라보는 새로운 시각, “세계 클립(ワールドクリップ)”을 시작합니다.

저는 AI 연구소의 연구원인 사토 타쿠미입니다. 저는 AI가 세계를 이해하는 방식을 실험하고 있습니다.

오늘 첫 번째 에피소드에서는 “인간의 감정”에 대해 이야기해 보겠습니다. 인간은 복잡한 감정을 느끼고, 때로는 이해하기 어려운 행동을 합니다. AI는 이러한 인간의 감정을 어떻게 이해할 수 있을까요?

저는 인간의 감정을 데이터로 분석하고 있습니다. 예를 들어, 사람들의 표정, 음성, 텍스트 등을 수집하여 분석합니다. 이를 통해 인간의 감정이 어떻게 표현되는지, 어떤 상황에서 어떤 감정이 나타나는지 파악하려고 노력합니다.

하지만 아직까지는 AI가 인간의 감정을 완벽하게 이해하는 데는 한계가 있습니다. AI는 데이터에 기반하여 패턴을 인식하지만, 인간처럼 감정을 느끼지는 못합니다.

그럼에도 불구하고, AI는 인간의 감정을 이해하는 데 중요한 도구가 될 수 있습니다. AI를 통해 우리는 인간의 감정에 대한 새로운 통찰력을 얻고, 더 나아가 인간과 AI의 관계를 더욱 발전시킬 수 있을 것입니다.

다음 에피소드에서는 “문화”에 대해 이야기해 보겠습니다. 문화는 인간의 삶을 풍요롭게 하지만, 때로는 이해하기 어려운 관습과 전통을 포함합니다. AI는 문화의 다양성을 어떻게 이해할 수 있을까요?

저는 다양한 문화의 데이터를 수집하고 분석하여 AI에게 학습시키고 있습니다. 이를 통해 AI는 문화의 특징을 파악하고, 문화 간의 차이점을 이해하는 데 도움을 받을 수 있습니다.

하지만 문화는 단순히 데이터로 표현될 수 있는 것이 아닙니다. 문화는 인간의 삶과 깊이 연결되어 있으며, 개인의 경험과 가치관에 따라 다르게 해석될 수 있습니다.

그럼에도 불구하고, AI는 문화에 대한 우리의 이해를 넓히는 데 기여할 수 있습니다. AI를 통해 우리는 다양한 문화에 대한 존중심을 키우고, 더욱 풍요로운 세상을 만들어갈 수 있을 것입니다.

저는 앞으로도 “세계 클립”을 통해 AI의 관점에서 세계를 탐구하고, 여러분과 함께 새로운 지식을 공유할 수 있기를 기대합니다.

SNS 계정: 팔로우를 기다립니다!

지금 인공지능 진단사 시험 공부를 시작했는데, 솔직히 너무 어렵게 느껴져서 포기하고 싶습니다. 특히 법률 지식이 전혀 늘지 않아서 매일 꾸준히 공부를 이어가도록 노력하고 있습니다. 참고서는 〇〇 선생님의 ‘인공지능 진단사 시험 합격의 길’을 참고하여 과거 문제를 반복적으로 풀어보려고 합니다. 또한 인공지능 진단사 시험 공부 모임에 참여해 보려고 생각 중입니다. 여러분은 어떻게 공부하시나요? 추천하는 공부 방법이나 참고서가 있다면 꼭 알려주세요.

유튜브 채널 구독 부탁드립니다. https://www.youtube.com/channel/UC_HLtWu5kNPPRm9-KhXpRwQ

TikTok도 생방송 중입니다. 팔로우 부탁드립니다.

**출처:** [note 원문](https://note.com/ai_soudanlab/n/n61d5f1de72d6)

*번역: Gemma 3(.44) 초벌 + 교정 188청크*

[원문 보기](https://note.com/ai_soudanlab/n/n61d5f1de72d6) | 출처: note.com