이미지 출처: ChatGPT에 의해 ledge.ai 가 생성
앤트로픽의 공동 창업자이자 공공 이익 부문 책임자인 잭 클락(Jack Clark)氏は2026년 10월 13일 도쿄 대학교 강연에서, 자신의 후계자를 훈련할 수 있을 정도로 강력한 AI가 2027년에 등장할 확률에 대해 50% 이상으로 보는 견해를 보였다. TBS 등 다수 미디어가 보도했다. 그는 강연 전날 뉴스레터에서도 AI가 자율적으로 후계 시스템을 개발하는 “재귀적 자기 개선(RSI)”이 가능해지는 시기에 대해 기존의 2028년에서 2027년으로 예측을 전倒시키고 있었다.
앤트로픽 공동 창업자 겸 공공 이익 부문 책임자 잭 클락(Jack Clark)
이미지 출처: 앤트로픽
## 5월에는 “2027년에 30%”, 수학 및 연구 능력의 진전에 따른 예측 업데이트
클락(Clark)氏は5월 4일자 뉴스레터 “Import AI”에서 최첨단 AI 모델이 자율적으로 후계 모델을 훈련하는 AI 연구 개발의 자동화에 대해 2028년 말까지 실현될 확률을 약 60%, 2027년에는 30%로 예측했다.
당시 그는 AI 연구를 발전시키기 위해서는 창의성과 기존의 발상에 얽매이지 않는 통찰력이 필요하며, AI는 아직 그것을 큰 변화로 이어지지 않았다고 설명했다.
한편, 10월 12일자 뉴스레터에서는 AI가 수학에서 창의적으로 보이는 결과물을 만들어내는 능력이 크게 발전했다는 점을 지적했다. AI 연구 능력을 측정하는 벤치마크에도 진전이 있었다고 언급하며, 완전한 RSI(추론적 지능 시스템)가 가능해지는 시기는 2028년보다 2027년이 될 가능성이 높다고 판단하게 되었다고 기재했다.
## 실험 설계 및 결과 해석 측정 “TasteVal”에 주목
예측 업데이트의 근거로 클라크 씨가 언급한 것이 P-Zero Research의 벤치마크 “TasteVal”입니다.
TasteVal은 주어진 AI 연구 개발 과제에 대해 AI가 실험을 설계하고, 그 결과를 해석하면서 개선을 진행하는 능력을 측정한다. 사전 학습 데이터 선정 및 언어 모델 훈련 등과 관련된 8가지 과제를 사용하여 실험에 필요한 계산 자원의 효율을 인간 전문가와 비교했다.
P-Zero Research에 따르면, 인간 전문가와 동일한 점수를 얻기 위해 필요한 실험용 계산 자원의 효율을 측정한 지표는 최첨단 모델에서 2025년 12월 이후, 약 3개월마다 배가되었다. 가장 높은 평가를 얻은 Claude Opus 5.5는 인간 전문가의 기준을 상회했다.
다만, TasteVal이 측정하는 것은 연구 과제가 주어진 후의 실험 설계와 결과 해석이다. 어떤 문제를 해결할지 선택하는 능력을 평가하지 않는다. 또한, 과제는 단시간 및 저비용으로 검증 가능한 것으로 제한되며, 인간 측의 비교 대상에 최상위의 연구자는 포함되어 있지 않다. 연구팀 또한 능력의 개선 속도나 인간에 대한 우위성을 과대평가하고 있을 가능성을 지적하고 있다.
## 자기 개선을 진행할지 여부는 사회의 판단에 달려
이번 강연은 도쿄대학교 대학원 공학계연구과 마츠오 및 이와자와 연구실이 주최한 “AI의 다음 10년: 우리의 선택”에서 진행되었다.
TBS에 따르면, 클라크 氏は AI의 자기 개선을 인정하는 것이 중요한 문제이며, 개발 기업뿐만 아니라 정부 등이 판단해야 한다고 언급했다.
Anthropic은 RSI에 대한 공식 설명에서 AI가 후계 시스템을 완전히 자율적으로 설계 및 개발하는 단계에는 아직 도달하지 않았다고 설명하고 있다. 현재 AI에 의한 연구 개발 지원과 후계 모델의 자율 개발에는 간극이 있으며, RSI의 실현이 불가피한 것은 아니라고 하고 있다.
관련 기사: Anthropic 공동 창업자, AI가 차세대 AI를 스스로 개발하는 시대에 언급, 2028년 말까지 “60% 초과”의 가능성
관련 기사: Anthropic, AI가 후계 AI를 만드는 “재귀적 자기 개선”에 경고, Claude가 자사 코드의 80% 초과를 생성, 개발의 감소 및 일시 중지 메커니즘을 제언
관련 기사: Anthropic, AI 연구 개발의 26%를 “Claude가 주도”하며 급증, 1% 미만에서 반년 만에 급증, 인간은 감독 역할에 집중
관련 기사: Anthropic, AI가 AI의 안전성 연구를 자율적으로 진행하는 “Automated Alignment Researchers” 공개 – 인간 연구자의 방법을 훨씬 능가하는 성과
관련 기사: Anthropic, AI의 사회적 영향을 연구하는 신 조직 “Anthropic Institute” 설립 – 강력한 AI가 가져오는 과제를 분석
원문 보기 | 출처: Ledge.ai