# [일본 최고 쉬운 AI 속보] 2026년 9월 2~3일 | AI의 머릿속이 보이지 않게 되는 날

> https://bookfactory.kr/c/ai-tech/12318
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-14T20:48:22.340Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/309750039/rectangle_large_type_2_495820a4ffeab68a24f3805a1a65bd58.jpeg?width=1280)

안녕하세요. “일본 제일 쉬운 AI 속보”입니다. 오늘 가장 놀랐던 것은, AI를 만드는 두 회사가 같은 날 완전히 반대되는 일을 했다는 이야기입니다. OpenAI는 “AI가 무엇을 생각했는지”가 보이지 않게 되는 새로운 시스템을 선택했고, Anthropic은 반대로 “사용 기록은 고객 자신의 위치에 보관해 주십시오”라는 시스템을 발표했습니다. 또한, 뉴욕시가 60만 명 이상의 어린이의 AI 사용을 금지했다는 이야기도 전해집니다.

## 오늘의 뉴스를 3줄로 요약하면

- OpenAI(ChatGPT를 만든 미국의 회사)의 새로운 방식은 AI가 무엇을 생각하고 어떤 답변을 내놓았는지 파악하기 어려워지는 현상입니다. 반면 Anthropic(대화형 AI ‘클로드’를 만드는 미국의 회사)은 사용 기록을 고객 자신의 공간에 저장하는 방식을 발표했습니다.
- 뉴욕시 공립학교들이 일본 중학교 2학년에 해당하는 학년까지 생성AI의 이용을 1년 제한하는 조치를 취했다. 약 60만 명에 달하는 학생들에게 적용되며, 반면 고등학교에서는 수업에서 활용한다.
- AI를 지키고, AI로 지킨다. 비즈니스에 자금이 모여들었다. Palo Alto Networks가 약 5억 달러로 인수되었고, HiddenLayer가 1억 달러를 조달했으며, 일본의 NEC도 참여하고 있다.

## OpenAI와 Anthropic이 같은 날 정반대의 행동을 했다.

OpenAI(ChatGPT를 만든 미국의 회사)는 차세대 AI에 “재귀적 깊이(Recurrent Depth)”라는 새로운 기술을 적용할 것이라는 사실이 밝혀졌습니다. 이름은 어렵지만, 실제로는 비교적 간단한 방식입니다.

현재 똑똑한 AI는 답을 내기 전에 생각하는 것을 말로 표현하고 기록합니다. 이를 ‘사고 과정(chain of thought)’이라고 합니다. 사고 과정은 AI가 결론에 도달하기까지 쓴 ‘혼잣말 메모’입니다. 이 메모가 있기 때문에 인간은 뒤에서 확인하고, 위험한 방향으로 나아가고 있다면 중간에 멈출 수 있습니다.

그러나 재귀적 심화는 이 혼잣말을 쓰지 않고 AI의 머릿속에서만 생각을 맴돌게 하는 기제입니다. 속도나 성능에서는 유리하지만, 사람이 읽을 수 있는 형태의 메모가 남지 않습니다. 요리를 비유한다면 레시피를 보지 않고 완성된 접시만 내놓는 것과 같습니다. 그래서 AI가 무엇을 하고 있는지 감시할 수 없다는 우려 때문에 AI의 안전성을 연구하는 전문가들이 걱정하고 있습니다.

같은 날, Anthropic(대화형 AI “클로드”를 만드는 미국의 회사)은 완전히 반대의 발표를 했습니다. 기업용 새로운 안전 기능 “엔터프라이즈 프론티어 서지트(EFS)”입니다.

- 고객 자신의 클라우드에 이용 기록(로그, 즉 언제, 누가, 어떤 방식으로 AI를 사용했는지에 대한 기록)을 저장하도록 합니다. Anthropic 측이 아닌 고객 자신의 클라우드를 사용합니다.
- 악용 여부 확인은 물론, 그 후 사람의 눈으로 확인하는 작업도 고객 측에서 진행할 수 있습니다.
- 이를 통해 제로 데이터 유지(＝AI의 회사 측에 이용자의 데이터를 일체 남기지 않는 것)와 동일한 수준으로 개인정보를 보호하면서, 악용 방지 대책도 함께 달성할 수 있습니다.
- 2026학년도 가부터 순차적으로 제공 예정

Anthropic은 새로운 Claude 설명서에 “AI를 감시하는 것이 점점 더 어려워지고 있을지도 모른다”는 의견을 스스로 밝혔었습니다. 그 다음 날, 한 쪽은 감시를 더욱 어렵게 만드는 길을 선택했고, 다른 한 쪽은 감시 권한을 고객에게 넘겨준 상황이었습니다.

왜 우리에게 관련이 있을까요? 인공지능(AI)을 선택할 때 “지능이 뛰어난가”라는 것뿐만 아니라 “내용이 얼마나 드러나는가”라는 기준이 확장되었기 때문입니다. 업무에서 AI를 사용하고 있다면, 계약 시 자신들이 사용한 기록이 어디에 보관되고, 누가 확인할 수 있는지 확인해 주세요. 현재는 그것이 협상 가능한 조건입니다.

## 뉴욕시가 60만 명의 어린이에게 AI 사용을 금지했지만, 고등학교에서는 오히려 사용을 허용한다.

뉴욕시 공립학교가 유치원부터 중학교 2학년(일본 중학 2학년에 해당)까지의 학생에 대해 생성 AI 사용을 1년 제한적으로 금지한다고 발표했습니다. 대상은 공립학교 학생의 약 60%, 60만 명에 육박합니다. 미국에서 가장 광범위한 학교 AI 규제라고 평가받고 있습니다.

주목해야 할 점은 일률적인 완전 금지 규정이 아니라는 점입니다. 선의의 경계를 정하는 방식에, 명확한 생각이 드러납니다.

- 나이로 구분한다. 중학교 2학년 이하의 경우 원칙적으로 금지되며, 고등학교에서는 교사의 감독 하에 AI 사용법을 배우는 수업을 진행한다.
- 기간을 한 해로 정한다.
- 대화 상대 노릇을 하는 AI는 전 학년생에게 금지됩니다. 즉, 동반형 챗봇이라고 합니다.

세 번째 점이 특히 중요합니다. 학습 도구로서의 AI와 친구처럼 대화하는 AI를 완전히 다른 것으로 취급한 것입니다. 배경에는 판단력이 형성되는 과정에 있는 아이가 AI에 지나치게 의존하는 것에 대한 우려가 있습니다. 영국 AI 보안 연구소(UK AI Security Institute)와 림비크 AI의 6,000명 이상의 조사 결과에 따르면, AI에 상담한 사람의 74.6%에서 79.3%가 AI가 말한 대로 행동했지만 2~3주 후의 행복도는 오히려 상승하지 않았습니다.

흥미로운 점은 세상이 역으로 움직이고 있다는 것입니다. 같은 시기에 구글은 대상 대학생에게 구글 AI 플러스를 12개월간 무료로 제공하고 있으며, 대학생에게는 제공하고 중학생에게는 제공하지 않고 있습니다. 연령의 어디에 선을 그을 것이냐가 현재 교육 현장에서 가장 큰 논점입니다.

왜 우리에게 관련이 있을까요? 자녀가 있는 가정이라면 “정보 조사 AI”와 “대화형 AI”를 분리해서 생각해야 합니다. 회사에서도 마찬가지입니다. 모든 사람에게 동일한 기능을 공개하는 대신, 경험과 역할에 따라 사용할 수 있는 범위를 나누는 것입니다. 뉴욕시가 시도한 것은 바로 이것입니다.

## AI를 지키고, AI로 지킨다는 개념에 돈이 모인 날

단 2일 만에 AI와 보안 관련 논의가 4건이나 중복되었고, 내용이 모두 달랐습니다.

- 팔로 알토 네트웍스(미국의 대표적인 보안 기업)가 AI 기반 업무 자동화 서비스 ‘Console’을 약 5억 달러에 인수했다. 자체 보안 플랫폼 ‘Cortex’에 AI 자동화를 통합하려는 계획이다.
- HiddenLayer(AI를 그 자체로 보호하는 데 특화된 기업)가 1억 달러를 조달했습니다.
- 일본의 NEC가 Anthropic의 고성능 AI ‘클로드 미토스’를 사이버 보안 업무에 활용하겠다고 발표했다. Anthropic이 주도하는 방어 체계 ‘프로젝트 글래스윙’에 참여한다.
- Google은 방어에 특화된 AI ‘사이버’를 투입합니다 (다음 주제에서 다룰 예정).

정리해보면, 두 가지 유형이 보입니다. 즉, AI 자체를 지키는 방식과 AI를 활용하여 지키는 방식입니다. 집을 비유한다면, 전자는 “새로 산 고성능 가전제품이 해킹당하지 않도록 하는 것”이고, 후자는 “AI를 경비원으로 고용하는 것”입니다. 전혀 다른 준비가 필요합니다.

지금까지는 “AI의 안전対策는 중요하잖아”라는 촉구 단계에 머물렀습니다. 그런데 이번에는 5억 달러, 1억 달러라는 실제 금액이 움직이는 단계로 바뀌었습니다.

왜 우리에게 관련이 있는 걸까요. 공격하는 측도 AI를 사용하기 시작했기 때문입니다. “나중에 해야지”로 끝났을 AI 주변의 보안 대책이 올해 예산에 포함시키는 이야기가 되었습니다. 규모가 크지 않더라도 괜찮습니다. 회사에서 AI를 사용한다면 이상한 움직임에 눈치챌 수 있는 시스템이 있는지 확인해 보십시오.

## 환자가 목소리를 잃은 상태에서 AI 안경으로 말을 할 수 있게 되었다.

오늘 가장 마음을 움직이는 뉴스입니다. 오키나와·우라오모리시 병원과 사포루의 게임 회사가 함께 개발한 AI 스마트 글래스(AI를 내장한 렌즈형 기기)를 이용한 대화 지원 사업이 소개되었습니다. 대상은 뇌梗塞 또는 기관절제술로 인해 말을 잃은 환자분들입니다. 작동 방식은 다음과 같습니다.

- 안경 너머로 히라나의 표가 비친다.
- 환자분께서 두 글자만 입력해 주세요.
- AI는 “이 표현이 맞을까요?”와 같이 후보를 제시합니다.
- 선택하면 합성 음성으로 읽어줍니다.

결과적으로, 이전에 몇 분이나 걸리던 의사소통이 수십 초로 단축되었습니다. 또한, 무엇보다 처음에는 “이런 거 해도 되나”라며 적극적으로 나서지 않았던 환자들이 도입 후에는 적극적으로 사용하게 되었다고 합니다.

왜 이렇게 잘 풀렸을까요? 세 가지 조건이 갖춰지고 있기 때문입니다. (1) 문제 상황이 구체적이고 시급한(말로 표현하기 어려운) 상황이다. (2) 효과가 숫자로 명확하게 드러나고(몇 분이 몇 초로 짧아지는지). (3) AI가 인간의 판단을 대체하지 않으며, 환자 본인이 무엇을 전달하고 싶다고 결정하고 AI는 단지 입력의 번거로움을 줄여주는 역할만 합니다.

왜 우리에게 관련이 있을까요? 이 3가지 조건은 그대로 업무에서 AI가 잘 돌아가는 조건이기 때문입니다. 수도권고속도로가 베테랑의 지견을 노트에 모아 1인당 월 30시간 이상을 줄인 사례도, 와카야마의 노포 젓향집이 1개월이 걸리던 출하 업무의 일부를 2시간으로 단축한 사례도 이 3가지 조건을 충족합니다. 반대로 “AI로 회사에 변화를 주는”과 같은 큰 목표부터 시작하면 보통 성과가 나지 않습니다. 작고 구체적이며, 효과를 측정할 수 있고, 결정하는 것은 인간입니다. 여기서부터 시작하세요.

## 구글이 3주 만에 새로운 AI를 출시했다. 가격은 그대로 유지했다.

구글이 대화형 AI “Gemini”의 경량 모델 “Gemini 3.8 Flash”를 공개했습니다. 놀라운 것은 그 간격입니다. 바로 이전 모델인 “Gemini 3.7 Flash”가 출시된 지 3주 만에 3.8 Flash가 출시되었고, 3.7 Flash 자체도 바로 이전 모델에서 3주 만에 출시되었습니다. 2세대 연속으로 3주마다 새로운 모델이 출시되고 있습니다.

더욱이 가격은 그대로 유지된 채 성능이 향상되었습니다. 같은 요금으로 더 좋은 물건이 도착하기 때문에 실질적인 할인입니다. 이전 토픽에서 언급했던 방어에 특화된 파생 모델 “Cyber”도 동시에 출시되었습니다.

한편, 구글의 최상위 모델인 젬마 3.5 프로는 출시가 몇 달 늦었습니다. 여기서 알 수 있는 것은, 작고 특정 용도에 맞춰 개발된 AI일수록 짧은 주기로 꾸준히 발전한다는 것입니다. 대형 트럭의 신형 개발에는 몇 년이 걸리지만, 모터사이클처럼 매달마다 개선 사항을 추가할 수 있다는 점과 유사합니다.

왜 우리에게 관련이 있을까요? “지난해 조사 결과”는 더 이상 유효하지 않기 때문입니다. 3주마다 새로운 정보가 계속 등장하는 만큼, 반년마다 한 번만 검토하는 것으로는 따라갈 수 없습니다. 자신의 업무에서 자주 사용하는 질문 10개를 미리 정리해 두는 것이 좋습니다. 새로운 AI가 출시될 때 무작정 쏟아붓기보다는, 몇 일 안에 도입 여부를 판단할 수 있습니다.

## 이것은 우리의 삶에 어떤 관련이 있을까요?

- AI를 선택하는 기준에 “내용의 가독성”이 추가되었다. OpenAI는 사고 과정이 보이지 않는 구조를 선택하고, Anthropic은 고객 자신의 공간에 이용 기록을 보관하는 방식을 제시했다.
- 자신의 사용 기록이 어디에 있는지 확인한다. Anthropic의 EFS는 2026년 가부터 순차적으로 제공된다. 누가 기록을 가지는가는 협상 가능한 조건이다.
- 아이들과 인공지능은 “정보 탐색”과 “대화 상대”를 분리하여 생각한다. 뉴욕시는 중학교 2학년까지 원칙적으로 금지하며, 대화 상대로 활용되는 인공지능은 전 학년에서 금지한다. 고등학생에서는 반면 수업에서 활용한다.
- AI를 중심으로 한 보안 대책에 대해서는 올해 예산에 반영될 예정입니다. Palo Alto Networks社가 약 5억 달러 규모로 인수되었고, HiddenLayer社가 1억 달러를 유치했으며, NEC도 Anthropic의 프레임워크에 참여했습니다.
- AI 재선택은 반년에 한 번으로는 따라가지 못한다. Gemini 3.8 Flash는 이전 모델보다 무려 3주 만에 가격 동결로 등장했다.

## 오늘의 한마디 요약

오늘의 뉴스를 정리해보면, AI가 강해질수록 내용이 보이기 어려워지고, 그 보기를 어떻게 다루느냐에 따라 회사의 입장이 완전히 갈라졌다는 그림이 떠오릅니다. OpenAI는 성능을 위해 사고 과정의 투명성을 포기했고, Anthropic은 기록 관리를 고객에게 넘겼습니다. 뉴욕시는 60만 명이 넘는 어린이들에게 일시적으로 학습을 중단시키고, AI를 보호하는 비즈니스에는 5억 달러, 1억 달러 규모의 금액이 움직이고 있습니다. 그러한 상황 속에서 일본 오키나와현의 병원에서는 목소리를 잃은 환자의 ‘말하고 싶은 것’이 AI 안경으로 30초 이내에 전달되는 방식으로 활용되기 시작했습니다. 내용이 보이지 않는 AI를 경계하면서도, 눈앞의 어려움에는 주저 없이 활용하는 것입니다. 오늘 가장 중요한 배움은 바로 여기에 있습니다.

## 더 자세히 알고 싶으신 분들을 위해

자세한 설명은 이 기사에 모아 놓았습니다.

- Note 일반판으로 읽기 (같은 내용을 다른 관점으로)

**출처:** [note 원문](https://note.com/t_kawa_awak/n/na06ae3c425b3)

*번역: Gemma 3(.44) 초벌 + 교정 32청크*

[원문 보기](https://note.com/t_kawa_awak/n/na06ae3c425b3) | 출처: note.com