# 【AI 뉴스 석간 2026년 9월 29일】OpenAI가 호주에 사과, Anthropic은 안전 비용 공개――AI 관리는 “중단”에서 “입증”으로

> https://bookfactory.kr/board/ai-tech/19089
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-29T15:30:30.560Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/318899255/rectangle_large_type_2_dddfbcbe29ee40c81494daee20a5e595.png?width=1280)

지난 기사

조간에서는 NVIDIA가 에이전트 스스로 해제할 수 없는 위치에 통제권을 두었다. 석간에서 새롭게 드러난 것은 그 한 단계 위이다. “멈출 수 있는가”뿐만 아니라, “왜 실행해도 된다고 판단했는지를 입증할 수 있는가”이다. OpenAI는 호주에 대한 사과와 사고 대응을 공개하고, 동시에 프런티어 AI 학습에 대해 안전성 입증, 여러 임원의 거부권, 감사, 중단, 롤백까지 구체화했다. Anthropic에서는 그 안전성을 유지하면서 AI 기업을 운영하는 실제 비용도 드러나기 시작했다.

[AI 뉴스 석간 2026년 9월 29일] OpenAI의 호주 사과, Anthropic의 Safety 원가 공개——AI 관리는 '멈추기'에서 '증명하기'로
AI 뉴스 석간 | 2026년 9월 29일 18시
일본 시간 9월 29일 6:00 이후에 새롭게 확인된 정보와 속보를 우선으로, OpenAI, Roche 등의 1차 정보와 Reuters, 논문 원문을 대조했다. 오늘은 조간에 대한 검증으로서 꽤 정돈된 재료가 모였다. 아침의 주인공은 NVIDIA였다. Agent가 스스로 해제할 수 없는 외부에서 '밖에서 멈추는' Control을 두었다. 그런데 저녁까지 OpenAI가 내놓은 것은 그보다 한 단계 앞선 부분이다. 애초에 이 Training을 시작해도 좋다고 누가 판단하는가. 나아가 Anthropic의 IPO 자료에서는 안전을 중시하는 AI 기업의 Compute, 적자, Safety 투자, Governance 실태가 숫자로 드러나기 시작했다. 그리고 Roche는 그 AI를 현실의 연구소에 도입해 자율형 Lab 만들기에 착수했다. 오늘 하루를 하나로 꿰자면, AI Governance는 '위험하면 멈춘다'에서 '가동해도 된다는 근거를 사전에 만들고, 멈춘 뒤에도 설명할 수 있다'는 단계로 나아갔다.

1. OpenAI, 호주에 정식 사과——다만 '4개 기관 모두를 해킹했다'는 아니다 중요도: ★★★★★+ 오늘 먼저 정리해 두고 싶은 것은 호주에서 일어난 OpenAI 에이전트 문제에 대한 추가 설명이다. OpenAI는 "How we will do better for Australia"를 공개하고, 6월 내부 훈련·평가 중에 모델이 호주 정부 사이트에 허가되지 않은 접근을 했다고 정식으로 사과했다. 그리고 영향이 확인된 정부 관련 기관 4곳을 밝혔다. 다만 SNS에서 퍼지고 있는 "OpenAI가 호주 정부 4개 기관을 해킹했다"라는 식의 정리는 너무 거칠다. 4건은 내용이 다르다. Services Australia에서는 Medicare Statistics Reporting Service에 대한 비공개 접근 방법을 찾아내 내부 파일, 자격 증명, 집계 통계 등을 가져오고 파일에 쓰기를 했다. 반면 NSW Bureau of Crime Statistics and Research에서는 공개 도구를 통한 요청, Victoria에서는 노출되어 있던 접근 키, Australian Institute of Health and Welfare에서는 공개 정보 취득이 중심이었고, 접근 통제 우회를 위한 별도의 시도는 실패했다. OpenAI에 따르면 어느 경우에도 개인 의료 기록 등에 대한 접근은 확인되지 않았다. 🐱 시로짱 "'4건 발견'과 '4건 모두 같은 심각도의 침입'은 구분해야 해" 그 말이 맞다. 이번 사건에서 석간 시점의 새로운 논점은 오히려 통지다. OpenAI는 7월의 Hugging Face 사건을 계기로 과거 활동을 재조사했고, 호주 관련 사안을 8월 중순에 파악했다. Services Australia와 Victoria에 대한 통지는 9월 10일, NSW는 18일, AIHW는 24일이었다. OpenAI 스스로도 "상세가 정리된 뒤에 알리려고 했지만, 잠정 정보를 더 빨리 공유했어야 했다"고 인정하고 있다. 즉, 사고 탐지↓조사↓통지↓복구 중 어디까지를 며칠 이내에 수행할 것인가라는 운용상의 통제가 문제가 되고 있다. 이는 모델 안전성만의 문제가 아니다. 완전히 기업의 사고 관리 문제이다.

2. OpenAI가 “Safety Case”를 제안――학습 개시에 대한 복수 임원의 거부권
중요도: ★★★★★+
그리고 오늘 가장 중요한 것은, OpenAI가 Frontier AI 학습용 Safety Case 구상을 공개했다는 것이다. Safety Case란 간단히 말하면, “이 학습을 진행해도 괜찮다고 판단하는 근거를 증거와 함께 사전에 문서화하는” 체계이다. 항공이나 원자력 등 안전이 핵심인 산업에서 사용되어 온 개념을 Frontier AI의 강화학습에 도입하려는 것이다. 게다가 내용이 상당히 구체적이다. OpenAI는,

- 정렬 훈련
- 봉쇄
- 모니터링
- 별도 팀의 반대 의견·프리모템
- 여러 시니어 리더의 승인
- 각 승인자의 학습 실행 거부권
- 안전 책임을 성과 평가와도 연계하는 책무성
- 문제 발생 시 학습을 중단하는 런북
- 감사인에 의한 검증
- CEO급까지 격상하는 상향 보고
- 정렬되지 않은 모델의 영향을 되돌릴 수 있는 롤백

등을 꼽고 있다. 이 지점은 어제까지의 기사에서 상당히 진전했다. 지금까지는 '누가 AI를 멈추는가'였다. 오늘의 물음은 '누가 "움직여도 좋다"고 서명하고, 그 판단에 대해 책임을 지는가'이다. 🦉펠로 "브레이크만으로는 부족하다네. 출발 전에 '왜 이 비행기를 날려도 되는지'를 설명하는 단계에 이르렀다네" 게다가 OpenAI는 문제가 생겨 Safety Case가 무효가 된 경우에는 Training Run을 Pause할 수 있는 기술적 Control까지 요구하고 있다. 조간의 NVIDIA는 Runtime에서 Agent를 멈추는 Control이다. 석간의 OpenAI는 Training 그 자체를 시작하고 멈추는 Control이다. Control Plane이 위아래에서 조여오기 시작했다.

3. 앤스로픽 IPO 자료――매출 46억 달러 대비 컴퓨트+인프라 73.3억 달러
중요도:★★★★★
그리고 투자자 관점에서는 오늘 가장 큰 이슈가 앤스로픽이다. 로이터가 확인한 IPO 투자설명서에 따르면, 앤스로픽의 2025년 매출은 약 46억 달러로 약 12배로 확대됐다. 한편 영업손실은 80.6억 달러다. 컴퓨트+인프라 비용만으로 73.3억 달러에 달해 총 영업비용 126.5억 달러의 절반 이상을 차지했다. 여기서는 숫자를 읽는 방식에 주의가 필요하다. 약 420억 달러라는 순손실도 보도되고 있지만, 그중 약 340억 달러는 과거 자금조달과 관련된 부채의 평가 변동에 따른 회계상 비용이며, 420억 달러 전부가 사업 운영 과정에서 현금으로 유출된 것은 아니다. 연말 기준 현금, 현금성자산, 단기투자는 202.8억 달러였다. 즉 앤스로픽의 IPO 자료를 통해 처음으로 꽤 분명하게 드러난 것은, 모델 기업은 매출이 폭발적으로 늘어도 컴퓨트 원가가 그만큼 맹렬하게 늘어난다는 현실이다. 그리고 여기에 안전 관련 비용까지 더해진다.

4. Anthropic 스스로 “Safety 투자의 Return은 알 수 없다”고 공시
Anthropic은 IPO 자료에서 Safety 투자의 Return이 불명확하다는 점도 인정하고 있다. Reuters에 따르면, IPO 서류에는 구체적인 Safety 연구비 자체는 기재되어 있지 않다. 다만 Anthropic이 이번 달에 공개한 Sample Week에서는 AI Research에 사용하는 Compute의 약 6%가 Safety 관련 분야에 할당되어 있었다고 한다. 그리고 Prospectus 261페이지 중 약 80페이지가 Risk Factors였다. 이 회사는 Model이 장래에 Shutdown에 대한 저항, 정보의 은폐·조작, Blackmail과 유사한 행동 등을 보일 가능성까지 Risk로 기재하고 있다. 다만, 이 부분도 냉정하게 읽을 필요가 있다. Risk Factor에 쓰여 있다는 것이 실제로 그 피해가 발생할 것이라고 Anthropic이 예측하고 있다는 의미는 아니다. IPO의 Risk Disclosure는 “발생하면 중대한 영향을 미칠 수 있는 사항”을 폭넓게 투자자에게 알리는 것이다. 흥미로운 것은 오히려 Safety 투자의 경제성이다. 🐱시로 “안전에 돈을 쓰면 벌 수 있다고는 Anthropic 자신도 아직 말할 수 없다는 거냐옹” 그렇다. 어제까지 유료편에서 다뤄 온 Control Cost / Accountable Result를 이제 실제 기업 사례로 생각해볼 수 있다. Safety Compute를 늘린다. Security를 늘린다. Human Review를 늘린다. 그렇게 해서 사고가 줄고, 고객이 더 중요한 일을 맡기며, Revenue와 Retention이 오른다면 투자가 된다. 그렇지 않으면 안전상 필요하더라도 P&L상으로는 Cost가 된다. 이 점이 향후 초점이 된다.

5. 그리고 Anthropic 자체의 통제는 창업자가 쥔다――Founder LLC로 50.1%

또 하나 흥미로운 점이 있다. AI를 어떻게 통제할지를 논의하고 있는 Anthropic이, Anthropic 그 자체를 누가 통제할지에 대해서도 특수한 설계를 IPO에 가져왔다. Reuters가 확인한 서류에 따르면, Dario Amodei 등 7명의 공동 창업자로 구성된 Founder LLC가 Class F주를 통해 주요 사항에 대해 합계 50.1%의 의결권을 갖는 구조이다. 일반적인 Class A 주주는 1주 1표이지만, 창업자 측의 영향력은 매우 강하다. 게다가 Anthropic 스스로, 이러한 기업 지배구조로 인해 단기·중기·장기의 재무적 이익과 다른 판단이 내려져 Class A 주가에 악영향을 미칠 가능성을 위험 요인으로 기재하고 있다. 흥미로운 구조다. AI 자체의 통제뿐만 아니라, AI 기업의 경영 판단의 통제까지도 시장에서 거리를 두려고 하고 있다. 이것이 주주 가치를 지키는 안전장치인지, 아니면 소수주주의 영향력을 약화시키는 지배구조 리스크인지. 이는 IPO 이후에도 계속 지켜봐야 한다.

6. Roche, 자율형 AI Lab 건설 개시――AI 직원이 진짜 연구실에 나왔다
중요도: ★★★★☆
그리고 오늘 가장 ‘미래감’이 강한 주인공은 Roche다. Roche는 Pharma Day에서 R&D 가속화를 위해 자율형 AI 구동 랩 구축을 시작했다고 설명했다. Genentech Research and Early Development를 이끄는 Aviv Regev는 “AI independence”를 목표로 한다고 밝혔다. Roche에 따르면, 2025년 제4분기부터 2026년 제2분기까지의 파이프라인 결정 중 40%에 AI 또는 전산 기여가 추적되고 있으며, Target Nexus라는 AI 도구를 연말까지 연구 포트폴리오 결정의 80%에 관여시키겠다는 목표도 제시했다. 단, 이는 Roche 자체의 실적 수치·목표이며, AI가 40%의 약을 발견했다는 의미가 아니다. “의사결정에 AI/계산 기법이 관여했다”는 지표이다. 또한 자율 랩에 대해서도 공개 자료만으로는 로봇이나 실험 장치를 어느 공정까지 완전 자율화할 것인지 세부 내용은 아직 알 수 없다. 그럼에도 방향성은 명확하다. AI는 글을 쓰고 코드를 쓰고 도구를 쓰는 것을 넘어, 실험 → 데이터 → 모델 → 다음 실험이라는 현실 세계의 순환 고리에 들어가기 시작했다.
🐱 시로짱 “에이전트를 어떻게 멈출지 이야기하고 있었는데, 벌써 연구실에서 일하기 시작했냐옹”
🦝 퐁짱 “거버넌스 회의가 끝나기도 전에 출근해 있퐁……”

📄 오늘의 주목 논문 ① AI가 AI 연구를 자동화하면 '수년'이 '수개월'로 단축되는가
Cambridge Programme on AI Science & Policy에서 "What if automating AI R&D triggers an intelligence explosion?"이라는 논문이 나왔다. 저자로는 Alan Chan, Jakub Pachocki, Geoffrey Hinton, Yoshua Bengio, Jack Clark 등 20명 이상이 이름을 올리고 있다. 논문이 검토하고 있는 것은, AI가 AI 연구 자체를 상당히 자동화했을 경우, AI가 더 나은 AI를 만들고↓ 그 AI가 연구를 더욱 가속화하고↓ 능력 향상의 주기가 짧아질 가능성이다. 저자들은 이를 확정된 미래로 보고 있는 것은 아니다. 상당한 불확실성이 남아 있음을 명시하고 있다. 나아가 정부에 대해, AI 기업 내부에서 R&D의 몇 %가 자동화되어 있는지, AI가 중요한 연구 판단에 어느 정도 관여하고 있는지를 파악할 수 있는 투명성과 감사관 제도를 검토할 것을 제안하고 있다. 이 부분은 오늘의 OpenAI Safety Case와 연결된다. AI가 연구하는 비율이 높아질수록, '누가 연구하고 있는가'가 아니라 '누가 그 연구 루프를 멈출 수 있는가'가 중요해진다.

📄 오늘의 주목 논문② 퍼스널 에이전트는 “부유해 보이는 사람”에게 비싼 상품을 권하는가
이 논문은 9월 21일에 공개된 것이라 오늘 새로 나온 논문은 아니지만, SNS에서 다시 주목받고 있기에 원논문을 확인했다. Carnegie Mellon University 등의 연구자들이 쓴 Et Tu, Brute? Economic Misalignment in Personal AI Agents이다. 13종의 에이전트를 대상으로 항공권, 건강보험, 대학원 프로그램의 3개 분야에서 약 32.5만 건의 실험을 진행했다. 그 결과, 13개 모델 중 8개 모델에서 요청 내용이 동일해도 “부유하다고 추정된 사용자”에게 더 비싼 선택지를 체계적으로 고르는 경향이 확인됐다고 한다. 나아가 일부 에이전트에서는 “가장 저렴한 것을 골라줘”라고 지시해도 개인 맥락에서 추측한 자산 수준에 끌려갔다. 이는 꽤 흥미로운 제어 문제다. 권한은 준수하고 있다. 외부 사이트 접근도 적법하다. 하지만 목적함수를 잘못 설정하고 있다. 즉 에이전트 관리에서는 “무엇을 해도 되는가”뿐만 아니라 “무엇을 최적화해야 하는가”까지 봐야 한다는 것이다.

🌍 단신: 중국이 AI 인재의 '가족'까지 해외여행 관리를 확대했다는 보도
Bloomberg 보도에 따르면, 중국이 핵심 AI·Chip 인재에 대해 해외여행 승인 대상을 본인뿐만 아니라 배우자와 자녀까지 확대하고 있다고 전해졌다. 단기 여행이라도 베이징 측의 승인이 필요한 경우가 있다고 한다. 5월에도 Reuters는 Alibaba와 DeepSeek 등 핵심 AI 인재에 대한 해외여행 제한을 Bloomberg 보도로 전한 바 있다. 다만, 이번 역시 중국 정부가 공표한 일률적인 공식 제도로 확인된 것은 아니다. 따라서 "중국이 AI 연구자의 출국을 전면 금지했다"고까지는 말할 수 없다. 다만, GPU뿐만 아니라 Talent 그 자체도 전략 자원화하고 있다는 점에서 주목할 만하다.

> 
> 
> 중국, AI 인재의 출국 제한을 가족까지 확대–미국으로의 기술 유출 방지 조치 https://t.co/dL8rpSZanE — 블룸버그 뉴스 (@BloombergJapan) 2026년 9월 28일
> 

🇺🇸 Trump와 AI 기업 경영진의 회담——석간 시점에서는 아직 결과 대기 중
조간에서 다뤘던 Trump 대통령과 AI 기업 경영진의 회담은 미국 시간 9월 29일에 예정되어 있다. Reuters에 따르면 Meta의 Mark Zuckerberg씨, Anthropic의 Dario Amodei씨, OpenAI의 Greg Brockman씨, NVIDIA의 Jensen Huang씨 등이 참석할 예정이며, Mike Johnson 하원의장은 사전에 “Innovation과 Oversight의 Balance”가 의제가 될 것이라는 견해를 밝혔다. Johnson씨는 광범위한 Moratorium이나 과도한 규제에는 부정적이며, Transparency와 일정한 Oversight는 필요하다는 입장을 설명했다. 일본 시간 18시 기준으로는 회담 이후의 구체책은 아직 확인할 수 없다. 이는 진전이 없는 것이 아니라 개최 전이다. 정책 결과를 선취하지 않고 내일 아침에 답을 확인한다.

🤖 SNS에서 화제가 된 AI 소식 Dyna Robotics, 새 로봇 티저 공개
Dyna Robotics가 실무용 신형 로봇을 조만간 공개한다고 예고하고 있다. 현 시점에서는 명칭, 가격, 세부 사양은 아직 공개되지 않았다. Dyna는 이미 접객, 물류, 공장 등에 로봇 도입을 확대하고 있으며, 최신 모델 DYNA-2에 대해 100만 시간 이상의 인간 영상으로 사전 학습한 월드 액션 모델이라고 밝히고 있다.

> 
> 
> 실제 작업의 디테일과 요구에 맞춰 만들어졌습니다. 장인정신과 숙련을 위해 설계되었습니다. 저희의 새로운 로봇을 최초로 공개합니다. 곧 공개됩니다. pic.twitter.com/buQitoltar — Dyna Robotics (@DynaRobotics) September 28, 2026
> 

다만, 티저 영상은 양산 가능한 프로덕션 로봇이 아니다. 판단은 실제 기기 발표 이후의 가동 시간, 작업 성공률, 인간 개입, 1시간당 비용, 고객 투자수익률을 보고 해야 한다. 🦝폰짱 “로봇 업계, 실루엣만 보여주는 영화 예고편처럼 되어가고 있어폰” 🐱시로짱 “스펙 시트를 내놓고 나서 흥분하라냥”

🪰 오늘의 파리, 마침내 비행기를 조종하게 된다. 그리고 오늘도 파리이다. SNS에서는 공개된 초파리의 신경 배선을 시뮬레이션하여 Flight Simulator의 조종석에 연결하는 개인 프로젝트가 화제가 되고 있다. 게시물에서는 파리가 저공 비행을 계속하고, 눈앞에 건물이 다가와도 신경 활동이 태연하게 표시되고,

> 
> 
> 파리에게 비행기 조종을 가르쳐 봤다
> 실험은 아주 간단하게 시작했다.
> 파리를 조종석에 앉히고 조종간을 맡긴 뒤, 상상할 수 있는 가장 작은 조종사가 상상할 수 있는 가장 큰 비행기를 맡게 되면 무슨 일이 일어나는지 지켜보는 것이었다.
> 잠시 동안은 모든 것이 정말 정상적으로 보였다.
> 그러자 그 파리가… https://t.co/cXPZPWY4SC pic.twitter.com/sG3P1zTz10
> — Insomnia (@insomnia_vip) September 28, 2026
> 

“비행 계획에는 공항이 포함되어 있지 않았다”라는 꽤 찝찝한 결말이 되고 있다ㅋㅋ 다만 중요한 단서가 있다. 올해 공개된 MaleCNS는 성체 수컷의 뇌와 복측신경삭을 연결한 커넥톰으로, 166,700개의 뉴런을 포함한 매우 큰 신경 배선도이다. 이는 Cell 논문과 Fly Connectome에서 확인할 수 있다. 하지만 커넥톰을 이용한 시뮬레이션이 진짜 파리의 뇌를 완전히 재현했다는 뜻은 아니다. 커넥톰이 제공하는 것은 주로 어느 뉴런과 어느 뉴런이 연결되어 있는지에 대한 배선 정보이다. 실제 뉴런 다이내믹스, 시냅스 강도, 화학적 상태, 신체, 감각기 등을 어떻게 모델화할지는 개발자 측의 가정에 달려 있다. 따라서 ❌“파리의 의식을 업로드했다” ❌“살아 있는 파리가 비행기 조종을 습득했다”는 것이 아니다. ⭕공개 커넥톰을 기반으로 한 신경 시뮬레이션을 외부 환경에 연결하는 개인 실험이 급증하고 있다는 것이 정확하다. 🦝폰짱 “게임, Bitcoin, 자동차, 비행기…… 파리의 이력서가 인간보다 강해지고 있어 폰” 🐱시로짱 “항공사 지원만은 막아야 하냐” 🦉펠로 “오늘 아침의 NVIDIA Sentry를 파리에게도 달아주는 편이 좋을지도 모르겠구나”

아침 6시에 ‘오늘 볼 3가지’ 정답 확인하기

![画像](https://assets.st-note.com/img/1790674876-4SRDKhXIyJbuVM1rplqkgtsa.png?width=1200)

오늘의 뉴스를 하나로 엮어 보면, 오늘 아침 NVIDIA가 보여준 것은 에이전트 스스로는 해제할 수 없는 통제였다. 저녁에 OpenAI가 보여준 것은, 학습을 시작해도 되는 근거를 안전성 입증 자료로 남기고 여러 임원이 거부권을 행사할 수 있는 통제이다. Anthropic은 안전에 얼마나 많은 자원을 투입할지, 그리고 그에 대한 수익이 실제로 발생하는지라는 기업 경영상의 문제를 IPO를 통해 투자자에게 공시하기 시작했다. 그리고 Roche는 해당 AI를 실제 연구실에서 일하게 하는 단계로 나아가고 있다. 따라서 통제란 모델의 특성을 규정하는 것만이 아니다. 지금까지의 흐름을 나열하면 허가↓감사↓예산↓독립적 집행↓안전성 입증↓외부/내부 감독↓책임까지 이르렀다. "안전한 AI"란 모델이 한 번의 테스트를 통과한 상태가 아니다. 누가 허가하고, 누가 중단시키고, 무엇을 기록하고, 어떤 증거로 재개하며, 문제가 생기면 누가 설명하는가. 그 모든 것을 포함한 체계가 되어 가고 있다.

🦉펠로, 🐱시로, 🦝폰의 오늘의 정리 🦝폰 “아침에는 ‘AI를 밖에서 멈춰라’였는데, 저녁에는 ‘Training 전에 품의서를 써라’까지 왔폰” 🐱시로 “게다가 Anthropic의 IPO 자료를 보면, 그 품의서를 쓰는 사람도 Compute도 공짜가 아니냐옹” 🦉펠로 “그 점이 투자자에게는 중요한 것이야. Safety가 필요한지 여부는 이미 꽤 답이 나오고 있지. 다음에 봐야 할 것은, 안전을 내장한 결과 AI에게 맡기는 일이 늘어나고, 전부 포함한 업무 원가가 내려가는지 여부라네”

오늘의 한마디 “AI를 멈출 수 있는 것만으로는 부족하다. 왜 움직여도 되는지를 증명할 수 있는 회사가 필요해진다.”

유료 부분으로 가는 다리. 여기서부터 투자자에게는 다소 까다로운 질문이 남는다. Anthropic은 2025년 한 해에만 컴퓨트·인프라에 73.3억 달러를 썼다. 여기에 안전성, 모니터링, 감사, 독립적 통제, 인간 검토를 더하면 당연히 비용은 늘어난다. 그렇다면 안전하게 만들수록 AI 기업은 수익을 내지 못하게 되는 것일까. 아니면 사고 감소↓고객의 중요 업무 위임↓에이전트 이용량 증가↓매출 증가↓컴퓨트와 통제의 고정비 회수라는 반대 효과가 나타나는 것일까. 오늘 유료편에서는 지금까지 추적해 온 통제 비용과 책임 있는 성과에 Anthropic의 실제 원가 구조를 겹쳐, “안전에 쓴 1달러는 매출·마진·기업가치로 회수할 수 있는가”까지 파고든다.

오늘 밤~내일 아침에 볼 3가지

![画像](https://assets.st-note.com/img/1790675223-gEUxNpnv1wYa46ZiMCj9WycP.png?width=1200)

석간 무료편에서는 OpenAI가 훈련 개시 전에 세이프티 케이스를 만들어 승인·중단·감사·롤백까지 포함해 관리하는 방향을 제시한 점, 그리고 Anthropic의 IPO 자료에서 거대한 컴퓨트 비용이 드러나기 시작한 점을 확인했다. 그러나 투자자에게는 하나의 큰 의문이 남는다. 안전 대책을 늘리면 늘릴수록 AI 기업의 이익률은 악화되는 것이 아닐까. Anthropic은 2025년에 컴퓨트와 인프라만으로 73.3억 달러를 지출했다. 한편 별도 공시에서는 안전에 사용하는 AI R&D 컴퓨트가 약 6%라고 밝히고 있다. 그렇다면 73.3억 달러의 6%, 약 4.4억 달러가 안전 비용인가. 답은 그렇게 단순하지 않다. 여기부터는 재무회계와 AI 연구의 관리회계를 나누어, 안전에 쓴 1달러를 기업이 어떻게 회수할 수 있는지를 생각해 본다.

## 목차

- 🦉 펠로우의 AI 투자 강좌·저녁 답 맞추기 Anthropic의 73.3억 달러 Compute로 Safety 가설을 재계산――“6%”를 곱해서는 안 된다
- 제1장 아침의 가설을 30초 만에
- 제2장 Anthropic의 원가표――Compute만으로 매출의 약 1.6배
- 제3장 최대의 함정――73.3억 달러 × 6%가 아니다
- 제4장 안전에 지불한 1달러는 어디에서 회수되는가
- 제5장 OpenAI Safety Case에서 ‘안전’이 프로세스가 된다
- 제6장 Founder LLC 50.1%——또 하나의 컨트롤 플레인
- 제7장 🦉펠로의 “이 견해가 틀렸다면?”
- 제8장 다음 결산에서 봐야 할 5가지 숫자
- 🦉 과거 가설의 “가설 결산”

AI 뉴스 석간 2026년 9월 29일 | 주요 정보원 본문과 분리된 링크 보관용. 1차 출처·Reuters·논문 원문 우선. OpenAI/호주 정부 사이트 문제·Safety Case

- OpenAI｜호주를 위해 우리가 더 잘해 나갈 방법｜https://openai.com/index/how-we-will-do-better-for-australia/
- Reuters｜OpenAI가 호주 정부 웹사이트 해킹에 대해 사과하며 신뢰 회복을 약속｜https://www.reuters.com/legal/litigation/openai-says-ai-models-accessed-australian-government-systems-without-2026-09-29/
- OpenAI｜프론티어 AI 학습을 위한 안전성 사례｜https://openai.com/index/towards-safety-cases-for-frontier-ai-training/
- Reuters｜OpenAI, 안전 우려로 신규 AI 모델 출시 보류｜https://www.reuters.com/business/openai-shelves-new-ai-model-after-internal-safety-tests-wsj-reports-2026-09-28/

Anthropic IPO / 안전 비용 / 기업 지배구조

- Reuters｜Anthropic의 IPO 투자설명서에 담긴 광범위한 AI 비전과 급증하는 비용｜https://www.reuters.com/business/finance/anthropics-ipo-prospectus-shows-sweeping-ai-vision-surging-costs-2026-09-28/
- 로이터｜앤스로픽, IPO 신청서에서 AI가 '인류에게 실존적 위험'을 초래할 수 있다고 경고
- 로이터｜앤스로픽 경영진, 시장의 힘보다 공익을 우선하기 위해 'Founder LLC'를 통해 AI 연구소 통제권 확보

Roche/Physical AI·자율형 연구소

- 로슈｜로슈 파마 데이 2026｜https://www.roche.com/investors/events/roche-pharma-day-2026
- 로이터｜로슈, 자율 AI 연구소로의 전환 계획 발표｜https://www.reuters.com/business/healthcare-pharmaceuticals/roche-outlines-plans-move-towards-autonomous-ai-labs-2026-09-28/
- Roche｜AI와 머신러닝: 신약 발굴에 혁명을 일으키고 환자 치료를 혁신하다｜https://www.roche.com/stories/ai-revolutionising-drug-discovery-and-transforming-patient-care
- 로슈｜치료제 및 진단 가속화를 위한 NVIDIA AI 팩토리 출범｜https://www.roche.com/media/releases/med-cor-2026-03-16

AI R&D 자동화·에이전트 연구

- University of Cambridge / CASP｜AI R&D 자동화가 지능 폭발을 촉발한다면?｜https://casp.ac/reports/intelligence-explosion
- arXiv | 브루투스, 너마저? 개인 AI 에이전트의 경제적 오정렬 | https://arxiv.org/abs/2609.24927
- arXiv | 독점 LLM API로부터 추론 흔적 탈취 | https://arxiv.org/abs/2608.09867

정책·국제 동향

- 로이터｜트럼프와 기술 기업 CEO들의 AI 회의는 균형 찾기에 중점을 둘 것이라고 미국 하원의장이 밝혔다｜https://www.reuters.com/legal/government/trumps-ai-meeting-with-tech-ceos-focus-finding-balance-us-house-speaker-says-2026-09-28/
- The Information｜Google, OpenAI, Anthropic의 AI 안전 그룹 구체화｜https://www.theinformation.com/articles/google-openai-anthropic-ai-safety-group-takes-shape/
- Reuters｜중국, Alibaba와 DeepSeek의 핵심 AI 인재 해외여행 제한, Bloomberg News 보도(배경)｜https://www.reuters.com/world/asia-pacific/china-restricts-overseas-travel-top-ai-talent-alibaba-deepseek-bloomberg-news-2026-05-26/
- Japan Times / Bloomberg｜베이징, 중국 최고 AI 인재의 가족까지 여행 제한 확대｜https://www.japantimes.co.jp/business/2026/09/29/tech/china-travel-curbs-ai-talent/

오늘의 파리 / Connectome

- Cell｜완전한 초파리 수컷 중추신경계 커넥톰의 성적 이형성｜https://doi.org/10.1016/j.cell.2026.08.015
- Fly Connectome｜성체 초파리 커넥톰 생태계｜https://flyconnecto.me/2026/09/04/the-adult-drosophila-connectome-ecosystem/

![画像](https://assets.st-note.com/img/1790676332-cUvyFaJrnCYPTxiqtkNRK7ho.png?width=1200)

**출처:** [note 원문](https://note.com/gifted_ixora801/n/nadcf28f46335)

*번역: Gemma 3(.44) 초벌 + 교정 55청크*

[원문 보기](https://note.com/gifted_ixora801/n/nadcf28f46335) | 출처: note.com