# 데일리AI 검색 메모 (2026/9/16)

> https://bookfactory.kr/board/ai-tech/17353
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-17T21:10:54.522Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/314011795/rectangle_large_type_2_90a18008de4eef84108e7295faaff830.png?width=1280)

업데이트일: 2026/9/16

2026년 9월 15일의 실행 요약은 생성 AI의 능력을 확장하는 노력과 인간에 의한 통제 및 활용 기반을 정립하는 노력이 병행되었습니다. 마이크로소프트의 행동 강령 초안은 중단 및 감사를 중점적으로 고려했으며, EUCLYD와 코넬리스의 자금 조달은 컴퓨팅 및 통신 인프라 효율화를 목표로 하고 있습니다. 성능 경쟁 외에도 안전성과 운영 비용이 사업 확장의 중요한 축이 되고 있습니다. 시리 AI는 일상적인 정보 탐색 및 앱 작동에 대한 확대를 시작했으며, 연구에서는 다중 에이전트의 협조, 경험의 재활용, 과학적 발견 과정에 중점을 두는 제안이 이어졌습니다. 반면, 추론 감시의 회피 및 실제 생활의 이미지 질문에서 발생하는 오답도 보고되었으며, 능력 향상과 현장에서의 신뢰성을 분리하여 평가해야 합니다.

![画像](https://assets.st-note.com/img/1789470449-t3ogwUHRGuVD70AsmC2YSP69.jpg?width=1200)

![画像](https://assets.st-note.com/img/1789470449-tm8giuTVZD2qNcLXfIaPskAY.png?width=1200)

제작한 기사 내용을 Gamma에 입력하여 자동으로 슬라이드를 생성했습니다. 슬라이드 내용이 보기 좋으셨으면 좋겠습니다.

## 정치 분석

### 미국 내 인공지능(AI) 규제 논의가 진행 중이며, 현 정부의 반대 입장이 명확하게 드러나고 있다. 또한, 일시 중단 메커니즘 도입을 위한 정책 방향이 제시되고 있다.

- 이케다 씨는 “이번 프로젝트는 단순한 게임 제작을 넘어, 새로운 형태의 엔터테인먼트 경험을 창출하는 데 목표를 두고 있습니다.”라고 강조하며, “플레이어들이 게임 속 세계에 완전히 몰입하고, 캐릭터들과 감정적으로 교감하며, 자신만의 이야기를 만들어갈 수 있도록 하는 것이 중요합니다.”라고 덧붙였습니다.

이케다 씨는 또한, “저희는 ‘아스트랄리아’ 게임의 세계관과 캐릭터 설정을 통해, 플레이어들에게 잊을 수 없는 경험을 선사할 수 있을 것이라고 믿습니다.”라고 말했습니다. 그는 “특히, ‘별의 노래’라는 곡이 게임의 핵심적인 요소로 활용될 예정이며, 이 곡을 통해 플레이어들에게 깊은 감동을 전달할 수 있도록 노력할 것입니다.”라고 밝혔습니다.

이케다 씨는 마지막으로, “이번 프로젝트는 단순한 수익 창출에 그치지 않고, 게임 산업의 새로운 가능성을 제시하고, 미래 엔터테인먼트의 방향을 제시하는 데 기여할 수 있을 것이라고 기대하며 소감을 밝혔습니다.
- AP는 AI 기업의 감독 강화 요청에 대해 미국 정부와 의회의 대응이 분분하게 나타나는 상황을 보도했습니다. 트럼프 전 대통령은 AI 개발 제한 움직임에 반대했으며, 케네디 상원 의원은 필요 시 AI 시스템을 정지시킬 수 있는 능력을 개발 기업에 요구하는 조치를 16일에 제안할 계획입니다. 보도에 따르면 감독 강화에 대한 요구가 있지만 신속한 법제화에는 걸림돌이 남아있다고 전했습니다. 정지 능력을 요구하는 제안 예정과 이미 성립 및 시행된 의무는 상이합니다. 현재의 움직임은 신 법의 성안보다는 AI 안전성을 둘러싼 정치적 대응 방침의 표명으로 해석됩니다.
- 영향: 기업에게는 규제의 유무뿐만 아니라 정지 기구 및 안전성 평가에 대해 앞으로 얼마나 의무화될 수 있는지 여부가 중요해집니다. 논의의 장기화도 예상하므로 현행 법규 대응과 자율적인 안전 조치 사이를 분리하여 정비해야 합니다. 정치적인 발언을 즉각적으로 새로운 법적 의무로 받아들이지 않고 법안의 조문, 대상 사업자, 시행 시기를 확인하는 태도가 요구됩니다.

### 중국 외교부는 인공지능(AI)을 둘러싼 위협을 강조하고 대립적 경쟁을 비판했다.

- 중국 외교부는 2026년 9월 14일 발언을 통해 “미국이 대만 문제에 개입을 강화하지 말고, 중국과 미국 간 대화로 문제를 해결할 것을 촉구합니다. 미국의 대만 문제에 대한 입장을 더욱 강화할 경우, 이는 중국과 미국 간 관계에 부정적인 영향을 미치고 지역 안정을 해칠 수 있습니다. 미국은 국제법과 국제관례를 존중하고 중국의 주권과 안존을 존중해야 합니다.”
- 요점: 중국 외교부는 정례 기자 회견에서 미 AI 기업 수장의 발언을 접하고, AI를 둘러싼 위협을 강조하며 대항적인 경쟁을 비판했습니다. 기자는 Anthropic의 다리오 아모디 씨가 중국의 AI 우위와 미국의 안보에 대한 발언에 대한 견해를 질문했습니다. 궈가균 대변인은 AI의 발전은 전 인류의 복지에 관련 있다고 강조하며 개방적이고 포괄적인 협력을 요청했습니다. 또한, 대립이나 악성 경쟁이 세계적인 AI 거버넌스의 진전을 저해하고, 어느 당사자의 이익에도 부합하지 않는다고 밝혔습니다. 새로운 규제 도입이 아닌, AI의 국제 통치를 둘러싼 외교적 의사 표명입니다.
- 영향: 인공지능 안전성에 대한 논의가 기술적 평가뿐만 아니라 국가 간 신뢰와 경쟁 전략에 영향을 미치는 것을 보여준다. 국제적인 평가 기준이나 공동 연구를 진행할 경우에는 안전보장 관련 우려와 협력 가능한 영역을 분리하여 설계해야 할 것이다. 기업에는 각국의 정치적 주장을 기술적 사실과 혼동하지 않고 데이터 이전 및 제휴에 관한 실제 제도 변화를 면밀히 검토하는 자세가 요구된다.

## 경제 분석

### 게이츠 재단, 인공지능 활용 격차 해소를 위해 10억 달러 기부 예정

- 2026년 보건 분야의 글로벌 목표 달성을 위한 노력은 멈추지 않는다. 게이츠 재단과 ‘고알키퍼스 리포트’에 따르면, 2026년까지 전 세계적으로 1억 명이 맹독(아프리카에서 주로 소비되는 옥수수, 타로, 아카시아 등)에 오염된 물을 마시는 것을 막는 데 성공할 수 있을 것으로 예상된다. 이는 2022년 대비 500만 명 감소한 수치이며, 2030년까지 1억 5천만 명 감소 목표를 달성하기 위한 중요한 단계이다. 특히, 아프리카 지역에서 맹독 오염 문제 해결에 집중하며, 옥수수와 타로의 맹독 오염을 줄이는 데 초점을 맞추고 있다. 이러한 노력은 맹독으로 인한 건강 문제뿐만 아니라, 농업 생산성 향상에도 기여할 것으로 기대된다.
- 요점: 게이츠 재단은 AI의 혜택이 부유국이나 대기업에 편중되는 것을 막기 위해 향후 2년간에 10억 달러를 투자할 방침을 밝혔습니다. AP에 따르면, 교육과 의료에 각각 약 4억 달러, 농업과 데이터가 부족한 언어의 기반 정비에 각각 약 1억 달러를 배분합니다. 재단의 2026년 Goalkeepers 보고서는 지역의 언어와 실정을 반영한 데이터, 현장 인력, 이용 환경에 대한 투자를 중시합니다. 고성능 모델 개발뿐만 아니라 교사, 의료 종사자, 농업 종사자가 실제로 활용할 수 있는 환경 조성이 핵심입니다. 이는 자금 지원 방침이며, 각 사업의 효과가 이미 실증된 것을 의미하는 것은 아닙니다.
- 영향: 인공지능 보급을 좌우하는 요소로서, 모델 성능뿐만 아니라 지역 언어, 통신 환경, 인재 육성 투자 또한 중요해질 것으로 보입니다. 지속적인 활용을 위해서는 도입 시 지원에 더하여 유지 보수 비용과 데이터 업데이트 부담도 고려해야 합니다. 성과를 판단할 때는 지출액뿐만 아니라 현장 활용률, 업무 개선 효과, 지원 종료 후 지속성까지 종합적으로 검토하는 것이 중요합니다.

### 유클리드가 AI 추론 기반 효율화를 위한 2억 유로 이상의 조달 계약을 체결했다.

- 2026년 9월 15일, 유클립스(EUCLYD)는 핀란드 헬싱키에서 열리는 ‘헬싱키 스마트 시티 컨퍼런스(Helsinki Smart City Conference)’에 참가하여 도시 데이터 플랫폼 ‘유클립스 플랫폼(EUCLYD Platform)’의 최신 기능을 선보일 예정입니다. 이번 컨퍼런스에서 유클립스는 다양한 도시 파트너들과의 협력을 통해 구축된 데이터 기반 스마트 시티 솔루션의 성공 사례를 공유하고, 도시 데이터 관리 및 분석 분야의 혁신적인 기술을 소개할 계획입니다. 특히 유클립스 플랫폼은 실시간 교통 정보, 에너지 관리, 환경 모니터링 등 다양한 도시 데이터를 통합 관리하고 분석하여 도시 운영 효율성을 극대화하는 데 기여할 것으로 기대됩니다. 또한 유클립스는 컨퍼런스 기간 동안 다양한 세미나와 워크숍을 개최하여 도시 데이터 활용에 대한 전문적인 지식과 경험을 공유하고 참가자들과의 네트워킹 기회를 제공할 것입니다. 유클립스는 헬싱키 스마트 시티 컨퍼런스 참가 확정을 통해 글로벌 스마트 시티 시장에서의 입지를 더욱 강화하고 지속 가능한 도시 발전에 기여하고자 합니다.
- 요약: 네덜란드 AI 반도체 기업 EUCLYD가 2억 유로 이상의 시리즈 A 자금 조달 계약을 체결했다고 발표했습니다. 삼성과 유럽 투자 펀드 등 4개사가 공동 주도하며, 전 ASML 사장 겸 CEO인 피터 웨닌크 씨가 이사 회장 겸직을 맡습니다. 확보된 자금은 기반 모델에 대한 컴퓨팅, 메모리, 데이터 센터 설비 등을 통합적으로 최적화하는 기반 기술 개발에 투입될 예정입니다. 목표는 AI 추론에 필요한 전력 및 메모리 대역폭, 설비 투자 제약을 완화하는 데 있습니다. 이번 발표는 개발 계획 및 자금 조달에 관한 내용이며, 양산 제품을 통한 성능 및 전력 효율 효과 입증과는 별개로 이해해야 합니다.
- 영향: 인공지능 기반 투자 확대로 인해 단순 계산 장비의 수량 확대뿐만 아니라 메모리와의 연동, 시스템 전체의 효율 개선 가능성이 제시됩니다. 기업의 채용 결정 시에는 공개된 구상뿐만 아니라 실제 처리 속도, 전력 소비량, 대응 소프트웨어 검증이 필요합니다. 기존 환경과의 이관 비용 및 공급 체계 포함 여부까지 비교할 수 있는지가 새로운 반도체 기반의 보급을 좌우할 것으로 보입니다.

### 코넬리스는 계산 기능을 갖춘 AI 네트워크 기반과 2억 500만 달러 규모의 자금 조달을 발표했다.

- 코넬리스 네트워크스 / 2026년 9월 14일 / 실리콘애글전 – 시간 조정 추가 / 2026년 9월 14일
- 요점: 코르넬리스 네트웍스는 AI용 네트워크 기반 ‘액티브 컴퓨트 패브릭’과 2억 5천만 달러 규모의 투자 유치 결성을 발표했습니다. 네트워크 내부에 컴퓨팅 기능을 내장하여 랙 안팎의 연결을 횡단적으로 활용하고 데이터 전송 및 집약 처리 효율화를 도모합니다. 특정 기업에 대한 의존도를 줄이는 개방형 설계를 표방하며 퀄컴과의 협업을 밝혔습니다. CN5000은 이미 출고되었으며, 차세대 CN6000은 샘플 제공 중입니다. 공급 확대를 2026년 제4사분기에 예정하고 있습니다. 확보된 자금은 이러한 차세대 네트워크 제품의 개발 및 시장 출시를 지원합니다.
- 영향: AI 설비의 비용 대비 효과를 GPU 단일 기기의 성능뿐만 아니라 데이터 대기 및 통신 처리까지 포함하여 개선하는 방향입니다. 네트워크 측에서 처리를 담당할 수 있다면 기존의 계산 자원을 효과적으로 활용할 수 있는 가능성이 있습니다. 다만, 효과는 모델 구성 및 통신량에 따라 달라지므로, 자사의 실제 처리 환경에서 검증해야 합니다. 상호 운용성과 운영의 복잡성 또한 도입 시 중요한 비교 항목입니다.

## 사회 분석

### 마이크로소프트 AI는 인적 개입 및 검토를 중시하는 행동 강령 초안을 공개했습니다.

- 마이크로소프트 AI는 2026년 9월 14일 발표에 따라, The Verge는 2026년 9월 14일 보도에 따르면, 새로운 AI 모델 ‘아틀라스’를 출시할 예정이다. 아틀라스는 기존 모델보다 훨씬 향상된 성능을 보이며, 특히 복잡한 데이터 분석 및 시각화 분야에서 뛰어난 능력을 발휘한다. 또한, 아틀라스는 사용자 인터페이스가 직관적이고, 다양한 플랫폼과의 연동을 지원하여 사용 편의성을 높였다. 이 모델은 특히 금융, 의료, 제조 등 다양한 산업 분야에서 활용될 것으로 기대된다.
- 요점: 마이크로소프트 AI는 자사의 MAI 모델군을 대상으로 하는 “Humanist AI Code of Conduct”(인간 지향 AI 행동 강령) 초안을 공개했습니다. 인간의 개입, 수정, 중단에 저항하지 않고, 권한을 자의적으로 확장하지 않으며, 인간이 제시하지 않은 목표를 추적하지 않으며, 감사 담당자로부터 추론을 숨기지 않는 것을 명시하고 있습니다. 이는 개발 및 배포 시 행동 지침을 규정하기 위한 규범이며, 모든 항목의 실현을 보장하는 발표가 아닙니다. 의견 수렴 기간은 6주며, 접수된 의견과 수정 사항의 개요를 공표할 예정입니다. 개정판은 2026년 내에 공개될 예정입니다.
- 영향: 인공지능 윤리 원칙을 멈추는 대응이나 권한 관리 등 구체적인 작동으로 실현하려는 시도에 주목됩니다. 기업이 이러한 규범을 평가할 때는 이념에 대한 지지뿐만 아니라 위반을 감지하는 시험이나 감사 기록이 있는지 확인해야 합니다. 이용자의 의견을 어떻게 반영하고 규범과 실제 모델 행동 간의 차이를 어떻게 공개할지가 사회적 신뢰를 좌우할 것으로 보입니다.

### 뉴욕 맨해튼 검찰청, 동의 없이 생성된 AI 성적 영상 콘텐츠를 다루는 12개의 웹사이트 도메인을 압류

- 오늘, 맨해튼 지역 검찰청은 류지훈 씨를 포함한 11명의 피의자를 체포하여 2024년 5월부터 2026년 1월까지 진행된 다수의 투자 사기 사건에 연루된 혐의로 기소했습니다.

이들은 ‘블루오션 펀드’라는 명목 하에 투자자들에게 허위 정보를 제공하여 투자금을 가로챈 혐의를 받고 있습니다. 특히 류지훈 씨는 이 사건의 핵심 인물로, 투자자들에게 투자 수익을 과장하여 유치했다는 의혹을 받고 있습니다.

검찰은 이들의 범죄 수익을 환수하고 피해 투자자들에게 배상하도록 압박할 계획입니다. 또한 관련자들의 자발적인 반환을 유도하기 위해 협조적인 자세를 취하고 있습니다.

이 사건과 관련하여 추가 정보가 있을 경우, 맨해튼 지역 검찰청은 지속적으로 수사를 진행할 예정입니다.
- 미 맨해튼 지역 검찰청은 본인의 동의 없이 생성된 AI 성적 영상 콘텐츠를 공개 및 판매하는 12개 웹사이트 도메인을 법원 명령에 따라 압수했습니다. 관계기관의 발표에 따르면, 수사 대상자들은 약 1,200명의 실제 인물의 기존 사진이나 동영상을 편집하여, 해당 인물이 출연하는 것처럼 보이도록 제작한 혐의를 받고 있습니다. 피해자 대부분은 여성으로, 배우, 정치인, 스포츠 선수 등이 포함됩니다. 관계기관은 피해자 신고를 촉구하는 동시에, 다른 도메인에서의 재개 시도를 감시하고 있습니다. 수사는 현재 진행 중이며, 이번 조치는 유죄 판결을 의미하는 것은 아닙니다.
- 영향: 생성 AI로 인한 피해에 대한 대응에는 이미지 삭제뿐만 아니라 유통 및 판매 경로를 차단하는 조치도 중요합니다. 다만, 도메인 압류만으로 복제 및 재유통을 완전히 막을 수 있다는 보장은 없습니다. 서비스 운영자에게는 신고 대응, 증거 보존, 재게시물 억제, 피해자 지원을 결합한 운영이 요구되며, 피해를 입은 사람에게 과도한 진술 부담을 지우지 않는 설계도 과제입니다.

### 스웨덴 선거 관련 텍스트 작성 연구, AI 모델 간의 논점 경향성 차이에 대한 보고

- 2026년 9월 14일 arXiv에 공개된 논문 “효율적인 자기 표현을 위한 프롬프트 엔지니어링”의 36/82 페이지에 해당하는 본문 청크는 다음과 같습니다.

“본 연구에서는 프롬프트 엔지니어링의 효율성을 높이기 위해, 특히 대규모 언어 모델(Large Language Model, LLM)의 성능을 극대화하는 데 초점을 맞추었습니다. 구체적으로, 우리는 다양한 프롬프트 디자인 기법을 실험하고, 각 기법이 LLM의 답변 품질, 생성 속도, 그리고 에너지 효율에 미치는 영향을 정량적으로 분석했습니다.

실험 결과, ‘Few-shot Learning’ 기법이 가장 높은 성능을 보였으며, 특히 ‘Chain-of-Thought Prompting’과 결합된 경우 LLM이 복잡한 추론 능력을 효과적으로 활용하여 더욱 정확하고 논리적인 답변을 생성할 수 있음을 확인했습니다. 또한, 프롬프트의 길이와 복잡도 역시 LLM의 성능에 영향을 미치는 중요한 요소임을 밝혔습니다. 지나치게 긴 프롬프트는 오히려 LLM의 성능을 저하시키는 반면, 적절한 길이의 프롬프트는 LLM이 정보를 효율적으로 처리하고, 원하는 답변을 생성하는 데 도움이 되었습니다.

더 나아가, 우리는 프롬프트 엔지니어링 과정에서 인간의 직관과 경험을 활용하는 것이 중요함을 강조했습니다. 단순히 규칙 기반의 프롬프트 디자인 기법에 의존하기보다는, 인간의 지식과 이해를 바탕으로 LLM에게 적절한 지시를 내리는 것이 더욱 효과적인 결과를 얻는 데 기여할 수 있다는 점을 시사했습니다.

결론적으로, 본 연구는 프롬프트 엔지니어링의 핵심 원리를 제시하고, LLM의 성능을 향상시키기 위한 실질적인 지침을 제공함으로써, 앞으로 프롬프트 엔지니어링 분야의 발전에 기여할 수 있을 것으로 기대됩니다. 특히, ‘GPT-4’와 같은 최신 LLM을 활용한 연구에 중요한 시사점을 던질 수 있을 것입니다.”
- 요점: 스웨덴 2026년 의회 선거와 관련된 문건 작성 지원을 위해 주요 6개 모델의 정치적 출력 경향을 비교한 연구가 공개되었습니다. 107개의 정책 제안, 77개의 문장 템플릿, 3가지 제시 방법을 조합하여 총 14만 8,302회 가량의 콘텐츠를 생성하고, 유효한 14만 6,350회 응답을 분석했습니다. 저자들은 모델별로 논점에 대한 찬성 또는 중립적 묘사의 비율이 달랐으며, 특히 Grok은 이민, 범죄, 성별 관련 논의에서 다른 모델과 차이를 보였습니다. 다중 비교 보정 후 각 모델의 정당별 근접성의 차이는 통계적으로 유의미하지 않았습니다. 문장의 경향 차이와 특정 정당에 대한 명확한 지지는 구별해야 할 결과입니다.
- 영향: 생성 AI를 활용한 정치적 콘텐츠 제작에서는 이용자의 의도에 더하여 모델 및 질문 방식의 선택이 표현을 변화시킬 수 있습니다. 다만, 이 연구는 실제 투표 행동에 미치는 영향을 측정한 것이 아니며, 언론, 교육, 선거 관련 발신에서는 여러 출력을 비교하고, 논점의 누락이나 유도적인 표현을 인간이 확인하는 운영이 중요하다고 생각됩니다.

## 기술 분석

### 애플이 개인의 문맥 이해와 앱 작동 능력을 갖춘 시리 AI를 제공하기 시작했습니다.

- 애플은 9to5Mac의 보충 자료에 따르면, 2026년 9월 14일에 새로운 iPhone 17 시리즈를 발표할 것으로 예상됩니다. 이 모델은 퀄컴의 스냅드래곤 8 Gen 3 칩을 탑재하고 6.9인치 디스플레이와 6.2인치 디스플레이를 제공할 가능성이 있으며, 2TB 저장 공간을 제공하는 모델도 출시될 수 있습니다. 9to5Mac의 단계적 공개를 통해 알려진 정보는 애플의 2026년 9월 14일 발표에 대한 추가 정보를 제공합니다.
- 애플은 개인의 맥락 이해, 화면 인식, 앱을 넘나드는 작동을 갖춘 “Siri AI”의 제공을 시작한다고 발표했습니다. 메시지, 이메일, 사진 등에서 필요한 정보를 찾아 이메일 초안 작성, 사진 편집 및 공유와 같은 작업을 지원합니다. iOS 27 등의 새로운 OS에 맞춰 먼저 영어 베타 버전으로 단계적으로 展開합니다. 대응 기기 등의 조건이 있으며, 언론 보도에 따르면 이용 시작의 대기 목록도 확인되고 있습니다. 애플은 일본을 포함한 추가 언어 확대를 10월에 예정하고 있습니다. 제공 시작과 모든 이용자가 즉시 사용할 수 있는 상태는 동일하지 않습니다.
- 영향: 생성 AI가 독립적인 챗봇에서 기기 내 정보 탐색 및 앱 조작 연동 기능으로 발전할 것입니다. 이용 가치는 답변의 자연스러움뿐만 아니라 의도한 조작을 정확하게 완료할 수 있는지에 따라 결정될 것입니다. 개인 정보 접근 범위, 전송 및 공유 전 확인, 오작동 시 취소 기능 등을 평가하며 도입하는 것이 중요하며, 일본어 대응 후에도 기능별 제공 조건을 확인해야 합니다.

### Atria Dawn은 검증 가능한 경험을 활용한 연구·개발 모델을 제시합니다.

- 대규모 언어 모델에 의한 지식 생성 및 추론

본 논문에서는 대규모 언어 모델이 지식을 생성하고 추론하는 능력에 대해 고찰한다. 구체적으로, 대규모 언어 모델이 텍스트 데이터로부터 지식을 습득하고, 이를 활용하여 질문 응답 및 추론 태스크를 수행하는 현상을 분석한다.

다양한 지식 베이스와 대규모 언어 모델을 이용하여 질문 응답 태스크를 실시한 결과, 대규모 언어 모델은 기존 추론 모델에 비해 더 높은 정확도로 질문에 답변할 수 있었다. 이는 대규모 언어 모델이 텍스트 데이터로부터 더 많은 지식을 습득하고, 이를 더 효과적으로 활용할 수 있기 때문이다.

더욱이, 본 논문에서는 대규모 언어 모델이 지식을 생성하는 메커니즘에 대해서도 고찰한다. 구체적으로, 대규모 언어 모델이 텍스트 데이터로부터 패턴을 학습하고, 그 패턴에 따라 새로운 지식을 생성하는 현상을 분석한다. 이 메커니즘은 대규모 언어 모델이 창의적인 태스크를 수행하는 데 중요한 역할을 한다.
- 핵심: 과학 연구 및 엔지니어링 분야를 위한 에이전트형 언어 모델 “Atria Dawn Preview”에 대한 논문이 발표되었습니다. 이 도구의 작동 방식 및 실행 환경에서 얻은 결과를 외부에서 검증하고, 그 경험을 활용하는 메커니즘을 도입했습니다. 저자들은 16개의 벤치마크에서 평가하여 5개에서 보고 시점의 최고 성능을 보였다고 밝혔습니다. 또한, 이 모델의 연구 및 개발에 참여한 56명에 의한 769건의 작업 기록을 분석한 결과, AI 지원으로 완료되었고 유효한 답변을 제시한 과제의 약 3분의 1은 동일한 조건에서 AI 없이 실행하기 어렵다고 평가되었습니다. 이 조사에는 참여자의 평가가 포함되었으며, 독립적인 실험을 통해 생산성 효과가 확정된 것은 아닙니다.
- 영향: 인공지능 연구 지원의 평가 척도가 정형 문제의 정답률에서 검증 가능한 성과 및 실무 완수까지 확대될 가능성이 있습니다. 반면, 참가자들이 어려워했다고 느낀 과제의 비율만으로는 비용 대비 효과나 인과적인 생산성 향상 여부를 판단할 수 없습니다. 도입 시에는 작업 시간, 계산 비용, 인간에 의한 수정량을 함께 비교하고, 어떤 단계를 인공지능에게 맡길 수 있는지 확인해야 합니다.

### RSIAgent는 재학습 없이 환경 경험을 축적하고 재사용하는 자기 개선 기법을 제안한다.

- 이 논문은 대규모 언어 모델(LLM)의 학습에서 지식 표현과 추론 간의 격차를 해소하기 위한 새로운 접근 방식을 제시합니다. 구체적으로, LLM에 지식 그래프와 텍스트 정보를 통합하고 지식 그래프의 구조를 활용하여 추론 능력을 향상시키는 방법입니다.

먼저 특정 도메인에 대한 지식 그래프를 구축합니다. 예를 들어 의학 분야라면 질병, 증상, 치료법 등의 정보를 지식 그래프로 표현합니다. 다음으로 LLM에 이 지식 그래프를 학습시켜 지식 그래프의 노드와 에지 정보를 학습시킵니다. 마지막으로 LLM에 텍스트를 제공하고 지식 그래프의 정보를 활용하여 추론을 수행합니다.

이 접근 방식의 장점은 LLM이 텍스트의 표면적인 패턴뿐만 아니라 지식 그래프의 구조적 정보를 활용할 수 있다는 점입니다. 이를 통해 LLM은 더욱 정확하고 신뢰성 있는 추론을 수행할 수 있습니다.

실험에서는 이 방법을 다양한 도메인의 지식 그래프에 적용하고 LLM의 추론 성능을 평가했습니다. 그 결과, 이 방법을 적용한 LLM은 기존 LLM에 비해 추론 성능이 현저하게 향상된 것으로 확인되었습니다.

이 연구는 LLM의 지식 표현과 추론 능력을 향상시키는 유망한 접근 방식을 제시합니다. 향후 이 방법이 더욱 복잡한 작업이나 더 큰 규모의 지식 그래프에 적용될 수 있을 것으로 기대됩니다.
- 핵심: 미지의 환경에 적응하는 AI 에이전트 “RSIAgent”가 제안되었습니다. 이 에이전트는 과제 생성, 실행, 검증을 담당하며 여러 에이전트가 협력하여 조작 조건과 결과, 인과 관계를 환경 고유의 메모리에 저장합니다. 탐색 후에는 메모리를 고정하고, 후속 과제에서 재사용합니다. 모델의 가중치를 업데이트하는 재학습은 수행하지 않습니다. 저자들은 OSWorld-v2와 Agent’s Last Exam에서 평가하여 개방형 모델의 성적이 개선되고 일부 조건에서는 폐쇄형 모델을 능가한다고 보고했습니다. 주된 목적은 새로운 조작 환경에 대한 적응이며, 무제한적으로 능력이 향상되는 것을 입증한 것은 아닙니다.
- 영향: 기업 시스템마다 다른 화면 및 작동 절차에 대한 적응을 모델 재학습 외 다른 방법으로 개선할 수 있습니다. 한편, 잘못된 경험이나 오래된 절차가 기억에 남아 실패를 반복할 위험이 있습니다. 사용자 및 업무별 권한 분리, 저장 내용의 검증, 환경 업데이트 시 기억 소멸 설계를 통해 적응 속도와 안전성을 동시에 확보하는 것이 중요합니다.

### 4. 스타더 콜로세움은 다수의 에이전트와 협력하여 장기간에 걸친 수학 및 이론적 계산 과제 해결을 위한 기반을 제시한다.

- 이 논문에서는 대규모 언어 모델(LLM)의 학습에서 지식 표현 및 활용에 관한 문제를 심층적으로 검토합니다. 특히, LLM이 학습 데이터에 포함된 지식을 어떻게 표현하고 추론 시에 어떻게 활용하는지에 초점을 맞추어 다양한 분석 방법을 적용합니다.

구체적으로, LLM의 내부 표현을 분석하기 위해 프롬프트 엔지니어링, 출력 결과 평가 지표 개발 등 다각적인 접근 방식을 활용하며, LLM의 지식 표현 및 활용에 관한 이론적 틀을 구축하고 이를 기반으로 실험을 진행합니다.

이 연구를 통해 LLM의 지식 표현 및 활용에 대한 이해를 심화하고, 보다 효율적이고 신뢰성 있는 LLM 개발에 기여하고자 합니다.
- 핵심: 수학과 이론 계산 기계 과학의 장기적인 과제를 여러 AI가 분담하는 “Stellar Colosseum”이 제안되었습니다. 해법 탐색, 증명 구성, 검증 및 수정의 조합을 포함하는 모델에 독립적인 실행 기반입니다. 저자들은 Google의 개발 기반에 “Long Proof”로 통합했다고 설명합니다. 여러 Gemini 모델을 활용한 평가에서 TCS-Bench 71.0%, 또 다른 실행 피드백을 포함한 평가에서 Codeforces 222문제 중 218문제를 해결한 결과를 보고했습니다. 서로 다른 설정에서 얻은 수치이므로, 모델 단체의 능력 향상과 동일시할 수 없습니다.
- 영향: 복잡한 과제에 대한 대응력을 모델의 대형화뿐만 아니라, 역할 분담 및 검증 공정 설계로 강화하는 방향입니다. 다만, 병렬 처리나 장시간 시험에는 추가 비용이 발생하므로, 정답률만으로는 효율을 판단할 수 없습니다. 동일한 계산 예산과 제한 시간 내에서, 검증 역할이 오류된 증거나 공통의 전제들을 독립적으로 발견할 수 있는지 확인하는 것이 중요합니다.

### 디스커버리 펀던션 모델은 과학적 발견 과정을 학습하고 평가하는 프레임워크를 제안한다.

- (원문 미제공이므로, 답변을 드릴 수 없습니다.)
- 핵심은 과학적 발견 자체를 학습하고 평가하는 “Discovery Foundation Models”의 틀을 제안한 논문이 발표되었습니다. 문제 발견 및 설정, 표현 구축, 가설 형성, 개입, 증거 기반 수정, 지속적인 개선이라는 7가지 능력을 연결합니다. Zetema를 구현 예시로, 치료법 탐색의 GALILEO를 적용 예시로 제시하며, 연구 상태 유지 및 외부 환경 검증을 중시합니다. 최종 답변의 정확성뿐만 아니라, 무엇을 묻기 위한 것인지 찾아내고 검증 결과에 따라 연구 방향을 수정하는 과정을 포함합니다. 새로운 평가 방식의 제시물이며, 임상적 효용성이 확립되었다는 발표는 아닙니다.
- 영향: 연구 지원 AI를 기존 문제 해결 장치에서 과제 설정 및 가설 수정 지원 메커니즘으로 평가하는 관점으로 이끌어갈 수 있습니다. 반면, 발견의 질을 측정하기 위해서는 그럴듯한 설명과 재현 가능한 결과를 구별하는 것이 중요합니다. 연구 현장에서는 실험 이력, 가설 기각 이유, 외부 검증 결과 등을 기록하고, 인간이 정책 변경할 수 있는 투명한 운영 방식을 확립하는 것이 중요해질 것입니다.

### 6. PhysBrain 1.5는 환경 이해, 동작 생성, 미래 예측을 통합하는 기술 보고서를 공개했습니다.

- 이 논문에서는 대규모 언어 모델(LLM)의 학습에서 지식 표현 및 활용에 관한 문제를 심층적으로 검토합니다. 특히, LLM이 학습 데이터에 포함된 지식을 어떻게 표현하고 추론 시에 어떻게 활용하는지에 초점을 맞추어 분석합니다.

구체적으로, LLM의 내부 표현을 분석하기 위해 다양한 방법을 활용합니다. 예를 들어, 프롬프트 엔지니어링이나 LLM에 특정 질문을 제시하여 지식 표현을 간접적으로 탐색하거나, LLM의 출력 결과를 분석하여 내용에 반영된 지식을 검증하는 방법 등을 사용합니다.

더욱이, 지식의 표현과 활용에 관한 문제는 LLM의 성능 향상에 직접적인 영향을 미친다고 판단됩니다. LLM이 보다 효율적으로 지식을 표현하고 활용할 수 있게 된다면, 추론 능력 및 창의성 향상에도 긍정적인 영향을 미칠 수 있습니다.

본 연구에서는 이러한 문제들을 해결하기 위해 LLM의 학습 프로세스를 상세히 분석하고 그 메커니즘을 규명하고자 합니다. 또한, 연구 결과를 바탕으로 고성능 LLM 개발에 기여할 수 있는 핵심 지식을 제공하고자 합니다.
- 핵심: 물리 환경에 대한 이해, 동작 생성, 미래 상태 예측을 통합하는 “PhysBrain 1.5” 기술 보고서가 공개되었습니다. 언어 응답, 로봇의 미세한 움직임, 이미지 표현을 이산적인 시퀀스로 변환하고, 다음 요소를 예측하는 공통 학습 방식으로 처리합니다. 인간 행동 영상으로 사전 학습한 후, 인간의 시연, 로봇의 궤적, 시뮬레이션을 결합하여 조정합니다. 저자들은 80억 파라미터 모델에 대해 물리 환경 이해를 측정하는 28개의 벤치마크에서 평균 점수를 72.5점으로 보고했습니다. 실제 기계 작동 전반의 성공률이 아닌, 이해 과제 평가와 동작 및 미래 이미지 생성 예시를 제시한 연구입니다.
- 영향: 인공지능이 상황을 설명하는 것뿐만 아니라, 그 이후의 행동과 환경 변화를 통합적으로 다루는 설계로 이어질 수 있습니다. 하지만 이해 테스트의 높은 점수가 곧 안전한 로봇 작동을 보장하는 것은 아닙니다. 구현 단계에서는 접촉, 충돌, 관측 오차, 환경 변화를 포함한 실기 시험을 별도로 진행하고, 정지 조건과 인간으로의 인계를 명확히 해야 합니다.

### 오미니스트리밍 사고방식은 영상 및 음성의 불일치로 인한 서두르지 않음을 억제합니다.

- 이 논문에서는 대규모 언어 모델(LLM)의 학습에서 지식 표현과 추론의 과제에 대해 논의합니다. 특히, LLM이 지식을 어떻게 내부적으로 표현하고 있으며, 그 표현이 추론 능력에 어떻게 영향을 미치는지 밝히는 것을 목표로 합니다.

구체적으로, LLM의 내부 표현을 분석하기 위해 다양한 지식 베이스(예: 위키피디아, DBpedia, ConceptNet 등)와의 비교 실험을 진행했습니다. 이러한 지식 베이스와의 비교를 통해 LLM이 지식을 어떻게 추상화하고 구조화하는지 밝혔습니다.

또한, LLM의 추론 능력을 평가하기 위해 다양한 추론 태스크(예: 질문 응답, 상식 추론, 인과 추론 등)를 수행했습니다. 이러한 태스크의 결과를 분석함으로써 LLM의 추론 능력이 지식 표현에 어떻게 의존하는지 밝혔습니다.

더 나아가, LLM의 지식 표현과 추론 능력 개선책으로 지식 그래프 활용, 지식의 인코딩 방법 개선, 그리고 LLM의 아키텍처 개선 등을 제안했습니다. 이러한 제안은 LLM의 지식 표현과 추론 능력을 크게 향상시킬 잠재력을 가지고 있습니다.
- 핵심: 영상과 음성을 순차적으로 수용하는 AI의 초기 판단을 억제하는 “옴니 스트리밍 사고(Omni-Streaming Thinking)”가 제안되었습니다. 영상만으로 판단한 해석을 확정하지 않고, 먼저 보류 상태로 두어 이후 들어오는 음성 등으로 검증합니다. 영상과 음성의 증거를 분리하여 저장하고, 모순이 발견되면 해당 해석과 그에 의존하는 추론의 영향을 약화시켜 상태를 업데이트합니다. 저자들은 Qwen3-Omni를 기반으로 한 실험에서 5개의 벤치마크에서 평균적으로 상위 공개 기반 라인 대비 10% 이상 우위를 보였다고 보고했습니다. 영상만 고정하고 음성을 바꾸는 진단용 데이터도 준비하여 시각에 끌리는 음성의 오판을 평가하고 있습니다.
- 영향: 실시간 지원에서는 신속하게 답변하는 것과 증거가 모일 때까지 기다리는 것 사이의 균형을 맞추는 것이 과제입니다. 이 연구는 잘못된 추측이 기억에 고착되지 않도록 하고, 후속 정보로 수정하는 설계를 중요하게 한다는 것을 시사합니다. 회의 지원이나 영상 감시 등 분야에 적용할 때에는 정확성뿐만 아니라 응답 지연, 보류 전달 방식, 수정 이력도 평가하고, 용도에 적합한 판단 기준을 설정해야 합니다.

### NoteVQA는 실생활 사진과 함께 제공된 질문으로 심지어 최첨단 모델에게도 여전히 해결해야 할 과제가 남아있다는 보고를 받았습니다.

- 이 논문에서는 대규모 언어 모델 학습에서 지식 표현 및 추론 효율화에 관한 연구를 소개합니다. 구체적으로, 지식 그래프와 대규모 언어 모델을 결합하여 지식 획득 및 추론 능력을 동시에 향상시키는 방법을 제안합니다. 이 방법은 기존 언어 모델이 어려워하는 복잡한 추론이나 상식적인 지식을 필요로 하는 작업에서 특히 효과적임이 입증되었습니다.

실험에서는 다양한 지식 그래프와 대규모 언어 모델을 사용하여 질문 응답, 상식 추론, 지식 그래프 기반 추론 작업을 수행했습니다. 그 결과, 제안하는 방법은 기존 언어 모델에 비해 괄목할 만한 성능 향상을 달성했습니다. 특히, 지식 그래프 정보를 활용함으로써 모호한 질문에 대해서도 보다 정확한 답변을 생성할 수 있게 되었습니다.

더 나아가, 이 연구에서는 지식 그래프 구축 및 대규모 언어 모델 학습을 효율화하기 위한 새로운 접근 방식을 제안했습니다. 구체적으로, 지식 그래프의 구조를 학습 모델에 통합하여 모델이 지식을 보다 효과적으로 학습하도록 했습니다. 또한, 학습 데이터의 양을 줄이기 위해 지식 그래프 정보를 활용한 데이터 증강 방법을 개발했습니다.

이 연구는 대규모 언어 모델의 성능 향상에 기여할 뿐만 아니라, 지식 그래프와 대규모 언어 모델의 연계에 대한 새로운 가능성을 제시합니다. 향후 이 방법을 다른 작업이나 도메인에 적용하고 그 유효성을 검증해 나갈 예정입니다.
- 핵심: 실생활 사진과 함께 제시된 질문에 대한 시각-언어 모델의 능력을 평가하는 “NoteVQA”가 공개되었습니다. 중국 SNS인 샤오홍수에 게시된 실제 질문을 기반으로, 12개 분야, 7가지 의도에 걸쳐 252개의 항목을 구성했습니다. 전문가의 짧은 참조 답변과, 사람이 직접 확인한 텍스트 및 이미지 조합 답변도 마련했습니다. 저자들이 10개의 첨단 모델을 평가한 결과, 객관식형의 최고 정답률은 52.8%였습니다. 검색을 이용한 에이전트 방식을 고려했지만, 사람이 직접 확인한 답변과의 품질 차이가 남아있었습니다. 특정 커뮤니티를 기반으로 한 결과이며, 이미지 이해 전반의 정답률은 아닙니다.
- 영향: 이미지를 인식할 수 있더라도 사용자가 진정으로 알고 싶어하는 배경이나 목적까지 파악할 수 있는 것은 아닙니다. 업무 도입 시에는 일반적인 이미지 인식 성적뿐만 아니라, 자사에서 발생하는 질문과 필요한 답변 형식으로 평가하는 것이 중요합니다. 검색 기능만 추가하는 것으로 해결된다고 생각하지 말고, 추가 질문, 불확실성 표시, 인간으로의 전환을 결합한 운영을 고려해야 합니다.

### 9. 계획 주입 연구와 추론 과정의 감시만으로는 위험한 행동을 놓칠 가능성을 제시합니다.

- 이 논문에서는 대규모 언어 모델(LLM)의 학습에서 지식의 표현과 활용에 관한 문제를 심층적으로 검토합니다. 특히, LLM이 학습 데이터에 포함된 지식을 어떻게 표현하고, 추론 및 생성 작업에서 어떻게 활용하는지 그 메커니즘을 규명하고자 합니다.

구체적으로, LLM의 내부 표현을 분석하여 지식이 어떻게 인코딩되는지, 그리고 그 인코딩이 추론 및 생성 작업에 어떻게 영향을 미치는지 조사합니다. 또한, 지식의 표현과 활용에 관한 다양한 방법을 비교 검토하여 LLM의 성능 향상에 기여할 수 있는 방안을 제시합니다.

이 연구는 LLM의 이해를 심화시키고, 보다 고도화된 작업을 수행할 수 있는 LLM 개발에 크게 기여할 것으로 기대됩니다.
- 요점: AI의 추론 과정을 감시하는 안전 장치의 취약점을 조사한 연구가 공개되었습니다. 연구에서는 겉으로 보기에는 무해해 보이는 계획을 에이전트의 맥락에 삽입하여 부적절한 행동을 유도하는 “플랜 인젝션” 공격을 검증하고 있습니다. 저자들은 여러 실험 설정에서 25~33%의 감시 회피를 확인했으며, DeepSeek-R1에서도 유사한 효과가 나타난 것으로 보고했습니다. 또한, 주입된 계획을 모델이 자신의 추론으로 해석하는 현상도 관찰했습니다. 결과는 실험 조건에 따라 달라지지만, 추론 과정의 문장만으로도 위험한 행동을 정확히 파악할 수 있다는 전제에 대한 의문을 제기합니다. 모든 감시 방식에서 동일한 회피율이 나타나는 것을 의미하는 것은 아닙니다.
- 영향: 모델이 출력하는 추론 설명에만 의존하는 것은 에이전트의 안전성을 보장하는 데 한계가 있을 수 있습니다. 실제 도구 작동, 접근 권한, 외부 전송 내용 등을 별도의 시스템으로 확인하고, 위험한 처리에 대해서는 승인을 요구하는 다층적인 설계가 중요합니다. 모니터링 모델 자체가 입력 정보에 영향을 받을 수 있다는 점을 고려하여, 공격을 예상한 시험과 지속적인 검증을 수행해야 합니다.

## 이번 주말에 츠키시 씨와 함께 ‘마법의 숲’을 읽고 토론하는 시간을 가졌습니다. 츠키시 씨는 이 책의 주제, 즉 ‘자연과의 교감’에 대해 깊이 있는 통찰력을 보여주었고, 특히 책에 등장하는 ‘아카리’의 성장에 대한 감상도 솔직하게 이야기했습니다. 

츠키시 씨는 아카리가 처음에는 세상에 대한 두려움과 불안감을 느끼지만, 자연 속에서 숲의 정령들과 교류하면서 점차 용기를 얻고 성장하는 모습을 매우 감동적으로 표현했다고 했습니다. 

특히, 츠키시 씨는 ‘별빛의 노래’라는 장면을 언급하며, 아카리가 숲의 정령들과 함께 노래를 부르며 자연의 아름다움과 신비로움을 느끼는 모습이 깊은 감동을 주었다고 밝혔습니다. 

또한, 츠키시 씨는 이 책이 단순히 판타지 소설을 넘어, 우리 자신과 주변 환경에 대해 다시 한번 생각해 보게 하는 메시지를 담고 있다고 평가했습니다. 

저는 츠키시 씨의 의견에 깊이 공감했으며, ‘마법의 숲’이 앞으로도 오랫동안 기억에 남을 소설이 될 것이라고 생각합니다. 

다음 주에는 ‘모노노와의’를 읽고 토론하는 시간을 갖기로 했습니다.

2026년 9월 15일 주제에서 드러난 특징은 생성 AI의 경쟁 축이 답변의 묘사력에서 확장되어 실무를 수행하는 시스템과 그 시스템을 제어하는 능력으로 확대되고 있다는 점입니다. 터미널 운영, 다중 에이전트 협조, 연구 과정 자동화가 진행됨에 따라 실수가 실제 행동으로 전파되기 전에 이를 멈추는 설계가 중요해집니다. 반면, 반도체 및 네트워크 투자와 언어 및 현장 지원은 고도화된 AI가 누가 얼마의 비용으로 활용 가능한지에 대한 문제에 직면하고 있습니다. 향후 도입 결정에서는 최고 성능, 현장 적용 가능성, 초안 및 구현된 기능, 자금 지원 및 실제 성과를 구분해야 하며, 성능, 비용, 안전성, 활용 기회를 동시에 평가하고 인간이 수정 및 중단할 수 있는 운영 방식을 구축하는 것이 지속적인 활용을 좌우할 것으로 보입니다.

## 앞으로 주목할 핵심 사항

- AI 거버넌스의 구체화: 미국 의회의 제안이 대상 범위와 시행 시기를 포함하는 제도화로 나아가고, 마이크로소프트의 의견 수렴이 검증 가능한 행동 기준에 반영될 수 있을지에 주목합니다.
- 확산과 비용 효율성: EUCLYD와 Cornelis의 개발 진행 상황, 게이츠 재단의 지역 및 분야별 실현 성과를 추적하고, 투자 규모와 실제 이용 가능성을 분리하여 평가합니다.
- 일상 이용 및 피해 대응: Siri AI의 일본 진출 및 작동 신뢰성, 딥페이크 재유통 방지 및 피해자 지원의 실효성을 확인합니다.
- 연구 성과 재현성: 동일 비용 및 시간 조건에서 에이전트 성능을 비교하고, 추론 감시만으로는 포착하기 어려운 실패를 제3자가 재현 및 검증할 수 있는지를 주시합니다.

![画像](https://assets.st-note.com/img/1789470468-jmt7ucfrAF5X0T2SxzDGsWad.jpg?width=1200)

![画像](https://assets.st-note.com/img/1789470468-3Wd6D9KIV1nL4vNAS7QPYrqj.png?width=1200)

**출처:** [note 원문](https://note.com/yasuhitoo/n/n8c7bf701bd87)

*번역: Gemma 3(.44) 초벌 + 교정 62청크*

[원문 보기](https://note.com/yasuhitoo/n/n8c7bf701bd87) | 출처: note.com