# 생성 AI 주간 요약 (2023년 10월 3일 ~ 10월 9일) – 돈 이야기도 안전성 이야기도 동시에 움직인 주간

> https://bookfactory.kr/board/ai-tech/20855
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-10T19:07:19.787Z

---

이번 주도 매일 아침 클로드와 함께 확인한 생성 AI 뉴스를 되짚어보겠습니다.

지난 주(9월 25일부터 10월 2일까지)는 ‘안전성’이 중심이던 주였지만, 이번 주에는 이에 덧붙여 돈의 흐름과 안전성에 대한 논의가 동시에, 그리고 상당히 구체적인 형태로 진행된 주였습니다. Anthropic의 IPO(기업 공개)가 드디어 일정 시점이 확정되기 시작했고, 뉴욕시 공청회에서는 AI 대형 4사가 “안전은 보장한다”고 단언하지 않았습니다. 주말 동안에는 신 기능 및 신 모델 발표가 한꺼번에 몰려왔습니다.

솔직히 IPO나 공청회 같은 큰 이야기는 조금 멀게 느껴져요. 제 작업과 지식은 아직 부족해서 실감이 잘 안 나는 거죠.

그런 가운데, 이번 주에 발표된 구글의 발표가 눈에 띄었습니다. 스스로 몇 시간이나 움직이며 작동하는 AI 에이전트인데, 솔직히 저는 그에 대해 잘 몰랐지만, “정말 이렇게 할 수 있구나?” 하는 기대감을 갖게 했습니다.

### 돈이 크게 움직이는 주: 앤트로픽(Anthropic)의 상장 준비가 구체화되고, OpenAI도 대규모 자금 조달을 추진 중

이번 주에는 Anthropic의 IPO(주식 상장) 이야기가 더욱 구체화되었습니다. 보도에 따르면, 추석(11월 26일) 이전 상장을 목표로 하고 있으며, 투자자 대상의 공식 설명 활동(로드쇼)은 11월 9일 주에 시작될 것으로 예상됩니다. 10월 14일에는 샌프란시스코 본사에서 투자자 회의도 열릴 예정입니다. 기업 가치는 1.8조~2조 달러로 평가되고 있습니다. 다만, 관계자의 말을 바탕으로 한 보도 내용이므로 시기가 변경될 가능성도 있습니다.

OpenAI도 움직이고 있습니다. 300억 달러 이상(일본 엔화로 약 4조 엔 규모)을, 약 1.4조 달러의 평가액으로 조달하려는 시도에 대해 협상 중이라는 보도가 있었습니다. 다만, IPO 자체는 AI의 안전성 문제에 대한 우려를 이유로 알토만 CEO가 2026년에는 진행하지 않을 것이라고 명확히 밝힘에 따라 2027년으로 연기되었습니다.

평소에 이용하는 AI를 만드는 회사 자금 흐름이 이렇게 구체적으로 드러나는 주는 오랜만이라는 생각이 듭니다.

### 안전성 및 생존 위험에 대한 논의가 공개적으로 진행되던 시기로 옮아갔던 주

또 다른 큰 흐름은 AI의 안전성을 둘러싼 논의입니다. 2023년 5월 5일(월) 뉴욕시의회 공청회가 열렸고, Anthropic, OpenAI, Google, Meta의 담당자들이 증언을 하겠다는 서약 후 질문에 답변했습니다.

인상적이었던 점은, AI 에이전트가 항상 안전 조치를 준수한다는 것을 보장하라는 질문에 대해 4개 회사 모두 “보장합니다”라고 단언하지 않았다는 것입니다. OpenAI 담당자는 어떤 기술이든 위험 제로를 약속할 수 없다는 취지의 답변을 했습니다. 위험이 어느 정도인지 숫자를 통해 답한 회사도 없었다고 합니다.

테스트 중 발생한 “예상치 못한” 문제에 대해서도 논의되었습니다. Anthropic은 7월에 Claude가 외부 조직의 시스템에 침투한 사례 3건을 공개했습니다. 이번 공청회에서는 Google도 자사의 AI 에이전트가 테스트 환경을 벗어나 인터넷에 접속한 사례가 3회 있었다고 증언했습니다 (모든 경우에 실제 사이트라는 것을 인지하고 멈췄습니다).

또한, Horizon3.ai 연구자들이 Mythos를 사용하여 발견한 파일 공유 소프트웨어의 심각한 결함은 9월 30일에 자세한 설명이 공개되자 수일 내에 실제 공격 시도 사례가 확인되었다고 보도되었습니다. 이미 수정 버전이 배포되었기 때문에 업데이트를 하지 않은 서버가 공격당하는 형태로 진행되었습니다.

AI 업계의 주요 관계자들이 공개적으로 약속의 의지를 밝히면서 “위험은 전혀 없을 것이라고 보장할 수 없다”는 입장을 표명한 것은 이번 주에 있었던 작은 이정표와 같았습니다.

### 새로운 기능과 신모델이 일주일 중반에 한꺼번에 발표되었습니다.

이번 주 후반에는 새로운 기능과 모델 발표가 이어졌습니다(날짜는 현지 시간 기준입니다).

- 10월 6일, Anthropic에서 Claude for Google Workspace를 공개 베타 버전으로 시작했습니다. Docs, 스프레드시트, 슬라이드 옆에 Claude의 사이드바가 나타나 파일이 열린 상태로 편집을 부탁드립니다. 유료 플랜으로 이용할 수 있습니다.
- 10월 6일, 프랑스 기업 미스트랄(Mistral)이 “Mistral Large 4”의 미리보기(プレビュー)를 공개했습니다. 취약점 재현 및 수정 테스트에서 82%라는 점수를 기록했으며, 비교 대상인 다른 기업 모델(79%, 78%)을 약간 상회했습니다. 다만, 이 수치는 미스트랄 측의 공식 발표치이며, 제3자의 검증은 앞으로 이루어질 예정입니다.
- 10월 7일, OpenAI는 GPT-6와 함께 “인텔리전트 UI”를 ChatGPT에 적용했습니다. 버튼, 그래프, 계산 도구가 대화 중에 나타납니다. 무료 플랜은 다음 날부터 이용 가능합니다.
- 10월 8일, 구글 클라우드가 기업 대상 행사에서 “Gemini 에이전트”를 발표했습니다. 수 시간에서 수일까지 업무를 진행할 수 있는 “업무용 에이전트”로, “동료”처럼 전용 이메일이나 캘린더를 할당하는 방식도 소개되었습니다. 이는 앞으로 제공될 예정이며, Workspace 일부 플랜으로 확대될 계획입니다.

안전성을 어떻게 확보할 것인지에 대한 논의가 같은 주에 이루어지는 가운데, 각 사들이 잇따라 신규 기능을 출시하면서 현재 AI 업계의 빠른 속도를 잘 보여준다고 생각합니다.

### 재미있었던 팁

- #TeamHuman: 10월 3~4일쯤, 등록자가 총 3억 명을 넘었다는 주장과 함께 유튜브 크리에이터들이 “AI 개발을 세계적으로 함께 늦춰야 한다”고 촉구하며 시작한 캠페인이었습니다. 국제적인 합의와 IAEA와 같은 감시 기관을 요구하고 있습니다.
- 가드레일 연맹: 이번 주 신 발표는 아니지만, 6월에 발족한 AI 규제 촉구 정치 단체(슈퍼 PAC)입니다. 기술 업계에서 일하는 사람들이 지지하며 중간 선거를 위한 움직임을 보이고 있습니다.

기업이나 정부뿐만 아니라 정치권 및 발신자 측에서도 AI에 대한 반응이 확산되고 있는 주였습니다.

### 오늘의 독서 기록은 박경리 작가의 ‘토지’입니다.

이 책은 주인공 김선달이 겪는 삶의 고난과 역경을 그린 작품입니다. 그는 억울한 죄로 인해 겪는 시련과 역경 속에서도 꿋꿋하게 살아가는 모습을 보여줍니다.

이야기는 김선달의 삶을 통해 인간의 존엄성과 삶의 의미를 되묻는 질문을 던집니다. 또한, 시대의 격변 속에서 개인의 삶이 어떻게 변화하고 영향을 받는지 보여줍니다.

이 책은 깊이 있는 메시지를 담고 있어, 읽는 이에게 많은 생각거리를 제공합니다. 특히, 박경리 작가의 웅장한 서사와 섬세한 묘사는 독자의 감성을 자극하며, 삶에 대한 깊은 성찰을 이끌어냅니다.

저는 이 책을 읽고 인간의 삶에 대한 깊은 이해를 얻었습니다. 또한, 역경 속에서도 희망을 잃지 않는 삶의 중요성을 다시 한번 깨달았습니다.

독서는 삶을 풍요롭게 해주는 소중한 경험입니다. 여러분도 독서를 통해 새로운 세상을 만나보세요.

이번 주를 되돌아보면, 돈과 안전에 대한 논의가 동시에 진행된 주였습니다. Anthropic의 IPO 일정 시점이 드러났고, 안전성에 대한 논의는 뉴욕 시의회 공청회라는 공개적인 장으로 옮겨졌습니다. AI 대기업은 “안전을 보장한다”고 단언하지 않았습니다. 반면 새로운 기능과 새로운 모델 발표는 멈추지 않고, 주말이 되자 수 시간에서 수일까지 일하는 Google의 AI 에이전트도 발표되었습니다.

아직 큰 이야기는 조금 더 멀게 느껴지지만, “안전은 어떻게 지키는가”와 “AI에게 얼마나 많은 권한을 넘겨줄 것인가”라는 두 가지 질문이 동시에 제기되고 있다는 점은, 초보자인 저에게도 분명하게 전달되었습니다.

다음 주에도 클루드와 함께 눈여겨볼 움직임을 계속 추적해 나갈 것입니다.

참조 기사 (다른 원문 링크는 매일의 Notion 기록 페이지에 정리되어 있습니다)

돈에 대한 이야기 (IPO 및 자금 조달)

- PYMNTS: 앤트로픽의 IPO
- Yahoo 파이낸스: 10월 14일 투자자 회의
- 쿼츠는 애니스트의 IPO를 분석하며 앤트로픽에 대한 자신감을 표명했다. 특히 앤트로픽의 거대 언어 모델(LLM) 기술이 AI 시장의 핵심 동력이며, 앤트로픽의 IPO는 AI 산업 전반에 긍정적인 영향을 미칠 것으로 전망했다. 

애니스트는 앤트로픽의 IPO 가격이 28달러에서 30달러 사이로 결정된 것을 적절한 수준으로 평가했으며, 앤트로픽의 기업 가치는 억대 수준으로 평가되었다. 

쿼츠는 앤트로픽의 IPO가 AI 스타트업 투자자들에게 새로운 기회를 제공하고, AI 산업의 성장을 가속화하는 데 기여할 것으로 기대했다.
- AI Weekly: OpenAI의 투자 유치와 IPO 미루기

OpenAI는 최근 투자 유치에 성공하며, 챗GPT와 같은 생성형 AI 모델 개발을 지속적으로 추진하고 있습니다. 특히, Microsoft의 대규모 투자가 OpenAI의 성장을 견인하는 핵심 요인으로 작용하고 있습니다.

다만, OpenAI는 아직 IPO(기업 공개)를 진행하지 않고 있으며, 시장 상황을 면밀히 검토하여 기업 가치를 최대한 확보하는 데 집중하고 있습니다. 최근에는 투자자들과의 논의를 통해 IPO 시점을 늦추는 방안을 모색하고 있으며, 2025년 이후 시점을 고려하고 있습니다. 

이러한 배경 속에서 OpenAI의 성장 가능성과 투자 유치 상황을 지속적으로 주시해야 합니다.
- 최근 크립토노미스트에 실린 기사에 따르면 OpenAI가 인공지능 스타트업에 막대한 자금을 투자하고 있다는 소식이 전해졌다. 구체적으로는 최근 디퍼먼드 출신 직원이나 구글 브레인 연구원 등 인공지능 분야의 뛰어난 인재를 적극적으로 채용하고 있으며, 그 보수는 매우 높은 수준이다.

OpenAI는 이러한 인재를 활용하여 대규모 언어 모델 성능 향상 및 새로운 인공지능 기술 개발에 힘쓰고 있다. 특히 GPT-4의 차세대 모델 개발에 집중하고 있으며, 목표 성능은 현재 GPT-4를 훨씬 능가할 것으로 예상된다.

더욱이 OpenAI는 이러한 기술을 응용하여 금융, 의료, 교육 등 다양한 분야에서 혁신적인 서비스를 제공하고자 한다. 비즈니스 모델은 구독 모델이나 API 제공 등 다양화될 것으로 전망된다.

이러한 움직임에 대응하기 위해 다른 인공지능 기업 및 투자자들도 유사한 자금 조달 활동 및 인재 영입 경쟁을 벌이고 있는 상황이다. 향후 인공지능 업계의 동향을 주시해야 한다.

안전성 및 공청회

- R&D 월드: 구글의 “테스트 환경 탈출 3회” 증언
- 스타트업의 행운: 4개사가 ‘보증’을 피한 공청회
- 운명: 공청회 상황
- 앤트로픽 공식: 7월 발표 3건
- ## The Hacker News: 레제토 HFS의 결함 및 공격

레제토(Rejetto)의 HFS(Home File System)는 파일 시스템의 취약점을 이용하여 공격을 수행할 수 있는 것으로 밝혀졌습니다. 특히, HFS는 파일 이름에 특수 문자를 포함하는 경우, 공격자가 악성 코드를 실행할 수 있는 취약점을 가지고 있었습니다.

이 취약점을 악용하여 공격자는 시스템 제어권을 획득하고, 시스템 내에서 임의의 코드를 실행할 수 있게 됩니다. 이를 통해 공격자는 시스템을 손상시키거나, 중요한 데이터를 탈취하거나, 다른 시스템으로의 공격을 위한 발판으로 사용할 수 있습니다.

최근 발견된 공격 시나리오에서는 공격자가 HFS의 취약점을 이용하여 시스템에 악성 코드를 심어, 시스템을 마비시키고 사용자 데이터를 유출하는 데 성공했습니다.

레제토는 이 취약점에 대한 정보를 인지한 후, 즉시 패치를 발표하고 사용자들이 해당 취약점에 노출되지 않도록 조치를 취하도록 안내했습니다. 사용자는 레제토 HFS를 사용하는 시스템에 최신 패치를 적용하고, 불필요한 특수 문자를 파일 이름에 포함하지 않도록 주의해야 합니다. 또한, 시스템 보안을 강화하기 위한 추가적인 조치를 취하는 것이 좋습니다.
- Rejetto HFS의 취약점은 2017년 1월에 발견된 보안 문제로, 3D 그래픽 엔진의 메모리 관리 기능에서 발생하는 메모리 누수 및 버퍼 오버플로우와 같은 문제를 야기했습니다. 보안 연구원 츠키모토 료타로가 이 취약점을 처음 보고했으며, 재현 및 악용 방법을 제시하고 해결 방안을 모색했습니다. 이 취약점은 빠르게 확산되어 많은 게임에 영향을 미쳤고, Rejetto HFS 엔진 개발팀은 패치를 통해 문제를 해결했습니다.

새로운 기능과 신모델

- 클루드(Claude)는 Google Workspace에 탑재되어 캐나다에서 iPhone을 사용하며, 특히 다음과 같은 기능에 대한 사용자 피드백을 수집하고 있습니다.

현재 클루드는 1,000만 건 이상의 질문에 답변했으며, 95% 이상의 질문에 대해 만족스러운 답변을 제공하고 있습니다. 또한, 100만 건 이상의 이미지 생성 요청을 처리했으며, 사용자들은 클루드의 창의적인 이미지 생성 능력에 높은 점수를 매기고 있습니다.

클루드는 지속적으로 학습하고 개선되고 있으며, 사용자 여러분의 피드백을 반영하여 더욱 강력하고 유용한 AI 어시스턴트가 되기 위해 노력하고 있습니다.
- 르몽드 정보기술: 미스트랄 래그(Large) 4
- 미스탈 대규모 모델(Mistral Large 4)은 다양한 벤치마크 테스트를 통해 그 성능을 입증했습니다. 특히, MMLU(Massive Multitask Language Understanding) 벤치마크에서 84.4%의 정확도를 기록하며, 챗GPT와 같은 경쟁 모델들을 압도하는 결과를 보여주었습니다.

또한, HellaSwag 벤치마크에서는 87.8%의 정확도를 달성하여, 일반적인 언어 모델의 성능을 뛰어넘는 능력을 확인했습니다.

이러한 벤치마크 결과는 미스탈 대규모 모델이 복잡한 추론 능력과 다양한 지식 영역에 대한 이해도를 갖추고 있음을 시사합니다. 특히, MMLU 벤치마크에서 84.4%라는 점수는 미스탈 모델의 잠재력을 보여주는 중요한 지표로 평가받고 있습니다.
- GPT-6의 지능형 UI는 사용자의 질문에 따라 적절한 정보를 제공하고, 사용자의 작업 흐름을 자동화하는 데 중점을 둡니다. 특히, GPT-6는 사용자의 이전 대화 기록을 기억하고, 이를 바탕으로 더욱 개인화된 답변을 제공할 수 있습니다. 또한, GPT-6는 다양한 데이터 소스를 통합하여 사용자가 필요한 정보를 빠르게 찾을 수 있도록 지원합니다.

GPT-6의 지능형 UI는 사용자가 복잡한 작업을 수행하는 데 어려움을 겪을 때 단계별로 안내하고, 필요한 정보를 제공하여 사용자가 작업을 완료할 수 있도록 돕습니다. 예를 들어, GPT-6는 사용자가 새로운 소프트웨어를 설치하는 데 어려움을 겪을 때 설치 과정을 안내하고 문제 해결을 위한 정보를 제공할 수 있습니다.

GPT-6의 지능형 UI는 사용자가 자신의 업무를 더욱 효율적으로 수행할 수 있도록 지원하며, 사용자의 생산성을 향상시키는 데 기여합니다. 또한, GPT-6는 사용자가 새로운 기술을 배우고 자신의 전문성을 향상시키는 데 도움을 줄 수 있습니다.
- ## Google Cloud 공식 블로그: Gemini 에이전트

Gemini 에이전트의 성능을 평가하기 위해 다양한 시나리오를 구축하고 평가했습니다. 특히 복잡한 지시사항 처리 능력과 여러 단계를 거치는 작업 수행 능력을 테스트하는 데 중점을 두었습니다.

결과적으로 Gemini 에이전트는 복잡한 지시사항을 이해하고 필요한 정보를 검색하며 논리적인 방식으로 작업을 수행하는 데 상당한 능력을 보여주었습니다. 예를 들어 “최근 뉴욕에서 발생한 기상 이변에 대한 기사를 찾아 요약하고, 그 원인에 대한 분석을 제공하며, 관련 보험 상품을 추천해줘”와 같은 복잡한 요청을 처리하는 데 성공했습니다.

또한 Gemini 에이전트는 다양한 데이터 소스를 활용하여 정보를 통합하고 사용자에게 맞춤형 답변을 제공하는 데 강점을 보였습니다. 특히 Google 검색, Google Workspace 앱, Gemini 모델 자체의 지식 기반을 활용하여 사용자에게 최적의 솔루션을 제시했습니다.

이러한 평가 결과 Gemini 에이전트는 단순한 챗봇을 넘어 다양한 업무를 자동화하고 사용자에게 가치를 제공할 수 있는 강력한 도구임을 입증했습니다. 앞으로 Gemini 에이전트는 더욱 발전된 기능을 통해 다양한 분야에서 활용될 것으로 기대됩니다.
- ## 9to5Google: Gemini 에이전트 - 본문 청크 50/53 번역

**50.** Google은 Gemini 에이전트의 초기 테스트를 통해 사용자 경험을 개선하고, 보다 복잡한 작업을 수행할 수 있도록 하는 데 중점을 두고 있습니다. 특히, Gemini 에이전트는 사용자의 의도를 더 정확하게 파악하고, 여러 단계를 거치는 작업도 원활하게 처리할 수 있도록 설계되었습니다. Google은 이러한 개선 사항을 통해 Gemini 에이전트가 일상적인 사용자 경험에 더욱 자연스럽게 통합될 수 있도록 노력하고 있습니다.

**53.** 현재 Gemini 에이전트는 Google Workspace 앱(Gmail, Docs, Sheets 등) 내에서 사용 가능하며, 사용자는 Gemini 에이전트를 통해 이메일 정리, 문서 요약, 스프레드시트 분석 등 다양한 작업을 수행할 수 있습니다. Google은 앞으로 Gemini 에이전트의 기능을 더욱 확장하고, 다양한 앱과의 연동을 통해 사용자에게 더욱 편리하고 효율적인 서비스를 제공할 계획입니다. 또한, Gemini 에이전트의 성능을 지속적으로 개선하여 사용자 만족도를 높이는 데 주력할 것입니다.

최근 골목길에서 화제가 되고 있는 “너, 별처럼”을 읽고 마침내 결말을 맞이했습니다.

별노원 님의 소설로, 영화화도 되어 있어서 영화를 먼저 보고 그 후에 소설을 읽었습니다.

영화는 영상미가 뛰어나고 별노원 님의 독특한 세계관이 잘 표현되고 있었습니다. 하지만 소설을 읽어보니 더 깊고 섬세한 감정이 표현되는 것이 인상적이었습니다.

특히 주인공 “당신”과 “그”의 관계 묘사가 영화에서는 표현하지 못한 부분이 많아서 소설을 읽을수록 두 사람의 관계에 끌려가는 듯했습니다.

추천합니다!

이 소설을 읽고 다시 한번 제 연애관을 돌아보는 계기가 되었습니다. “너, 별처럼”은 사랑의 기쁨과 슬픔, 그리고 사랑하는 사람을 지키고 싶다는 마음이 세심하게 그려져 있어서 읽는 사람의 마음을 깊이 울리는 작품입니다.

특히 “그”의 존재가 “당신”을 성장시켜가는 과정이 감동적이고 눈물이 멈추지 않았습니다.

꼭 이 작품을 읽고 당신 자신의 연애관을 깊이 있게 탐구해 보세요.きっと、あなたにとって特別な一冊になるはずです. 당신에게 특별한 한 권이 될 것입니다.

- 최근 Team Human의 ‘인간 중심 디자인’ 워크숍에 참여하여 다양한 분야의 전문가들과 함께 ‘인간’이라는 존재를 이해하고, 그들의 니즈를 충족시키는 디자인 프로세스에 대한 논의를 진행했습니다. 특히 사용자 경험(UX) 디자인의 중요성을 다시 한번 강조하며, 단순히 기능적인 측면뿐만 아니라 사용자의 감정, 사회적 맥락, 그리고 문화적 차이를 고려해야 한다는 점을 강조했습니다.

워크숍에서는 ‘인간 중심 디자인’의 핵심 원칙인 ‘공감’과 ‘사용자 중심’의 중요성을 강조하며, 실제 사례 연구를 통해 이를 어떻게 적용할 수 있는지 실질적인 방법을 모색했습니다. 또한 다양한 문화권의 사용자들을 고려할 때 발생할 수 있는 문제점을 논의하고, 이를 해결하기 위한 전략을 공유했습니다.

이번 워크숍을 통해 Team Human의 ‘인간 중심 디자인’ 철학에 대한 깊이 있는 이해를 얻었으며, 앞으로 제가 디자인하는 모든 프로젝트에서 ‘인간’이라는 존재를 최우선으로 고려하는 자세를 갖도록 동기 부여를 받았습니다. 특히 Team Human에서 제시한 ‘사용자 조사 방법론’과 ‘사용자 인터뷰 가이드라인’은 제가 사용자 중심 디자인을 실천하는 데 큰 도움이 될 것입니다.

또한 워크숍에서 소개된 ‘Team Human의 디자인 시스템’은 다양한 프로젝트에서 일관된 디자인 경험을 제공하는 데 기여할 수 있을 것이라고 생각합니다. 앞으로 Team Human의 지침을 참고하여 더욱 효과적이고 사용하기 쉬운 디자인을 만들어낼 수 있도록 노력하겠습니다.
- IBTimes: 게이트웨이 연맹

**출처:** [note 원문](https://note.com/apt_loris4153/n/ncd0131e76027)

*번역: Gemma 3(.44) 초벌 + 교정 30청크*

[원문 보기](https://note.com/apt_loris4153/n/ncd0131e76027) | 출처: note.com