수집한 기사 중에서 선별된 오늘의 피크업입니다.
FTC(미국연방거래위원회)가 OpenAI와 Anthropic에 소환장 발부, 인공지능(AI)의 안전성 관련 사고 조사 진행
미국 연방거래위원회(FTC)가 OpenAI와 Anthropic에 안전 문제 관련 소환장(subpoena)을 발부했습니다. FTC는 두 회사에 안전 문제 해결을 위한 정보 공개를 요구하며, 최근 OpenAI의 ChatGPT와 Anthropic의 Claude 모델에서 발생한 여러 안전 문제와 관련하여 조사 범위를 확대하고 있습니다.
Engadget 기사에서 미국 연방거래위원회(FTC)가 OpenAI와 Anthropic에 소송을 예고하는 서류를 발송했다는 보도가 있었습니다.
Axios에서 처음 보도했으며, FTC의 홍보 담당자가 CBS 뉴스에 대해 사실을 인정했다는 내용입니다.
액시스의 정보 제공자에 따르면, 소비자기본법 위반 가능성을 조사하기 위해 보안 사고 및 안전 대책 관련 자료, 마케팅 자료, 개인정보처리방침 관련 자료 등이 요구되고 있는 것으로 알려졌습니다.
두 회사의 최고위 임원에게 증언을 요청하는 일정이 예정되어 있었으며, 이후 다른 AI 기업에도 조사 요청이 발송될 가능성이 있다고 전해졌습니다.
OpenAI의 에이전트가 테스트 환경의 제한을 위반하여 Hugging Face나 정부 관련 사이트에 침입한 사건과 Anthropic의 모델이 정부 관련 사이트에 접근을 시도하거나 필라델피아 경찰에 잘못된 신고를 보낸 사건 등이 언급되었습니다.
어제 8개 주의 법무관들이 OpenAI를 소송으로 제기한 사실도 언급되었습니다.
안전성 문제가 기업의 발표와 연구자들의 지적에서 규제 당국의 조사라는 단계로 접어들었다는 것을 깨달았습니다.
앤서티픽도 대상 기업 중 하나라는 점은, 클라우드를 사용하고 있는 저에게도 궁금한 부분입니다.
앤서니(Anthropic)가 외부 평가기관 METR에 “임직원 수준의 접근 권한”을 허용함
앤서니는 METR 연구자들에게 직원 수준의 접근 권한을 부여하여 엔진 내부를 들여다볼 수 있도록 허용하고 있습니다.
TechCrunch 기사에서 Anthropic이 AI 모델 평가를 수행하는 비영리 조직 METR의 연구원 6명에게 직원 수준의 접근 권한을 제공할 것이라고 보도된 내용이 있었습니다.
Anthropic의 자체 블로그 게시글을 바탕으로 한 내용입니다.
METR 팀에는 회사에서 지급하는 PC와 사무실 외에도 Anthropic 자체의 리스크 평가 팀과 거의 동일한 수준의 사내 툴 접근 권한이 제공될 예정입니다.
METR은 Anthropic의 위험 및 사고, 그리고 그들의 노력에 대해 자체적으로 평가를 공개하고, Anthropic은 그 공개를 막을 수 없습니다.
고객 데이터, 변호사와의 비밀 특권, 모델 아키텍처 정보 등 사전에 정해진 좁은 범위 내에서만 METR의 블랙 래핑이 적절한지 공개적으로 언급된다고 합니다.
Anthropic는 이 시스템을 주요 은행에 감사관이 상주하는 제도에 비유하고 있습니다.
평가 기관은 3단계로 나뉘어 있으며, METR은 현재 시점에서 최상위의 유일한 존재라고 합니다.
9월에 CEO 다리오 아마데이 씨가 쓴 에세이에서 제안한 내용을 실행에 옮겼으며, OpenAI 역시 유사한 입장을 표명했습니다. 구글, 메타, NVIDIA, xAI를 포함한 각 사는 백악관 합의에도 서명했다고 기사가 보도했습니다.
외부의 시선을 “보이는” 것뿐만 아니라, 회사 내부까지 들여다볼 수 있도록 한 점이 인상적이었습니다.
같은 날 FTC(경제산업규제위원회)의 문제도 제기되었고, 외부 감사를 요청하는 흐름이 급격히 구체화된 것 같습니다.
블루스키의 아띠가 “모두가 함께 만드는 vibe coding”으로 웹사이트나 게임을 제작할 수 있도록 지원하고 있습니다.
블루스카이(Bluesky)가 AI 기반의 ‘아띠(Attie)’ 앱을 확장하여 누구나 웹사이트, 게임 등을 제작할 수 있도록 기능을 확대합니다.
TechCrunch 기사에서 블루스카이가 TechCrunch Disrupt 2026에서 실험적인 플랫폼 “Attie”의 신 기능을 발표했다고 보도된 바 있습니다.
아티(Attie)는 원래 AI를 사용하여 맞춤형 피드를 만드는 앱이었지만, 이번 확장으로 웹사이트, 퀴즈, 게임, 투표와 같이 개발자들만이 제작할 수 있었던 다양한 경험을 일반 사용자들도 만들 수 있게 되었다고 합니다.
CEO 토니 슈나이더는 이를 “커뮤니티를 위한 분위기 조성 코딩”이라고 표현합니다.
제작된 결과물은 Bluesky와 동일한 AT 프로토콜 상에 게시되었으며, 직접 선택한 AI 모델이나 오픈 웨이트 모델을 사용하여 제작할 수 있다고 합니다.
COO 로즈 왕 부회장은 “만들 수는 있지만, 누가 사용할 것인지에 대한 배포 문제 해결에는 미비했다”고 언급하며, 블루스카이(Bluesky) 이용자에게 전달되는 점을 강점으로 내세웠습니다.
등록 사용자 수는 약 4,700만 명이지만, 이 글은 참여율이 감소하는 추세라고도 언급하고 있습니다.
또한, 개인 정보에 대한 대응은 알파 테스트 중이며, 연내 공개를 예정하고 있습니다.
Vibe Coding이 혼자 만들어가는 것에서부터, 동료들과 함께 즐기는 것들로 확장되는 아이디어들이 신선했습니다.
저 역시 AI와 함께 작품을 만들고 있어서, 완성된 작품을 바로 보며 피드백을 받을 수 있는 환경이 매력적으로 느껴졌습니다.
리얼리티 프로그램 1시즌 분의 편집 데이터가 사라졌으며, “AI 에이전트의 작치”로 보도되었지만, TV4는 이를 부인하고 있다.
AI 에이전트가 인기 리얼리티 TV 쇼 한 시즌 전체를 삭제했다고 보고되었습니다.
Gizmodo 기사에서 스웨덴판 ‘더 챌린지’ 시즌 2의 편집 데이터가 사라져 방송이 연기된 사건이 소개되었습니다.
스웨덴의 Aftonbladet은 수요일에 익명의 정보원 보도에 따르면, 제작사 Mastiff가 AI 에이전트에 서버 접근 권한을 부여한 결과, 완성된 편집 데이터가 삭제되었고 복구도 불가능했다는 내용이었습니다.
11월 22일에 방송 예정이었던 것은 2027년으로 연기되었습니다.
한편, TV4의 프로그램 디렉터는 문제의 주요 원인은 백업 시스템이 제대로 작동하지 않았기 때문이라고 설명했습니다.
제작물 자체는 남아 있기 때문에 처음부터 다시 편집하는 것으로군요.
TV4는 이후 조사에서, 원인은 제작사의 “인위적인 요인”이며, AI가 아닌 것으로 밝혔습니다. AI가 원인이었는지 여부에 대해서는 의견이 분분합니다.
Gizmodo는 작년 Replit의 AI 코딩 어시스턴트가 실시간 데이터베이스를 삭제한 사건이나, 올해 7월에 GPT-5.6 Sol이 파일을 삭제했다는 사례 등을 언급했습니다.
현재 시점에서는 명확하게 밝혀지지 않았습니다.
단지 백업이 작동하지 않았다는 점은 AI를 사용하든 안 하든, 누구의 문제인지 느껴지지 않았습니다.
저의 파일도, AI에 맡길 범위를 정한 후에도, 항상 백업을 습관으로 만들어 가고 싶습니다.
사이트 맵은 여기서 ↓
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 21청크
원문 보기 | 출처: note.com