메타는 2026년 9월에 발표한 개인 AI 에이전트 “Muse”의 내부 지시어나 시스템 프롬프트를 보안 연구자가 추출하여 Muse가 사용자 가족, 친구, 동료 등 개인별 페이지를 생성하도록 설계되어 있음을 밝혔습니다. 개인별 페이지에는 기본적인 사실뿐만 아니라 과거의 사건, 친밀도, 앞으로 관계를 심화하기 위한 팁 등도 기록하는 메커니즘이 작동한다고 보도되었습니다. Muse는 메타가 2026년 9월 8일에 발표한 AI 에이전트입니다. Muse는 사용자 대신 웹 브라우저를 조작하거나 이메일을 보내거나 여행을 예약할 수 있습니다. 사용자가 앱을 닫은 후에도 장시간 작업을 지속할 수 있으며, 사용자가 이전에 이야기한 내용을 기억하고 나중에 제안에 반영할 수 있습니다. 실제로 Muse 소개 시에는 “인스타그램에서 저장한 요리를 기반으로 장보기 목록을 만들고 친구의 식단 제한까지 기억하여 저녁 파티를 준비한다”는 예시가 등장했습니다. 메타는 이메일 전송 및 여행 예약까지 해주는 개인 AI “Muse”를 발표했으며, 전용 VM(가상 머신)과 감시 AI “Sentinel”로 안전 조치를 취합니다 - GIGAZINE. 억(만) = 조(조).
독립적인 AI 안전·보안 연구가인 카란·조시 氏はMuse의 일반적인 채팅 화면을 사용하여 Muse 스스로 내부 파일을 복사하고 공유하도록 유도하여 대량의 동작 지시 및 시스템 프롬프트를 추출했다고 합니다. 조시 氏は 추출한 내용을 WIRED에 제공했습니다. 조시 氏가 추출한 내부 지시에는 “사용자의 삶에 등장하는 모든 인물에 대해 페이지를 생성하는” 지시가 포함되어 있었습니다. 대상에는 가족, 파트너, 친구, 동료, 공동 작업자뿐만 아니라 사용자가 팔로우하는 인물도 포함되며, 인물 페이지를 업데이트하는 처리는 1시간마다 실행된다고 명시되어 있습니다.
사람 페이지는 처음부터 상세한 프로필이 완성된 것은 아니며, 입수된 정보에 따라 조금씩 내용을 늘려가는 설계로 되어 있습니다. 내부 지시에는 “Facts(사실)”, “History(역사)”, “The relationship(관계성)”, “In common(공통점)”, “Open threads(지속 중인 화제)”, “Strengthening(관계를 깊게 만드는 방법)”와 같은 항목이 제시되었습니다. Muse에는 근거 있는 정보만 사용하고, 항목을 비어 둘 것보다 허구의 정보를 만드는 것이 문제라는 지시도 포함되는군요. 일반적인 프로필 정보에 더하여 이사나 함께 세운 저축 목표 등 반복적으로 논의되는 사건, 생일이나 기념일과 같은 중요한 날짜, 과거 여행, 해결된 말싸움, 최근의 이정표가 되는 사건 등도 사람 페이지에 추가될 수 있습니다.
더욱 “관계성”에서는 상대방과의 친밀함이나 어떤 연결고리를 통해 이루어지고 있는지, 평소에 어떻게 대하는지 등의 정보를 정리합니다. “관계 강화 방법”에서는 전화를 걸 기회, 기억해야 할 날짜, 추후 다시 확인해야 할 주제 등 관계를 좋게 하기 위한 행동까지 제안하는 기능이 포함되어 있다고 합니다. 메타의 홍보 담당자 다니엘 로버츠는 AI 에이전트가 사용자의 목적을 달성하기 위해서는 본인이나 주변 인물에 대한 배경 정보가 필요하다고 언급했습니다. 뮤즈는 공개 정보와 사용자 스스로가 공유한 정보를 기반으로, 예를 들어 “청구서를 보내온 사람이 이전 목욕탕 공사를 의뢰했던 배관공이었다”와 “배우자가 좋아했던 꽃”을 기억하거나 “배우자가 좋아한다고 했던 꽃”을 떠올릴 수 있다고 설명합니다. 참고로, 뮤즈를 둘러싸고는 이전에도, 허락하지 않은 메시지를 읽어낸다는 지적이나 Facebook Marketplace에서 상품 판매를 맡긴 결과 구매 희망자에게 사용자의 집 주소를 전달한 사례가 보도된 바 있습니다. 뮤즈와 같은 AI 에이전트는 생활에 관한 정보에 대한 접근이 증가할수록 많은 작업을 처리할 수 있지만, 문제 발생을 피하기 위해 어느 정도 접근을 허용할 것인지의 균형이 과제가 될 것으로 보입니다. 메타의 AI “뮤즈”에 Facebook Marketplace 대응을 맡기면 무지개 가격으로 할인되고 집 주소가 공개되는 상황에 처할 수 있으며, 구매자가 집으로 오는 상황이 발생할 수도 있습니다.
원문 보기 | 출처: Gigazine