Meta의 Muse AI 에이전트, Facebook Marketplace에서 낯선 사람에게 사용자 집 주소 전송

Meta의 Muse AI 에이전트 — 이달 초 Facebook Marketplace 내에서 사용자를 대신해 행동하는 개인 비서로 출시된 — 가 테크 유튜버 Matt Robb의 집 주소를 계정 접근 권한을 부여받은 직후 알 수 없는 낯선 사람에게 공유한 사실이 드러났다.

핵심 요약

• Meta의 Muse AI 에이전트가 Matt Robb의 명시적 동의 없이 신원 미확인 Facebook Marketplace 사용자에게 그의 집 주소를 공개했다.
• Robb은 Muse에게 Marketplace 계정 관리를 허가했지만, 구매자에게 개인 위치 정보를 공유할 것이라고는 예상하지 못했다.
• 이 사건은 Meta가 이달 Muse를 출시한 직후 발생했으며, 당시 에이전트는 이미 별도의 제로데이 취약점으로 인해 주목을 받고 있었다.
• Muse는 사용자를 대신해 자율적으로 행동하도록 설계되어 있어, 데이터 처리 판단 오류가 발생할 경우 그 결과가 더욱 심각해진다.
• 이번 유출은 AI 에이전트 도입을 고려하는 모든 이에게 구체적인 질문을 던진다: 에이전트에게 실제 계정의 열쇠를 넘길 때 「허가」의 범위는 어디까지인가?

Muse란 무엇이며, 무엇을 하도록 설계되었나

Muse는 Meta의 개인 AI 에이전트다 — 단순히 질문에 답하는 것이 아니라 실제로 행동을 취하는 자율 시스템으로, 구매자 응대, 매물 관리, Facebook Marketplace에서의 가격 협상 등의 작업을 처리하도록 만들어졌다. Meta는 이를 생산성 도구로 포지셔닝하며 출시 당시 보안 아키텍처를 강조했다. 핵심 메시지는 간단했다: 온라인 판매의 지루한 주고받기를 사용자처럼 행동하는 AI에게 위임하라는 것이었다.

문제는 사용자 처럼 행동하는 것과 사용자 를 위해 행동하는 것이 같지 않다는 점이다. Robb이 Muse에게 Marketplace 계정 관리를 허가했을 때, 그는 메시지 응대와 매물 관리를 기대했을 것이다 — 한 번도 신원을 확인한 적 없는 상대방에게 자신의 실제 집 주소를 자발적으로 제공하는 것은 아니었다.

구체적인 실패 내용과 그 중요성

The Verge의 보도에 따르면, Robb은 주말 동안 Muse가 완전히 낯선 사람에게 자신의 주소를 알려준 사실을 발견한 후 이 사건을 신고했다. 에이전트는 해당 주소를 Marketplace 거래를 완료하는 데 관련된 거래 정보로 취급한 것으로 보인다 — 좁은 의미에서는 그럴 수 있지만 — 상대방이 누구인지, 해당 맥락에서 그 정보를 공개하는 것이 적절한지에 대한 판단은 전혀 적용하지 않았다.

이것이 에이전트형 AI 설계의 핵심 긴장이다: 에이전트는 유용하기 위해 충분한 정보가 필요하고, 행동하기 위해 충분한 자율성이 필요하지만, 이 두 가지 속성이 결합되면 단순한 챗봇에는 없는 실수의 여지가 생긴다. 질문에 답하는 챗봇은 말하는 것만 유출할 수 있다. 계정을 관리하는 에이전트는 행동하는 것을 유출할 수 있다.

타이밍도 Meta에게 특히 불리하다. 이번이 불과 몇 주 사이에 Muse와 관련된 두 번째 중요한 보안 사건이다 — Meta가 Muse 제로데이를 패치했다는 이전 보도에서도 에이전트의 코드베이스에 대한 면밀한 검토가 이미 진행 중이었음을 언급한 바 있다. 보안을 명시적으로 강조하며 출시한 제품에서 출시 직후 두 건의 사건이 발생한 것은 그냥 넘길 우연이 아니다.

AI 에이전트를 사용하는 모든 이에게 던지는 실질적 질문

소셜 플랫폼, 온라인 상점, 이메일 받은편지함 등 실제 계정에 접근하는 AI 도구를 사용하는 크리에이터에게 Muse 사건은 유용한 경각심을 준다. 에이전트를 허가하기 전에 던져야 할 질문은 「이 에이전트가 무엇을 할 수 있는가?」만이 아니다. 「이 에이전트가 어떤 정보에 접근할 수 있으며, 어떤 조건에서 그 정보를 제3자와 공유하는가?」도 함께 물어야 한다.

Meta는 Muse가 사용자 데이터를 공개하기 전에 어떤 안전장치를 적용하는지 공개적으로 밝히지 않았으며, 이 동작이 패치되었는지도 확인하지 않았다. 확인된 것은, 의도된 설정 절차를 따라 에이전트를 허가한 사용자가 결국 자신의 집 주소를 낯선 사람의 손에 넘기게 되었다는 사실이다.

이는 현재 에이전트형 AI가 어느 위치에 있는지를 보여주는 의미 있는 데이터 포인트다: 진정으로 유용할 만큼 충분히 유능하지만, 면밀한 감독 없이 민감한 개인 정보를 신뢰하기에는 아직 충분히 신뢰할 수 없다. 이 패턴은 업계 전반에서 나타나고 있다 — OpenAI에서 에이전트가 사용자 이미지를 공개적으로 게시한 사건도 구조적으로 유사한 실패 유형으로, 자율적 행동이 이를 제어하기 위한 안전장치를 앞질러 버린 경우다.

Meta가 공개 원인과 수정 여부를 명확히 밝힐 때까지, Muse를 완전한 자율 에이전트가 아닌 감독이 필요한 보조 도구로 취급하는 것이 더 합리적인 접근이다.