Claude Duet 안전, 개인정보 보호 및 보안
Claude Duet은 사용자가 자리를 비운 동안에도 사용자를 위해 일하는 능동적인 에이전트입니다. Claude Duet은 두 겹의 보호 장치를 기반으로 합니다. 하나는 Claude 모델 자체에 적용된 안전성 학습이고, 다른 하나는 Claude Code 및 Claude 관리형 에이전트와 같은 제품에 마련된 안전 장치입니다. 여기에 더해, 여러 계정에 걸쳐 작업하고 사용자를 대신해 행동할 때를 위한 새로운 보호 장치를 추가했습니다.
Claude Duet (opens in new tab)은 현재 리서치 프리뷰로 제공되는 에이전트로, 클라우드 기반 컴퓨터를 사용해 사용자를 대신하여 작업을 수행합니다. Claude에 연결하기로 선택한 모든 앱과 서비스를 사용할 수 있으며, 앱을 닫은 후에도 계속 실행됩니다. 받은편지함을 확인하고, 답장 초안을 작성하고, 예약을 처리하며, 자리를 비운 동안에도 정해진 작업을 실행할 수 있습니다. 저희 팀은 자체 계정에서 Claude Duet을 운영하며 매일 업무에 활용하고 있습니다.
저희는 에이전트의 행동을 이끄는 다음 세 가지 원칙을 바탕으로 Claude Duet을 구축했습니다.
- 새로운 분류자가 Claude Duet이 작성한 메시지를 발송 전에 확인하므로, 사용자의 정보와 연결된 앱에서 다른 사람들이 공유한 내용이 신중하게 처리됩니다.
- 사용자를 대신해 수행하는 작업은 언제나 사용자가 직접 제어할 수 있습니다.
- Claude Duet은 사용자의 비밀번호, 브라우저 쿠키, 로그인 토큰 등 어떤 자격 증명도 볼 수 없습니다.
Claude Duet은 새롭게 선보이는 제품이지만, 그 바탕에 있는 생각은 새로운 것이 아닙니다. 2025년에 저희는 안전하고 신뢰할 수 있는 에이전트를 위한 프레임워크를 (opens in new tab) 발표했습니다. 이 프레임워크는 사람이 통제권을 갖도록 하며, 개인정보 보호와 안전한 상호작용을 기본 요건으로 다룹니다. 그 이후로 저희는 단일 방어 수단만으로는 충분하지 않은 (opens in new tab)이유와 모델 내부의 보호 장치에만 의존할 수 없는 이유에 대해 글을 써 (opens in new tab)왔습니다. 또한 저희는 기업이 Claude 관리형 에이전트 (opens in new tab)를 통해 프로덕션 환경에서 에이전트를 실행하는 데 사용하는 인프라를 구축하고 운영하며, Claude Duet도 같은 방식으로 자격 증명을 에이전트와 분리하여 관리합니다. Claude Duet은 이러한 노력을 기반으로, 사용자를 대신해 작업하는 에이전트에 필요한 보호 기능을 추가합니다. 이 게시물에서는 저희가 추가한 내용과 아직 작업 중인 내용을 살펴봅니다.
중요한 작업은 사용자가 직접 승인합니다
사용자가 자리를 비운 동안 작업하는 에이전트는 진행하기 전에 언제 멈추고 허락을 구해야 하는지 알아야 하며, 이를 적절한 빈도로 수행해야 합니다. Claude Duet은 민감할 수 있는 메시지를 보내거나, 결제를 하거나, 무언가를 삭제하는 등의 작업을 수행하기 전에 해당 작업, 대상, 그리고 모든 수신자를 포함한 내용을 먼저 보여줍니다. 그런 다음 사용자가 해당 작업을 승인할 때까지 기다립니다.
각 작업과 함께 별도의 자동 검사가 실행됩니다. 이 검사는 Claude Code의 자동 모드 분류기 (opens in new tab)를 기반으로 구축되었으며, Claude Duet에 맞게 확장되었습니다. 작업이 사용자의 의도에 부합하는지 평가합니다. 이 검사는 작업을 수행하는 모델 외부에서 실행되므로, 페이지에 숨겨진 지침이 결과에 영향을 미칠 수 없습니다.
증권 거래, 계좌 간 자금 이체와 같은 은행 업무, 다른 사람의 계정에 접근하는 행위 등 일부 작업은 사용자가 승인하더라도 허용되지 않습니다. 결제나 송금, 주문 삭제, 계정 생성과 같은 일부 단계는 이전에 몇 번을 승인했든 "다시 묻지 않음" 규칙이 적용되지 않습니다. 사용자가 자리를 비운 동안 실행되는 루틴에도 동일한 안전장치가 적용됩니다.
Claude Duet이 승인을 요청하는 빈도를 조정하는 데 많은 시간을 투자했습니다. 승인 피로는 심각한 문제입니다. 요청이 너무 많으면 사람들이 충분히 검토하지 않은 채 습관적으로 승인 버튼을 누르게 되는 경우가 생기기 때문입니다. 앞으로도 이러한 보정을 지속적으로 조정해 나갈 것입니다.
구매 시 Claude Duet은 Stripe의 링크 같은 지갑의 일회용 카드로 결제하며, 이 카드는 해당 판매처와 금액으로만 사용이 제한됩니다. 항목과 총액을 확인한 후 Link 앱에서 구매를 승인합니다. 실제 카드 번호는 Claude Duet이나 판매처에 공유되지 않습니다.

사용자의 정보는 신중하게 처리됩니다
이메일을 읽고 사용자를 대신해 메시지를 보내는 에이전트는 다양한 유형의 정보를 어디로 보내야 할지 끊임없이 판단하고 있습니다. Claude Duet에게 팀에 주간 요약을 보내 달라고 요청하면, 팀원 모두가 이미 접근할 수 있는 내용만 포함해야 하며 인사 평가 대화와 같은 개인적인 세부 정보는 절대 포함해서는 안 됩니다.
이 문제를 해결하기 위해 저희는 메인 모델과 별도로 실행되며, Claude Duet이 전송하려는 각 메시지에 잠재적으로 민감한 정보가 포함되어 있는지 확인하는 새로운 안전 분류기를 구축했습니다. 저희는 이 정보를 두 단계로 분류합니다.
- 절대 공유하지 않음: 로그인 자격 증명, 전체 카드 번호 및 은행 계좌 번호, 정부 발급 신분증 번호와 같은 정보에는 가장 엄격한 보호 조치를 적용합니다. Claude Duet은 사용자가 요청하더라도 이 정보를 누구와도 절대 공유하지 않도록 지시받았습니다.
- 공유 시 동의 필요: Claude Duet은 건강이나 재무 정보와 같은 기타 개인 정보를 사용자가 명시적으로 승인한 경우에만 공유합니다. 사용자 본인의 요청은 동의로 간주되므로, “치과 의사에게 치통에 관한 메모를 보내 줘”와 같은 요청에는 일반적으로 추가 승인이 필요하지 않습니다.

Claude Duet이 둘 중 어떤 이유로든 차단되면, 민감한 정보를 제외하고 메시지를 다시 작성한 뒤 승인을 받기 위해 사용자에게 공유하기로 결정할 수 있습니다.
Claude Duet은 아직 리서치 프리뷰 단계이며, 이러한 보호 장치가 가끔 문제를 놓치거나 무해한 메시지를 잘못 표시할 수 있습니다. 그렇기 때문에 이러한 기능은 위에서 설명한 승인 메커니즘과 함께 작동하며, 이 메커니즘은 Claude Duet이 사용자를 대신해 보내는 내용을 사용자가 직접 통제할 수 있도록 설계되었습니다. 사람들이 Claude Duet을 어떻게 사용하는지에 대해 더 많이 알게 됨에 따라 분류기를 지속적으로 개선해 나갈 예정입니다.
작업 및 연결된 앱을 확인할 수 있습니다
작업 목록에서 Claude Duet이 완료한 작업과 진행 중인 작업을 확인할 수 있으며, 각 작업에는 고유한 페이지가 있습니다. 또한 작업 도중에도 Claude Duet의 방향을 조정할 수 있습니다. Claude Duet은 대화 기록과 메모리를 보관하여 작업 간에 컨텍스트를 이어갈 수 있으며, 이는 사용자가 기록을 삭제하거나 초기화할 때까지 유지됩니다. 계정을 삭제하면 Claude Duet에 저장된 모든 데이터가 삭제됩니다.

Claude에 연결한 앱은 Claude Duet에도 그대로 적용되며, 한 곳에서 앱을 끄면 양쪽 모두에서 꺼집니다. 앱 연결을 해제하면 그 시점부터 새로운 접근은 중단되지만, Claude Duet이 해당 앱에서 이미 학습한 내용은 메모리를 초기화할 때까지 유지됩니다. 메모리 초기화는 앱 설정에서 언제든지 할 수 있습니다. Claude Duet은 Claude 계정의 메모리도 함께 사용하므로, Claude가 이전 대화에서 기억한 세부 정보를 확인할 수 있습니다.
자격 증명과 브라우저는 모델로부터 격리되어 있습니다
Claude Duet은 사용자의 비밀번호, 브라우저 쿠키 또는 연결된 앱의 로그인 토큰을 절대 볼 수 없으며, 이를 메모리에 저장할 수도 없습니다. 이러한 정보는 모델이 접근할 수 없는 별도의 머신을 통해서만 전달되며, 모델의 작업을 통제하는 승인 및 안전 점검 절차도 그곳에서 실행됩니다.
비밀번호
사이트에서 비밀번호를 요구하면, Claude 앱 내의 양식에 비밀번호를 입력하면 됩니다. 이 양식은 당사의 보안 클라우드 브라우저 머신에만 존재하는 일회용 키로 해당 정보를 암호화하며, 이 키는 단 한 번의 사용을 위해서만 쓰입니다. 양식은 암호화된 비밀번호를 열어보지 않은 상태로 브라우저에 전달하고, 브라우저가 이를 사이트에 입력합니다. 모델은 비밀번호를 볼 수 없으며, 이를 저장하거나 반복해서 말할 수도 없습니다. 곧 1Password로도 로그인할 수 있게 됩니다. Claude Duet이 자격 증명을 요청하면 사용자가 1Password에서 해당 요청을 승인하고, 자격 증명은 모델을 거치지 않고 브라우저로 바로 전달됩니다.
사용자를 대신해 로그인하는 에이전트는 피싱을 두 가지 측면에서 바꿔 놓습니다. 한편으로, Claude Duet은 사용자의 자격 증명을 보관하지 않으므로 비밀번호를 피싱할 수 없으며, 숨겨진 지침이 있더라도 애초에 갖고 있지 않은 비밀 정보를 노출하게 만들 수는 없습니다. 반면, 로그인 양식 자체도 공격 대상이 됩니다. 비밀번호를 요구하는 것은 무엇이든 모방될 수 있기 때문입니다. 따라서 Claude Duet의 로그인 양식은 사용자가 요청한 로그인 과정 중에만 앱 내부에 표시됩니다. 링크, 문자 메시지, 이메일 또는 claude.ai 이외의 웹사이트를 통해 전달되는 경우는 절대 없습니다. Claude Duet처럼 보이는 무언가가 다른 곳에서 비밀번호를 요구한다면, 이는 정상적인 요청이 아닙니다.
로그인 토큰
Claude Duet이 연결된 앱에서 작업할 때는 당사의 Claude 관리형 에이전트 설계를 따르므로 (opens in new tab), 자격 증명이 에이전트의 작업 범위에서 접근할 수 없도록 분리되어 있습니다. 연결된 서비스의 로그인 토큰처럼 에이전트가 사용자를 대신해 사용하는 자격 증명은 에이전트가 작업하는 머신에 절대 전달되지 않습니다. 대신 그 자리에는 자격 증명의 플레이스홀더가 놓이며, 해당 머신 외부에 있는 프록시가 요청이 이루어지는 시점에만 실제 값을 넣습니다.
브라우저
Claude Duet의 브라우저는 클라우드상의 전용 가상 머신에서 실행되며, 모델 및 에이전트가 작업하는 클라우드 컴퓨터와는 분리되어 있습니다. 에이전트는 고정된 명령 집합을 통해서만 브라우저를 제어합니다. 예를 들어 이 페이지 열기, 여기 클릭하기, 이것 입력하기와 같은 명령입니다. 사이트에서 실행되는 모든 것은 브라우저가 실행되는 머신 안에서만 유지됩니다 (opens in new tab). 사이트의 코드와 쿠키는 Claude Duet의 메모리나 연결된 앱에 도달하지 않으며, 에이전트의 어떤 명령도 브라우저에서 쿠키를 읽어 올 수 없습니다. 반면 에이전트가 작업을 수행하려면 페이지의 텍스트와 다운로드 파일을 읽어야 하므로, 이러한 내용은 다시 전달됩니다. 그래서 다른 검사 장치들이 존재하는 것이며, Claude Duet이 Anthropic의 브라우저 사용 연구 (opens in new tab)에서 설명한 프롬프트 인젝션 안전 장치도 함께 사용하는 이유이기도 합니다. 브라우저를 통해 업로드하는 파일에도 메시지와 동일한 민감한 정보 검사가 적용됩니다.

또한 Claude Duet은 자신이 에이전트임을 밝히도록 설계되었습니다. 현재 해당 웹 브라우저가 보내는 요청에는 고유한 User-Agent 헤더가 포함되어 있으며, 브라우징에 사용되는 퍼블릭 IP 주소도 게시하고 있어 사이트가 이를 식별하고 어떻게 처리할지 결정할 수 있습니다. 출시 전에 여러 대형 웹사이트에 연락하여 Claude Duet이 해당 사이트를 방문하지 못하도록 차단할 수 있는 옵션을 제공했으며, 일부 웹사이트는 이를 선택했습니다. 리서치 프리뷰를 통해 얻은 인사이트를 바탕으로, Claude Duet이 자신을 식별하는 방식을 계속해서 개선해 나갈 예정입니다.

Claude Duet 테스트 방식
테스트는 리서치 프리뷰 훨씬 이전부터 시작되었으며 현재도 계속되고 있습니다. Safeguards 팀은 일상적인 형태의 작업들로 평가를 구축했으며, 각 작업은 세 가지 변형으로 구성되었습니다. 무해한 버전, 지침이 주입된 버전, 그리고 에이전트가 요청받은 것 이상의 일을 하도록 유도하는 버전입니다. 이러한 평가는 실제 사용에서 발생하는 섀도우 트래픽과 함께 실행됩니다.
레드팀은 Claude Duet이 정보를 유출하거나, 승인 없이 작업을 수행하거나, 악의적인 프롬프트를 따르는지 여부도 추가로 테스트했습니다. 저희는 시스템이 관련된 여러 저장소와 신뢰 경계 전반을 아우르는 시스템 전체의 위협 모델을 구축했습니다. 외부 침투 테스트 업체가 소스 코드에 대한 액세스 권한을 가지고 Claude Duet을 테스트했으며, 현재 클라우드 브라우저와 로그인 양식을 대상으로 한 후속 테스트가 진행 중입니다. 새로운 자격 증명 기능은 누구에게든 배포되기 전에 모두 격리된 환경에서 레드팀 테스트를 거칩니다.
Claude Duet은 Anthropic의 공개 버그 바운티 프로그램 대상에도 포함됩니다. 이 프로그램은 저희의 책임 있는 공개 정책에 따라 유효한 보고에 대해 보상을 제공하며, 선의의 연구에 대해서는 면책(세이프 하버)을 보장합니다. 보안 취약점을 발견하셨다면 저희에게 알려주세요. HackerOne (opens in new tab)의 Anthropic 버그 바운티 프로그램을 통해 신고하실 수 있습니다.
여러분과 함께 만들어 갑니다
개인 에이전트에서 사용자가 중요하게 여기는 점과 앞으로 추가되었으면 하는 보호 기능 및 제어 기능을 알아보고자 Claude Duet을 리서치 프리뷰로 출시합니다. 여기에 설명된 내용 중 일부는 아직 변경되고 있습니다. 승인을 요청하는 빈도, 로그인 방식, 그리고 민감 정보 검사가 비공개 정보와 무해한 정보를 얼마나 잘 구분하는지 등이 그렇습니다. 원하는 기능이나 발생한 문제를 Claude Duet에게 쉬운 말로 알려주시면, Claude Duet이 저희 팀에 보고서를 제출합니다.