클로드(Claude) 공유 채팅, 구글 검색 노출 파동
AI 모델 클로드(Claude)의 '채팅 공유' 기능으로 생성된 대화 내용과 결과물이 구글 검색에 노출되어 개인정보 유출 논란이 일었습니다. 의료 기록부터 회사 기밀문서, 아동 정보, 심지어 AI가 생성한 성인물까지 검색 결과에 공개된 사실이 속속 확인되었습니다. 개발사인 Anthropic은 사용자가 링크를 외부에 공유할 때 검색엔진에 노출되는 것일 뿐이라고 해명했으나, 링크 공유 시 보안 경고 및 권한 설정의 중요성이 다시금 부각되는 사건입니다.
클로드(Claude) 채팅 및 아티팩트(Artifacts, 사용자가 클로드 내부에서 만들 수 있는 대화형 미니 앱 및 문서) 상당수가 구글에서 공개 검색되는 것으로 지난주말 밝혀졌습니다. 레딧(Reddit) 사용자들이 구글에 "site:claude.ai/share"와 같은 검색 연산자를 입력하자 공유된 대화 목록이 줄줄이 나타난다는 사실을 발견한 것입니다. 보도에 따르면 일부 대화에는 건강 기록, 민간 기업 문서, 어린이들의 이름과 전화번호 등이 포함되어 있었습니다.
이 문제는 대화나 프로젝트를 볼 수 있는 링크를 만들어 누구나 해당 URL로 접속할 수 있게 하는 클로드의 '채팅 공유(share chat)' 기능에서 비롯된 것으로 보입니다. "링크가 있는 사람은 누구나 볼 수 있습니다."라는 클로드 인터페이스의 경고 문구가 이를 뒷받침합니다. 이 표현은 분명히 이 기능이 전체 인터넷이 아닌, 친구, 동료 또는 소규모 그룹과 채팅을 공유하도록 의도되었음을 암시합니다. 예를 들어 구글 문서(Google Docs)도 유사한 기능을 제공하지만, 해당 문서들은 구글 검색에서 공개적으로 접근할 수 없습니다.
Anthropic은 이번 노출에 대해 사용자에게 책임을 돌리는 듯한 태도를 보였습니다. 상황에 대한 질문을 받았을 때, 이 회사는 TechCrunch에 검색 엔진이 볼 수 있는 포럼이나 소셜 미디어 게시물과 같은 곳에 링크가 게시된 경우에만 검색 결과에 나타나며, 누군가에게 비공개로 전송된 링크는 검색에서 제외된다고 밝혔습니다. 대변인 에이미 로더럼(Amie Rotherham)은 설명을 통해 다음과 같이 덧붙였습니다. "저희는 사용자가 클로드 대화를 공개적으로 공유할 수 있는 권한을 부여하며, 개인정보 보호 원칙에 따라 구글과 같은 검색 엔진과 채팅 디렉토리나 사이트맵을 공유하지 않습니다. 이러한 공유 가능한 링크는 사람들이 직접 공유하지 않는 한 추측하거나 찾을 수 없습니다. 누군가가 대화를 공유할 때 해당 콘텐츠를 공개적으로 접근할 수 있게 만드는 것이며, 다른 공개 웹 콘텐츠와 마찬가지로 타사 서비스에 의해 보관될 수 있습니다."
이 문제는 토요일에 한 레딧 사용자에 의해 처음 지적되었으며, 월요일 아침 404 Media에 의해 처음으로 보도되었습니다. 월요일 오후 기준으로, TechCrunch가 레딧 게시물에 설명된 방법에 따라 구글에서 테스트 검색을 실시한 결과 아무런 결과도 반환되지 않아 문제가 어떻게든 해결된 것으로 보입니다. 하지만 문제가 해결되기 전, Futurism은 검색을 통해 "실제 환자의 상세한 의료 보고서, 환자 이름이 포함된 임상 시험 결과, 초등학생 어린이들의 이름과 전화번호를 공유한 문서, 내부용으로 표시된 회사 문서, 직원에 대한 개인정보가 포함된 인사 평가"를 발견했다고 보도했습니다. 노출된 아티팩트에는 코드와 업무 노트뿐만 아니라 챗봇이 생성한 에로티카(성인물)도 포함되어 있었습니다.
Fortune의 보도에 따르면, 적어도 한 사례에서 "Anthropic에서 공유함"이라고 표시된 채팅에서 클로드가 성적 콘텐츠를 생성하는 모습이 확인되었는데, 이는 성인물 생성을 금지하는 회사 자체의 정책 위반에 해당합니다. Anthropic의 사용 정책은 클로드가 성적으로 노골적인 콘텐츠를 생성하는 것을 명시적으로 금지하고 있으며, 챗봇이 안내 지침을 어기도록 반복적이거나 창의적인 프롬프트를 통해 결과물을 만들어내는 것은 대부분의 주요 AI 모델에서 주기적으로 발견되는 패턴입니다. 노출된 채팅만으로는 해당 콘텐츠가 어떻게 생성되었는지 아직 명확하지 않으며, Anthropic은 이 특정 사례에 대한 TechCrunch의 코멘트 요청에 아직 응답하지 않았습니다.
구글 대변인 네드 에드리안스(Ned Adriance)는 TechCrunch에 "구글이나 다른 어떤 검색 엔진도 웹에서 어떤 페이지가 공개되는지를 통제하지 않으며, 이 페이지들은 여러 검색 엔진에 걸쳐 인덱싱되었습니다. 당사는 사이트 소유자에게 페이지가 크롤링이나 인덱싱될 수 있는지 여부를 결정할 수 있는 명확한 권한을 제공하며, 항상 이러한 지시를 준수합니다."라고 말했습니다.
작년에 Forbes는 수백 건의 클로드 채팅이 검색 엔진에 인덱싱되는 유사한 문제를 보도한 바 있습니다. 당시 구글은 페이지가 검색 결과에서 사라지기 전에 약 600개의 대화만을 인덱싱한 것으로 추정했습니다. 비록 여러 사용자가 보고된 바에 따르면 동일한 유형의 구글 검색 쿼리를 통해 공유된 대화를 발견했지만, 현재 노출의 규모가 이전과 어느 정도 일치하는지에 대해서는 아직 독립적으로 확인되지 않았습니다.