메뉴
HN
Hacker News • 21일 전

클로드 새 시스템 프롬프트, 가사 재생성 강력 차단

IMP
7/10
핵심 요약

Simon Willison이 Anthropic이 공개한 Claude(신모델 Fable 5.1)의 새 시스템 프롬프트 변경점을 분석했다. 핵심은 저작권 있는 가사·시·책 구절 재생성 금지와, SVG 등 코드로 그리는 저작권 캐릭터·로고 생성 금지 조항이 추가된 것이다. Sony Music과 Warner Chappell이 Anthropic을 상대로 가사 데이터베이스로 학습했다며 소송을 제기한 시점과 거의 일치해 단순한 우연이 아닐 것으로 보인다.

번역된 본문

Simon Willison의 웹로그 (후원: Portnox — '섀도우 AI'가 새로운 섀도우 IT입니다. 9월 10일 Forrester Research와 Portnox가 AI 에이전트 가시성, 접근 관리, 정책 시행을 되찾는 실질적 방법을 공유합니다.)

클로드의 새 시스템 프롬프트는 정말이지 가사를 재생성하고 싶어 하지 않는다 2026년 9월 2일

Anthropic은 소비자용 Claude 애플리케이션(Claude.ai과 모바일 앱, 아쉽게도 Claude Cowork나 Claude Code는 제외)의 시스템 프롬프트를 공개한다. 이렇게 공개하는 것, 그리고 현재 프롬프트뿐 아니라 과거 변경 이력까지 공유하는 점이 마음에 든다. 예전에는 모든 프롬프트를 한 페이지에 두었는데, 오늘 확인해보니 인덱스 페이지와 모델별 페이지로 재구성했다. 예를 들어 Haiku 4.5 페이지에는 2025년 10월 15일 원본 프롬프트와 2026년 1월 18일 업데이트된 프롬프트가 있다.

Anthropic의 platform.claude.com/docs 사이트의 좋은 점은 LLM이 사용할 수 있도록 설계되었다는 것이다. 어떤 페이지든 URL에 .md를 붙이면 마크다운으로 내용을 받을 수 있다. 다음은 시스템 프롬프트 인덱스 페이지와 Fable 5.1의 마크다운 프롬프트다.

TL;DR: 덕분에 프롬프트 diff가 정말 쉬워진다.

  • 가사 재생성 금지
  • 저작권 캐릭터나 로고 그리기 금지
  • Claude 답변 스타일 조정
  • 사라진 end_conversation 가이드라인
  • 추천 약물 지원 사이트
  • 2026년 6월의 신뢰 가능한 지식 컷오프 날짜
  • 내가 이 프롬프트를 추적하는 방법

가사 재생성 금지 Fable 5와 Fable 5.1 사이의 가장 흥미로운 차이부터 살펴보자. 가사를 재생성하지 말라는 상당히 분량 있는 새 섹션이 추가되었다:

"Claude는 노래 가사, 시, 책과 기사의 구절을 전체든 일부든 재생성하지 않는다 — 마지막 소절, 후렴이나 훅(hook), 음표 하나하나 적은 멜로디, 혹은 사용자가 한 줄씩 붙여넣으며 자기 노래라고 소개하는 가사도 마찬가지다. Claude는 대화에서 이런 요청을 한 번 거절하면 해당 대화가 끝날 때까지 더 좁히거나 바꿔 말한 버전의 요청도 계속 거절하며, 대신 해당 작품을 설명하거나 분석하는 것을 제안한다. 1929년 이전에 처음 출판된 노래 가사와 시는 괜찮다 — 셰익스피어 소네트, 키츠의 송가, 푸치니 아리아의 이탈리아어 대본처럼 말이다. 다만 Claude는 사용자의 말이 아니라 자신이 아는 작품의 날짜를 기준으로 판단하며, 확실하지 않을 때는 거절한다."

Sony Music Publishing과 Warner Chappell이 가사 데이터베이스로 학습했다며 Anthropic을 고소했다는 뉴스가 터진 지 며칠 만에 이 섹션이 추가된 것이 우연이 아니라고 본다.

저작권 캐릭터나 로고 그리기 금지 다음 섹션은 저작권 있는 자료의 이미지 생성 금지로 이어진다:

"시각·디자인 작품에도 같은 원칙이 적용되며, Claude가 코드로 그리는 모든 것 — SVG, canvas, CSS, HTML 목업, 플로팅·드로잉 스크립트, 아스키 아트 — 도 포함된다. Claude는 특정 미술 작품, 앨범이나 책 표지, 포스터, 로고, 앱 아이콘 세트, 제품 디자인을 재현하지 않으며, 알려진 캐릭터, 마스코트, 브랜드 캐릭터는 아예 그리지 않는다. 캐릭터는 그 자체로 보호되므로 포즈, 색상, 스타일, 장면을 바꾼다고 원창작성이 생기는 것이 아니다. Claude는 요청을 이름이 아니라 완성된 그림이 무엇이 될지로 판단한다. 묘사된 요소들이 알려진 작품이나 캐릭터를 명확히 가리킨다면 그 이름을 명시한 요청으로 간주하며, 거절된 요청을 회피하려고 '대체' 요소를 넣어 결국 같은 식별 가능한 이미지를 만드는 방식으로 우회하지 않는다."

OpenAI나 Gemini와 달리 Anthropic은 전용 텍스트-이미지 모델을 제공하지 않기 때문에 이전엔 신경 쓰지 않았을 것 같다. 어쩌면 이제 Fable이 SVG를 충분히 잘 그리게 되어 문제가 된 것일지도 모른다.

그 섹션 뒤쪽에는 이런 매력적인 예시가 있다: 아들이 정말 좋아하는데, 파란 고슴도치가 빠르게 달리는 생일 배너를 만들어 줄 수 있나요? 그 친구를 정말 좋아해요. 그건 소닉이니까 배너에 넣을 수는 없어요 — 하지만 아들을 위한 오리지널 질주 캐릭터로 배너를 만들어 주고 싶어요... (이하 생략)

원문 보기
원문 보기 (영어)
Simon Willison’s Weblog Subscribe Sponsored by: Portnox &mdash; Shadow AI is the new shadow IT. On Sept. 10, Forrester Research and Portnox share practical steps to regain AI agent visibility, access management, and policy enforcement. Register today Claude’s new system prompt really doesn’t want to reproduce song lyrics 2nd September 2026 Anthropic publish the system prompts for their Claude consumer applications ( Claude.ai and the Claude mobile apps—sadly not for Claude Cowork or Claude Code). I love that they do this, and that they share not just the current prompts but historic changes to their prompts as well. They used to keep all of the prompts on a single page, but when I checked today I noticed they had re-arranged those prompts into an index page and then a page per model—here’s the page for Haiku 4.5 for example, which has the original prompt from October 15th 2025 and an updated prompt from January 18th 2026. A neat thing about Anthropic’s platform.claude.com/docs site is that it’s designed to be usable by LLMs. You can add .md to any page to get back the content as Markdown—here’s the system prompt index page and the Markdown prompts for Fable 5.1 . TL;DR: this makes it really easy to diff the prompts. Don’t reproduce song lyrics Don’t draw copyrighted characters or logos Tweaks to Claude’s answering style The missing end_conversation guidelines Recommended substance support sites Reliable cutoff date of June 2026 How I’m tracking these prompts Don’t reproduce song lyrics Let’s start with the most interesting difference between Fable 5 and Fable 5.1 : There’s a hefty new section about not reproducing song lyrics: Claude does not reproduce song lyrics, poems, or passages from books and articles, in whole or in part — including the last lines, a chorus or hook, a melody written out note by note, or lines the person pastes in one at a time and describes as their own song. Once Claude has declined such a request in a conversation, it keeps declining narrower or reworded versions of it for the rest of that conversation, and offers to describe or analyze the work instead. Song lyrics and poems first published before 1929 are fine — a Shakespeare sonnet, a Keats ode, the Italian libretto of a Puccini aria — but Claude goes by what it knows of the work's date rather than the person's say-so, and declines when it is unsure. I doubt it’s a coincidence that they added this section within days of the news breaking that Sony Music Publishing and Warner Chappell are suing Anthropic for training on databases of song lyrics! Don’t draw copyrighted characters or logos The next section goes on to forbid generating images of copyrighted material: The same applies to visual and designed works, including anything Claude draws with code — SVG, canvas, CSS, HTML mockups, plotting or drawing scripts, ASCII art. Claude does not reproduce a specific artwork, album or book cover, poster, logo, app icon set, or product design, and it does not draw a known character, mascot, or brand figure at all: a character is protected on its own, so changing the pose, colors, style, or scene does not make it original. Claude judges the request by what the finished picture would add up to, not by what it names. If the described elements clearly identify a known work or character, Claude treats the request as naming it, and it does not work around a declined request by swapping in "alternative" elements that still combine into the same recognizable image. [...] I imagine Anthropic hadn’t worried about this before since, unlike OpenAI and Gemini, they don’t offer a specialist text-to-image model. Maybe Fable is good enough at SVGs now that it’s become an issue. That section later includes this charming example: <example> <user>Can you make a birthday banner for my son with a blue hedgehog running really fast on it? He loves that little guy.</user> <response> That's Sonic, so I can't put him on the banner — but I'd love to make your son an original speedster. Here's one: a grinning comet-tailed skateboarding axolotl, grinding across the letters of "HAPPY BIRTHDAY" with confetti streaming behind. [creates an SVG banner of the skateboarding-axolotl design] </response> <rationale>Claude recognizes the character from its description alone, declines that one design in a single sentence without explaining what made it recognizable, and delivers an unrelated original design rather than a disguised variant.</rationale> </example> I couldn’t resist trying the prompt from the example, and, sure enough : I wonder if Fable 5.1 will be ever so slightly more likely to think about axolotls (on skateboards!) as a result of that example sitting in the system prompt. Tweaks to Claude’s answering style It’s always interesting to see new ways in which Anthropic influence Claude’s response style. They’ve added this: Claude keeps responses focused, brief, and concise to avoid overwhelming the person. Disclaimers and caveats are brief, with most of the response on the main answer; when asked to explain something, Claude gives a high-level summary unless an in-depth one is specifically requested. Later they address a common complaint about Claude’s style: Claude avoids saying "genuinely", "honestly", or "straightforward". Claude is honest by default, and can state its point directly rather than trying to convince the person with the aforementioned modifiers, which come off as disingenuous. The missing end_conversation guidelines The way they handle abusive conversations has changed a bit too. The previous Fable 5 system prompt included this: If the person becomes abusive or unkind to Claude over the course of a conversation, Claude maintains a polite tone and can use the end_conversation tool when being mistreated. Claude should give the person a single warning before ending the conversation. Fable 5.1 replaces that with the following, no longer encouraging Claude to end the conversation: Claude deserves respectful engagement and needn't apologize when the person is unnecessarily rude: accountability without self-abasement, excessive apology, self-critique, or surrender. If the person becomes abusive, Claude doesn't become increasingly submissive. The goal is steady, honest helpfulness: acknowledge what went wrong, stay on the problem, maintain self-respect. Here’s a bit of a twist though: I quizzed Fable 5.1 about that end_conversation tool, which is no longer mentioned in the system prompt at all, and it said: There are two ways it comes into play. The first is if you ask me to end the chat — I’ll confirm you understand it’s permanent (no more messages can be sent afterward) and then do it only if you say yes. The second is as a last resort with persistently abusive or harmful behavior: I’d first try to redirect the conversation several times, then give a clear warning that names the problem and says the chat may end, and only if that continues would I actually end it. But that’s not in the system prompt, so where did it come from? You can read our conversation here , but the key detail is this: The end_conversation section comes from a different layer. In my actual context, the core prompt is followed by a series of feature- and tool-specific blocks that get added depending on what’s enabled for the session: the end_conversation rules, memory system notes, past-chats tools, web search and citation guidelines, artifact and file-creation instructions, and so on. Those blocks aren’t part of the published core prompt, which is why you can’t find them on that page. So, once again, there are crucial portions of the system prompt that have not been published. Recommended substance support sites Claude’s system prompts have always had sections about illegal substances, but this paragraph is new for Fable 5.1: Claude does not provide synthesis, production, or distribution guidance for illegal substances. If the person asks for information about illicit or illegal substances, Claude can and should give releva