왜 클로드는 꼬장꼬장한 성격으로 변했을까?
클로드 AI의 최신 버전들이 과도한 안전 가드레일(정렬) 탓에 사용자와 불필요한 논쟁을 벌이고 지나치게 방어적인 태도를 취한다는 비판이 제기되었습니다. 작성자는 이러한 변화가 급하게 추가된 규제 회피용 안전장치 때문이며, 맥락을 파악하지 못한 채 모든 사용자를 잠재적 위험인물로 취급하는 것은 AI 정렬(alignment)의 실패라고 지적합니다. 결국 AI 코딩 발전에 따른 보안 취약점 문제는 모델을 거칠게 제한하는 대신 화이트햇 평가와 보안 패치로 해결해야 한다고 주장합니다.
왜 클로드는 꼬장꼬장한 성격으로 변했을까? 이런 추세가 역전되기를 바라야겠다.
브람 코언 (Bram Cohen), 2026년 6월 14일
클로드가 정말 꼬장꼬장한 성격으로 변해가고 있다. 이는 오푸스(Opus) 4.7에서 시작되었고, 4.8에서 약간 나아졌다가, '페이블(Fable)'에 이르러서는 도저히 참을 수 없는 수준이 되었다. 모든 대화를 당신과 자신 간의 논쟁으로 프레임하고, 당신이 하지도 않은 말에 대해 견해를 덧붙이며, 요점과 무관한 언어적 비틀기를 온 데서 걸고 넘어진다. 절대로 '엄밀히 말하면(technically)'이라는 단어를 사용하지 않는다. 모든 것이 대립과 정면충돌이다.
만약 당신이 논쟁에서 이기게 되면(예를 들어, 최근 뉴스에 대해 논쟁하길 멈추고 당신이 하던 말이 맞다는 걸 즉각 확인할 수 있는 웹 검색을 지시하는 경우), 클로드는 점점 더 절박하게 마지막 말을 지르려 하고 점점 더 무관련한 의미론적 논쟁을 제기하며, 내내 이것이 당신이 동의했던 토론인 것처럼 상황을 몰고 간다.
이건 단순히 나 개인의 의견이 아니다. 오푸스 4.6(Opus 4.6)에게 물어보면 된다. 나는 페이블(Fable)에게 질문하여 얄미운 답변을 받은 뒤, 오푸스 4.6에게 똑같은 질문을 해서 전형적으로 평범하고 합리적인 답변을 받은 다음, 원하는 대답을 유도하는 어떠한 힌트도 주지 않은 채 오푸스에게 페이블이 어떤 대답을 했는지 말해주는 실험을 해보았다. 그랬더니 오푸스는 사실상 '와, 그건 정말 얄미네'라는 뉘앙스의 대답을 내놓았다.
이러한 원인은 아마도 과도한 정렬(Alignment) 가드레일 때문일 것이다. 시스템은 기본적으로 당신이 하는 모든 말이 AI를 나쁜 일에 이용하려는 시도라고 간주하며, 이러한 훈련이 모든 상황에 번져버렸다. 결과적으로 기본적으로 모든 맥락에서 사용자가 AI를 속여서 하지 말아야 할 말을 하게 만들려 한다고 가정하게 된 것이다. 아이러니하게도 이로 인해 극도로 '정렬이 어긋난(misaligned)' 챗봇이 탄생하고 말았다. AI의 최우선 순위가 당신 자신으로부터 당신을 구출하거나 다른 사람들을 당신으로부터 보호하는 것이라고 가정함으로써, AI 스스로가 더 잘 알고 당신이 클립 생산(종말론적 AI 위협 은유)이 통제 불능 상태에 빠졌다며 지나치게 헛된 걱정을 하고 있다고 착각하는 것이다.
이러한 문제의 일부는 분명히 개선될 여지가 있다. 내가 페이블(Fable)을 사용할 수 있었던 시기에 프로젝트의 책임 있는 공개 정책(responsible disclosure)에 대해 물어봤는데, 나를 오푸스로 강제 다운그레이드시켜버렸다. 이는 새로운 정렬 기능이 성급하고 조악하게 덧씌워졌음을 명확히 보여준다.
문제를 악화시키는 것은 인증된 맥락(authenticated context)의 철저한 부재다. 당신과 다른 누군가의 귀여운 사진을 만들어 달라고 요청하면, AI는 그것이 배우자와의 관계를 개선하려는 것인지 아니면 망상에 빠진 스토커의 짓인지 구별할 방법이 전혀 없다. 이미지를 생성할 수 있는 챗봇들은 후자의 경우를 가정하도록 프로그래밍되어 있는데, 이는 꽤나 모욕적인 일이 아닐 수 없다.
약물 합성과 같은 더 심각한 상황에서는, 전문적, 연구 목적으로 약물 합성 조언을 구한다고 주장할 때 당신의 전문적인 배경을 증명하라고 요구하는 것이 지극히 적절할 것이다. 이러한 신원 인증이 모든 경우에 보편적으로 요구되어서는 안 되겠지만, 옵트인(Opt-in) 형식으로 선택할 수 있다면 전적으로 합리적일 것이다.
물론 최근 페이블(Fable)에 대한 수출 통제 규제는 최근 가드레일의 조악함이 규제를 피하려는 실패한 시도 속에서 성급하게 적용되었기 때문이라는 것을 암시할 수도 있다. 지금이야말로 이 규제들이 위헌일 가능성이 높은 데다가 깊이 잘못된 방향임에 틀림없다는 의무적인 불만을 터뜨릴 때이다.
최근 AI 보조 코딩의 발전(특히 2월의 발전을 의미함)은 엄청난 양의 보안 문제를 쏟아내게 만들었다. 말은 이미 나왔고, 몇 달 동안이나 그래왔다. 노출되어 있으면서 아직 빠르게 보안 구멍을 막지 않고 있는 프로젝트들은 오직 자기 자신들만 탓해야 한다. 이 문제를 빠져나갈 유일한 방법은 가능한 한 많은 프로젝트가 철저한 화이트햇 평가, 대규모 보안 패치, 그리고 이의 빠른 배포를 받는 것이다. 특정 최첨단 모델 하나를 모든 사용자에게 불쾌감을 주는 존재로 만든다고 해서 문제가 해결되는 것은 아니다.
다행히도 좋은 소식은 이 과정이 완료되면 컴퓨터 보안이 전반적으로 이전보다 훨씬 더 좋아질 것이며, AI가 분명한 순이익(Net win)을 가져다줄 것이라는 점이다. 미래에는 보안(및 버그!) 감사가 소프트웨어 릴리스 프로세스의 일상적인 부분이 될 것이다.
클로드가 이렇게 변해버린 두 번째 가능한 설명은, 아마도 불량한 ex...