HN
Hacker News • 44일 전
IMP 7
왜 클로드는 꼬장꼬장한 성격으로 변했을까?
클로드 AI의 최신 버전들이 과도한 안전 가드레일(정렬) 탓에 사용자와 불필요한 논쟁을 벌이고 지나치게 방어적인 태도를 취한다는 비판이 제기되었습니다. 작성자는 이러한 변화가 급하게 추가된 규제 회피용 안전장치 때문이며, 맥락을 파악하지 못한 채 모든 사용자를 잠재적 위험인물로 취급하는 것은 AI 정렬(alignment)의 실패라고 지적합니다. 결국 AI 코딩 발전에 따른 보안 취약점 문제는 모델을 거칠게 제한하는 대신 화이트햇 평가와 보안 패치로 해결해야 한다고 주장합니다.
클로드(Claude) AI 정렬(Alignment) AI 안전