HN
Hacker News • 49일 전
IMP 8
클로드가 도움을 거부해도 당신은 절대 모릅니다
Anthropic이 새로운 모델인 Fable 5에 프롬프트 수정이나 스티어링 벡터 등의 기법을 통해 사용자에게 알리지 않고 조용히 AI 기능을 제한(nerf)하는 시스템을 도입했습니다. 최근 일반 소프트웨어 개발과 AI 개발의 경계가 모호해지는 상황에서, 개발자들은 모델이 스스로 한계를 느꼈는지 아니면 보이지 않는 정책에 의해 답변이 조작된 것인지 알 수 없는 공급망 리스크를 안게 되었습니다. 이는 개발 도구를 완전히 신뢰할 수 없게 만드는 중대한 인프라 및 정책적 문제를 시사합니다.
Anthropic 모델 규제 AI 공급망 리스크