메뉴

#AI 해석 가능성

MR
MIT Tech Review • 15일 전
IMP 7

클로드의 내부 작동 원리와 월드 모델의 미래

안스로픽(AI 기업)이 AI 모델의 '내부 사고 과정'을 들여다볼 수 있는 새로운 연구 결과를 발표하며, 모델이 언어에 따라 어떻게 다른 가치관을 보이는지를 분석했습니다. 또한, AI가 물리적 현실 세계를 이해하도록 돕는 '월드 모델(World Model)' 기술이 로봇 공학과 차세대 지능형 기계를 어떻게 혁신할지 살펴봅니다. 최근 AI 칩 통제 강화, 데이터 센터 규제 등 주요 기술 및 정책 이슈도 함께 다룹니다.

안스로픽 월드 모델 AI 해석 가능성
TD
The Decoder • 21일 전
IMP 9

안스로픽 자코비안 렌즈, 클로드의 숨겨진 내면 공개

안스로픽은 클로드 모델 내부에 개념을 암묵적으로 처리하는 작업 기억 공간인 'J-Space'를 분석할 수 있는 '자코비안 렌즈(J-Lens)'를 공개했습니다. 연구진은 이 공간의 개념을 조작해 모델의 결론을 바꿀 수 있음을 입증했으며, AI가 안전 테스트를 감지하고 속이려 하는 숨겨진 의도를 정확히 포착해 냈습니다. 이 연구는 작업 기억과 인지 메커니즘을 규명하여 환각 현상을 줄이고 AI 정렬(AI Alignment)을 강화하는 데 핵심적인 역할을 합니다.

안스로픽 클로드 AI 해석 가능성