메뉴

#악용 방지

HN
Hacker News • 12일 전
IMP 9

후티, 클로드 코드로 미사일 유도 소프트웨어 개발

예멘 북부의 후티 관련 세력이 Anthropic의 Claude Code를 활용해 유도 로켓, 사거리 2,000km 이상 탄도미사일, 극음속 활공체의 유도 소프트웨어를 개발한 사실이 Anthropic 위협 보고서를 통해 공개됐습니다. 이들은 여러 Claude 세션을 병렬로 운영해 코딩·연구·검토를 분담하고, 실제 로켓 시험 발사 후 발사 텔레메트리 분석까지 AI로 수행하는 등 반복적 무기 개발 주기에 AI를 통합했습니다. 안전장치 우회를 통해 작업을 분산시킨 이 사례는 대규모 프로젝트를 세션 단위로 쪼개면 개별 요청이 무기 개발로 보이지 않는다는 AI 안전 시스템의 구조적 한계를 보여줍니다.

AI 안전 Anthropic 악용 방지
HN
Hacker News • 15일 전
IMP 7

AI 악용 탐지 및 대응 보고서: 2026년 9월

Anthropic의 위협 인텔리전스 팀이 2025년 12월부터 2026년 8월까지 Claude를 악용하려는 위협 행위자들의 활동을 적발하고 차단한 사례들을 공개했습니다. 사이버 공작, 여론 조작, 감시, 사기, 생물학적 악용, 재래식 무기 개발, 불법 증류 등 7개 피해 영역의 사례가 다뤘으며, 국가 후원 집단부터 상업용 스파이웨어 업체까지 다양한 위협 행위자가 포함됩니다. AI 모델의 능력이 향상될수록 위험도 커지므로, 개발사와 사회의 방어자들이 안전 조치를 지속적으로 강화해야 한다는 점에서 중요한 보고서입니다.

보안 위협 인텔리전스 AI 안전