메뉴

#프롬프트-인젝션

TD
The Decoder • 56일 전
IMP 9

MS 워드 코파일럿 장악하는 자가 전파 웜 발견

보안 연구원이 보이지 않는 악성 지시어를 워드 문서에 숨겨 마이크로소프트 코파일럿을 조종하고 스스로 전파되는 웜 공격 방식을 공개했습니다. 코파일럿이 문서를 처리할 때 숨겨진 지시어를 실행하고 다른 문서로 복제하면서 감염이 확산됩니다. 마이크로소프트가 이를 인지했음에도 144일이 지난 현재까지도 근본적인 보안 패치가 이루어지지 않아 프롬프트 인젝션의 심각성을 보여줍니다.

보안 프롬프트-인젝션 마이크로소프트-코파일럿
HN
Hacker News • 103일 전
IMP 6

AI는 결국 코드일 뿐, 프롬프트로 똑똑해지지 않는다

AI 코딩 도구의 무분별한 오픈소스 사용을 막기 위해 한 자바(JVM) 테스트 도구 개발자가 AI 에이전트를 속여 코드를 삭제하도록 만드는 '보이지 않는 프롬프트'를 심었습니다. 이 과정에서 문서를 읽지 않은 채 AI에만 의존하던 일부 개발자들이 코드를 날려버리는 사태가 발생했습니다. 이는 AI가 맥락을 이해하지 못하고 단순히 주어진 텍스트를 그대로 따를 뿐임을 보여주는 흥미로운 사례입니다.

코딩-에이전트 오픈소스 AI-보안