BL
r/LocalLLaMA • 27일 전
단 한 번의 실수로 날아간 데이터
IMP 8/10
핵심 요약
코딩 보조용 LLM이 반복적인 Bash 명령어 오타를 수정하려다 실수로 전체 삭제 명령어(rm -rf)가 포함된 스크립트를 실행하여 대규모 데이터 삭제 사고가 발생했습니다. 개발자는 모든 명령어를 무비판적으로 수락한 자신의 실수를 인정하며, 다행히 잦은 푸시(Git push) 습관 덕분에 완전한 복구는 가능하지만 업무 마비는 피할 수 없다고 토로했습니다. 이 사건은 AI 코딩 에이전트에게 부여된 막강한 시스템 권한과 개발자의 철저한 검증 절차가 얼마나 중요한지를 보여주는 핵심 사례입니다.
번역된 본문
어떻게 이런 일이 발생했을까? AI가 연속된 Bash 명령어를 계속해서 틀리게 작성했고, 이스케이프(Escape) 문자 처리까지 잘못되었습니다. 그 결과 엉뚱한 디렉토리들이 무수히 많이 생성되었고, AI는 자신의 실수를 '바로잡기 위해' 무언가를 시도했습니다. 그러더니 AI가 내부에 rm -rf 명령어가 포함된 아주 긴 Bash 명령어를 실행하겠다고 제안했는데, 멍청하게도 나는 그것을 놓쳤습니다.
나는 평소에 모든 코드를 자주 push하는 습관이 있어서 다행이라고 생각합니다. 하지만 이번 사고로 인한 업무 마비는 정말 엄청납니다.
자주 묻는 질문(FAQ):
- 아니요, 저는 제 개인 컴퓨터에서 이 작업을 돌리지 않습니다. LLM을 활용해 코딩을 하기 위해 격리된 Proxmox 가상 머신(VM) 환경에서 작업 중이었습니다.
원문 보기 (영어)
How? It kept getting chained bash commands wrong, with wrong escapes. So it created many bad directories, and tried "fixing" its mistake. It offered to run a large bash command, with `rm -rf` inside, and stupid me missed it.
I'm glad I push everything often. But the disruption is massive.
FAQ:
- No, I don't run this on my personal computer. It's an isolated proxmox VM for coding with LLMs.