#데이터 신뢰성

SQLite 심각한 취약점, 사실은 AI가 만든 가짜였다?

최근 신규 생성된 깃허브 저장소에서 대량의 SQLite 치명적 취약점(CVE)이 보고되어 NVD와 CISA가 이를 심각도 9.8의 위험 등급으로 분류했습니다. 하지만 JFrog 보안 연구팀의 검증 결과, 제시된 코드는 존재하지 않고 증명 코드(PoC)도 작동하지 않는 등 AI가 생성한 가짜 허위 보고서(LLM 슬롭)임이 밝혀졌습니다. 이는 AI로 인해 만들어진 허위 보고서가 주요 취약점 데이터베이스를 오염시킬 수 있다는 심각성을 보여줍니다.

짐 캐리 사망 오보로 본 지식 시스템의 한계

구글 검색의 지식 패널과 AI가 위키피디아의 잘못된 편집을 사실로 받아들여 발생한 사망 오보 사건을 통해, 복잡한 지식 시스템의 취약성을 분석합니다. 시스템이 정보를 단순 수집하는 것을 넘어, 출처를 검증하고 신뢰할 수 있는 지식으로 구축하는 과정이 얼마나 어려운지 보여줍니다. 이는 AI 기반 정보 검색 시스템을 설계하고 운영하는 실무자들이 반드시 고려해야 할 핵심 실패 모드(failure mode)입니다.