#정보 조작

이스라엘이 만든 가짜 미국 싱크탱크, AI 챗봇 여론 조작 시도

실제로 존재하지 않는 '하노버 공공정책연구소'라는 이름의 가짜 싱크탱크 사이트가 이스라엘 정부 자금 지원을 받아 9일 만에 56만 단어 이상의 친이스라엘 성향 보고서를 발행했습니다. 이는 AI 챗봇이 해당 콘텐츠를 인용하도록 최적화된 상업 플랫폼을 이용해 검색 및 대화형 AI의 답변을 사전에 친이스라엘 방향으로 유도하려는 캠페인의 일환이며, 외국인 대리인 등록법(FARA)에 따라 이스라엘 정부를 위한 활동으로 신고되었습니다. 생성형 AI 시대에 AI를 통한 여론·선전 조작이 실제로 시도되고 있음을 보여주는 사례입니다.

실재하지 않는 AI 생성 희귀 꽃 씨앗 판매 사기 급증

AI 이미지 생성 기술이 악용되어 실제로는 존재하지 않는 화려하고 기괴한 형태의 식물 씨앗을 판매하는 사기가 e커머스 플랫폼에서 크게 성행하고 있습니다. 사기꾼들은 AI가 만들어낸 허구의 이미지로 소비자를 현혹하여, 실제로는 잡초나 무관한 씨앗을 무더기로 판매하며 막대한 부당 이익을 취하고 있습니다. 이는 AI 기술이 콘텐츠의 신뢰성을 훼손하고 실질적인 경제적 피해를 유발하는 대표적인 사례로, 온라인 쇼핑 플랫폼의 규제 및 대응이 시급함을 보여줍니다.

GPT 이미지 2 활용 첫 허위 정보 캠페인 포착

백악관 보안 사건과 관련하여, 총격범이 이스라엘군 후디를 입은 사진을 올렸다는 주장이 트위터에 유포되었습니다. 하지만 해당 이미지는 오픈AI의 'GPT Image 2(지피티 이미지 2)' 모델로 생성된 가짜로 확인되었습니다. 최신 이미지 생성 AI가 악의적인 가짜뉴스 제작에 실제로 사용된 최초의 사례로서, AI 생성 콘텐츠에 대한 심각한 남용 및 검증의 중요성을 보여줍니다.