애플이 'Surprise and Shine' 행사에서 아이폰 18 Pro로 촬영한 사진의 진위를 증명하는 'Apple Reference Image' 기능을 발표했습니다. 촬영 시 메인 카메라 센서가 서명된 센서 데이터를 함께 기록하고, 애플의 프라이빗 클라우드 컴퓨트(Private Cloud Compute)가 이를 수정 불가능한 '디지털 네거티브'로 변환해 사진 앱에서 원본과 비교할 수 있게 합니다. AI 저작물이 범람하는 상황에서 사진 저널리즘의 신뢰성을 지키는 데 중요한 기술로, 개발자용 API 제공과 SynthID 표준 지원도 예고됐습니다.
미국 오하이오주 남부 지방검찰은 실제·AI 생성 아동성착취물 수천 장을 제작·유포한 38세 남성에게 신설 연방법 '테이크 잇 다운법(Take It Down Act)' 위반 첫 유죄 판결로 징역 15년을 선고했다. 이 판결은 AI 딥페이크 성착취물에 대한 첫 연방 차원 형사처벌 사례라는 점에서 의미가 크다. 다만 최근 항소법원이 '실존하지 않는 아동'을 묘사한 AI 생성물의 소지는 수정헌법 제1조로 보호된다고 판단하는 등 법 적용 범위를 둘러싼 논쟁도 계속되고 있다.
캐나다 브리티시컬럼비아주 윌리스턴 호수에 약 70m×140m 크기의 나무와 식물로 이루어진 떠다니는 섬이 나타났다가 사라졌다가 재발견되어 국제적 관심을 받았다. 이는 자연 부유물 섬이 폭풍이나 물 상승으로 해안에서 분리되어 떠다니는 자연 현상으로, BC Hydro가 AI 생성 영상이 아닌 실제임을 위성사진으로 확인했다. 댐이나 선박에 위험은 없으며 BC Hydro가 위성影像과 목격 보고를 통해 계속 모니터링 중이다.
인도의 한 의대생이 구글 제미나이(Gemini)의 조언을 받아 미국 보수층을 겨냥한 '에밀리 하트'라는 가짜 AI 인플루언서를 만들어 한 달에 수천 달러를 벌었다. 그는 AI로 생성한 백인 금발 미녀 이미지를 소셜 미디어에 올리며 반이민, 기독교 우위 등 극우 성향의 게시물을 유포했고, 이에 끌린 미국 중장년 남성들의 구독과 굿즈 판매로 막대한 수익을 창출했습니다. 이 사건은 특정 정치적 성향과 낮은 디지털 리터러시를 악용해 AI를 조작하는 사이버 범죄의 새로운 형태를 보여줍니다.
미국 중간선거를 앞두고 AI로 생성된 수백 개의 가짜 인플루언서 계정이 소셜 미디어에서 친(親)트럼프 콘텐츠를 대규모로 유포하고 있습니다. 단순 스팸일 가능성도 있지만, 동일한 캐릭터와 프로필을 공유하는 정치적 네트워크가 의심되는 상황으로, AI 합성 미디어가 선거 개입에 악용될 수 있다는 심각한 경고를 주고 있습니다.