링크드인이 피드를 가득 채우는 저품질 AI 생성 콘텐츠(AI slop)를 방지하기 위해 사용자가 직접 신고할 수 있는 기능을 추가했습니다. 이는 온라인 플랫폼 전반에 걸쳐 인간이 아닌 봇과 AI가 만든 부정확하고 가짜 콘텐츠로 인한 사용자 피로도가 심각해짐에 따라 취해진 조치입니다. 링크드인은 자체 AI 작성 보조 기능을 교정 도구로 대체하는 등 플랫폼 내 '진짜 사람' 간의 진정성 있는 소통을 회복하기 위한 다각적인 방어 체계를 구축하고 있습니다.
위키백과의 공동 창립자인 래리 생어가 자신의 엑스(X, 구 트위터) 팔로워들을 동원해 사이트 내 토론에 개입하려 한 혐의(캔버싱, Canvassing)로 위키백과에서 영구 편집 차단되었습니다. 이 사건은 단순한 정치적 편향성 논란을 넘어, 커뮤니티 운영과 편집 시스템에 대한 외부 집단적 압력 행사가 어떻게 통제되는지 보여주는 정책적 사례로 중요합니다.
유튜브는 이번 달부터 AI가 생성하거나 심하게 변조한 영상에 대해 시스템이 자동으로 'AI 생성 콘텐츠' 라벨을 부착하는 기능을 도입합니다. 라벨이 부착되더라도 영상 추천이나 수익 창출에는 영향을 주지 않지만, 크리에이터의 의도적인 숨김을 방지하기 위한 플랫폼의 제재력이 강화되었다는 점에서 중요합니다. 또한, 구글은 딥페이크 문제에 대응하기 위해 모든 성인 크리에이터를 대상으로 초상권 탐지 도구(Likeness Detection)를 전면 개방합니다.
전 페이스북 비즈니스 무결성 총괄 브렛 레벤슨(Brett Levenson)은 기존의 속도가 느리고 정확도가 떨어지는 수동 콘텐츠 모더레이션의 문제를 해결하기 위해 스타트업 'Moonbounce'를 설립했습니다. 이 회사는 자체적으로 학습된 대형 언어 모델(LLM)을 활용해 정적 문서인 정책을 실행 가능한 코드(Policy as Code)로 전환하여, 300밀리초 이내에 유해 콘텐츠를 판별하고 조치할 수 있는 초고속 모더레이션 기술을 제공합니다. 최근 1,200만 달러(약 160억 원)의 시리즈A 자금을 유치하며 AI 캐릭터 플랫폼 및 이미지 생성 AI 업계에서 안전성을 핵심 차별화 기능으로 만들고 있습니다.