인스타그램은 AI 생성 인물을 표시하지 않은 계정의 도달률을 제한하기로 했습니다. 기존 'AI 크리에이터' 라벨을 'AI 생성 프로필'로 변경해 사용자들이 실제 인물인지 AI인지 쉽게 알 수 있도록 합니다. AI 인플루언서와 가짜 의료 전문가 계정이 확산되는 가운데 나온 플랫폼 정책 강화 조치라는 점에서 주목됩니다.
가상 인플루언서 산업이 급성장하며 브랜드 마케팅의 핵심으로 자리 잡고 있으나, EU 인공지능 법안 등 글로벌 규제가 강화되면서 실무자들이 큰 혼란을 겪고 있습니다. AI 생성 콘텐츠 표시 의무가 확대되고 있지만, 법의 모호성으로 인해 제작자와 브랜드 담당자들은 대응 방안을 찾지 못해 위기를 맞이하고 있습니다.
인스타그램에서 수십만 명의 팔로워를 거느린 근육질 남성 인플루언서들이 사실은 AI로 생성된 가짜라는 사실이 밝혀져 논란이 되고 있습니다. 창작자들은 게이 남성을 타겟으로 한 콘텐츠를 제작하지만 대부분의 실제 팬은 여성인 것으로 나타났습니다. 이들이 영화 프리미어 시사회 레드카펫에 등장해 가짜 인플루언서의 상업적 이용과 불가능한 체형에 대한 왜곡된 기준 등 윤리적 문제를 촉발시켰습니다.
최근 소셜 미디어에서는 완벽한 외모의 AI가 진행하는 가짜 연애 코칭 팟캐스트 영상이 폭발적인 조회수를 기록하며 큰 인기를 끌고 있습니다. 이 영상들은 대부분 전통적이고 편향된 성 역할을 강조하고 성별 간의 갈등을 조장하는 '소프트 프로파간다' 역할을 하며, 이는 AI 기술이 만들어내는 새로운 형태의 사회적 독성으로 평가받고 있습니다.