인스타그램, AI 생성 프로필 미표시 계정 도달률 제한
인스타그램은 AI 생성 인물을 표시하지 않은 계정의 도달률을 제한하기로 했습니다. 기존 'AI 크리에이터' 라벨을 'AI 생성 프로필'로 변경해 사용자들이 실제 인물인지 AI인지 쉽게 알 수 있도록 합니다. AI 인플루언서와 가짜 의료 전문가 계정이 확산되는 가운데 나온 플랫폼 정책 강화 조치라는 점에서 주목됩니다.
인스타그램은 월요일 AI 생성 프로필 표시 방식을 변경하고, AI로 생성된 인물을 사용하면서도 이를 밝히지 않는 계정의 도달률을 제한하겠다고 발표했습니다. 플랫폼은 기존 'AI 크리에이터' 라벨을 'AI 생성 프로필(AI-generated profile)'로 명칭을 변경해 공개 의무를 더 이해하기 쉽게 만들겠다고 밝혔습니다. 새 라벨은 프로필에 등장하는 인물이 AI로 생성되었거나 상당 부분 AI로 제작되었음을 사용자에게 알리기 위한 것입니다. 새 정책에 따라 AI 생성 프로필에 라벨을 제대로 붙이지 않은 크리에이터는 도달률이 줄어들 수 있습니다. 반면 새 라벨을 사용하는 크리에이터는 프로필 주제가 AI 생성 인물이라는 이유만으로 불이익을 받지 않습니다. 이 라벨은 모든 AI 사용에 적용되는 것은 아닙니다. 인스타그램은 사진 편집, 캡션 다듬기, 그래픽 제작 등 창작적 보완을 위해 AI를 사용하는 경우에는 AI 생성 프로필 라벨을 붙일 필요가 없다고 설명했습니다. 인스타그램은 이번 변화가 실제 인물처럼 보이는 프로필을 발견했다가 나중에 완전히 AI로 생성된 인물임을 알게 된 사용자들의 반응에 부분적으로 대응한 것이라고 밝혔습니다. "생성형 AI가 창작 방식에서 더 큰 비중을 차지하게 되면서, 사람처럼 보이는 프로필을 봤다가 나중에 AI 생성 인물임을 알게 되는 것을 사람들이 싫어한다는 목소리를 들었다"며 "사람들은 프로필에 AI 생성 인물이 등장할 때 이를 알고 싶어 한다"고 인스타그램은 wrote했습니다. 시기도 주목할 만합니다. AI 인플루언서가 소셜 미디어 플랫폼 전반에서 더 흔해지면서 AI 생성 콘텐츠에 대한 불만이 커지고 있기 때문입니다. 예를 들어 올해 초 게이 데이팅 앱 구스(Goose)는 명백히 AI로 생성된 남성 인플루언서 네트워크가 인스타그램에서 앱을 홍보하면서 와이어드(Wired)의 조사 대상이 되었습니다. 와이어드는 AI 인플루언서로 보이는 계정 20여 개를 넘게 발견했으며, 일부는 직접 메시지로 잠재 사용자에게 연락해 가입을 유도한 것으로 알려졌습니다. 건강과 웰니스 콘텐츠는 특히 우려되는 사례입니다. 뉴욕타임스는 7월, 소셜 미디어에서 영양제를 홍보하거나 건강 관련 주장을 하는 수백 개의 AI 생성 의사, 치유사, 웰니스 인물 계정을 발견했다고 보도했습니다. 이번 발표는 인스타그램이 다른 사람의 얼굴과 모습을 이용해 이미지를 생성할 수 있게 하는 AI 도구로 비판을 받은 이후에 나왔습니다. 사용자들은 자신의 공개 인스타그램 콘텐츠가 명시적인 동의 없이 사용되는 것에 반발했고, 메타는 해당 기능을 삭제했습니다. 지난주 메타는 페이스북과 인스타그램이 아동·청소년에게 미친 영향에 관한 소송으로 미국 각 주와 180억 달러(약 25조 원) 규모의 합의에 도달했습니다. 합의안에 따라 메타는 페이스북과 인스타그램에서 청소년 대상 기본 일일 이용 2시간 제한, '나이트 모드(Night Mode)' 차단, 학교 시간 중 알림 음소거 등 각종 제한을 도입할 예정입니다.