메타, AI로 키와 골격 분석해 미성년자 식별
메타는 페이스북과 인스타그램 내 13세 미만 사용자를 색출하기 위해 사진과 영상을 분석하는 AI 시스템을 도입합니다. 이 AI는 개인을 식별하지 않고 키나 골격 등의 시각적 단서를 통해 추정 연령을 파악하며, 미성년자로 판단될 경우 계정을 비활성화합니다. 이는 아동 안전과 관련된 여러 소송에 직면한 메타가 플랫폼 내 미성년자 보호 조치를 강화하는 일환입니다.
메타는 화요일에 13세 미만 사용자를 페이스북과 인스타그램에서 퇴출시키기 위해 AI를 활용해 사진과 비디오에서 시각적 단서를 스캔하기 시작할 것이라고 발표했습니다. 이 시각적 단서에는 사용자의 키나 골격구조(Bone Structure) 등이 포함된다고 밝혔습니다.
메타는 블로그 게시물을 통해 "분명히 하자면, 이는 안면 인식(Facial Recognition) 기술이 아니다. 당사의 AI는 누군가의 대략적인 연령을 추정하기 위해 키나 골격구조와 같은 전반적인 특징과 시각적 단서를 살펴볼 뿐, 이미지 속 특정 인물을 식별하지 않는다"고 설명했습니다. "이러한 시각적 분석을 텍스트 및 상호작용 분석과 결합함으로써, 식별 및 삭제하는 미성년자 계정의 수를 크게 늘릴 수 있다"고 덧붙였습니다.
이 시각적 분석 시스템은 현재 일부 국가에서 운영되고 있으며, 메타는 더 광범위한 지역으로 확대할 계획입니다. 메타는 이 시스템이 13세 미만 아동을 플랫폼에서 보호하기 위한 노력의 일환이라고 밝혔습니다. 이러한 노력에는 생일 축하 파티나 학년 언급과 같은 맥락적 단서를 찾기 위해 AI로 전체 프로필을 분석하는 작업이 포함됩니다. 회사는 게시물, 댓글, 자기소개, 게시물 설명 등 다양한 형식에서 이러한 신호를 탐지합니다. 메타는 향후 인스타그램 라이브(Instagram Live)와 페이스북 그룹(Facebook Groups) 등 앱의 더 많은 영역으로 이 기술을 확장할 계획입니다.
메타가 사용자를 미성년자로 판단할 경우 계정을 비활성화하며, 사용자는 계정이 완전히 삭제되는 것을 막기 위해 회사의 연령 확인 프로세스를 통해 나이를 증명해야 합니다.
이 발표는 뉴멕시코주 배심원단이 메타가 플랫폼의 안전성에 대해 소비자를 기만하고 아동을 위험에 빠뜨린 혐의로 3억 7,500만 달러의 민사적 벌금을 부과하도록 명령한 지 불과 몇 주 만에 나온 것입니다. 또한 메타는 플랫폼에 근본적인 변화를 이행하라는 명령을 받았습니다. 이에 메타는 해당 주에서 소셜 미디어 서비스를 종료할 수도 있다고 위협한 바 있습니다. 이 사건은 메타와 다른 대형 빅테크 기업들이 직면한 아동 안전 관련 수많은 소송 중 하나라는 점은 주목할 만합니다.
한편, 메타는 화요일에 인스타그램에서 10대를 더 엄격한 '틴 계정(Teen Accounts)'으로 자동 분류하는 기술을 EU 27개국과 브라질로 확대한다고 발표했습니다. 이 틴 계정은 팔로우하거나 이미 연결된 사람에게만 DM 수신 허용, 유해한 댓글 숨기기, 기본값으로 계정 비공개 설정과 같은 추가적인 안전 장치를 제공합니다. 또한 메타는 이 기술을 미국 내 페이스북에 처음으로 도입하며, 6월에는 영국과 EU로 확대할 예정입니다.