클래리파이, 오큐피디드 제공 사진 300만 장 삭제
AI 플랫폼 클래리파이(Clarifai)가 데이팅 앱 오큐피디드(OkCupid)로부터 무단으로 제공받아 얼굴 인식 AI 훈련에 사용했던 사용자 사진 300만 장과 이로 학습된 모델을 전면 삭제했습니다. 이 사건은 자사의 프라이버시 정책을 위반한 채 2014년에 발생했으나, 2019년이 되어서야 FTC(연방거래위원회)의 조사를 받았으며 최근 양측은 소송에서 합의했습니다. 이는 기업이 사용자 동의 없이 데이터를 활용하고 이를 은폐하려 한 대표적인 프라이버시 침해 사례로, 데이터 수집 및 활용의 투명성이 매우 중요함을 시사합니다.
로이터 통신에 따르면, AI 플랫폼 기업 클래리파이(Clarifai)는 얼굴 인식 AI를 훈련시키기 위해 오큐피디드(OkCupid)로부터 제공받았다고 밝힌 사진 300만 장을 삭제했습니다. 또한 해당 데이터를 사용해 학습된 모든 모델도 함께 삭제했습니다.
FTC(미국 연방거래위원회)의 조사에 따르면, 클래리파이는 2014년에 경영진이 자사에 투자했던 오큐피디드에게 데이터 공유를 요청했습니다. 보도에 따르면 해당 데이팅 앱은 인구통계학적 데이터 및 위치 데이터와 함께 사용자들이 직접 업로드한 이 사진들을 제공했습니다. 오큐피디드 자체의 개인정보 보호 정책상 이러한 행위는 엄격히 금지되어 있었습니다.
로이터가 확보한 법원 문서에 따르면, 클래리파이의 창립자이자 CEO인 매튜 자일러(Matthew Zeiler)는 오큐피디드의 공동 창립자인 맥스웰 크론(Maxwell Krohn)에게 보낸 이메일에서 "우리는 지금 데이터를 수집하고 있는데, 오큐피디드가 이를 위해 엄청난 양의 훌륭한 데이터를 가지고 있다는 것을 깨달았다"라고 적었습니다.
이 사건은 12년 전인 2014년에 발생했지만, FTC는 2019년이 되어서야 조사를 시작했습니다. 당시 뉴욕타임스(NYT) 기사를 통해 클래리파이가 오큐피디드의 이미지를 사용해 사람의 얼굴을 바탕으로 나이, 성별, 인종을 추측할 수 있는 AI 도구를 구축했다는 사실이 언급되었기 때문입니다.
매치 그룹(Match Group) 산하의 오큐피디드와 FTC는 지난달 소송에서 합의했습니다. 당시 오큐피디드와 매치 그룹은 자체적인 프라이버시 정책을 위반하여 사용자를 기만했다는 혐의를 인정하지 않았습니다. 하지만 클래리파이가 데이터를 삭제했음을 확인한 것은 실제로 해당 사진들에 대한 접근 권한이 있었음을 시사합니다.
FTC는 또한 2014년부터 매치 그룹과 오큐피디드가 이러한 행위를 고의로 숨기고 FTC의 조사를 방해하려 했다고 주장했습니다. 오큐피디드와 클래리파이는 테크크런치(TechCrunch)의 코멘트 요청에 즉시 응답하지 않았습니다.
FTC는 이러한 유형의 초범 기업에 대해 벌금을 부과할 수는 없지만, 오큐피디드와 매치 그룹이 데이터 수집 및 공유의 성격에 대해 '허위 진술하거나 타인의 허위 진술을 방조하는 행위'를 영구적으로 금지한다고 선언했습니다. 결과적으로 오큐피디드와 매치 그룹은 FTC 규정에 이미 위반으로 규정된 이러한 행위에 참여하는 것이 금지되었습니다.