구글 리서치, '장소 사용 방식'을 반영한 ME-POIs 공개
구글 리서치가 텍스트 기반 POI 임베딩에 집계된 사람들의 이동 데이터를 결합하는 ME-POIs 프레임워크를 발표했습니다. 기존 언어 모델은 장소가 '무엇인지'는 설명하지만 '어떻게 사용되는지'는 놓치는데, ME-POIs는 각 방문을 맥락화된 벡터로 인코딩하고 대조 학습으로 POI별 학습 가능한 프로토타입과 정렬한 뒤, 데이터가 풍부한 앵커에서 롱테일로 방문 분포를 세 개 공간 규모에 걸쳐 전이합니다. LA와 휴스턴 이동 데이터 기반 5개 지도 보강 작업에서 35개 모델-과제 조합 중 34개가 향상되었으며, 방문 의도 예측에서 최대 81.9% 상대적 F1 향상, 혼잡도 예측에서 24.7% MAE 감소를 기록했습니다.
ME-POIs는 집계된 사람들의 이동 정보를 텍스트 기반 장소 임베딩에 접목시키는 프레임워크입니다. 언어 모델은 장소가 무엇인지는 설명하지만, 그 장소가 어떻게 사용되는지는 놓치곤 합니다. ME-POIs는 각 방문(visit)을 맥락이 반영된 벡터로 인코딩하고, 대조 학습(contrastive learning)을 통해 POI마다 하나의 학습 가능한 프로토타입과 정렬한 뒤, 데이터가 풍부한 앵커 POI에서 롱테일 POI로 방문 분포를 세 가지 공간 규모에 걸쳐 전이합니다. 로스앤젤레스와 휴스턴의 이동 데이터를 활용한 5가지 지도 보강 작업에서 ME-POIs를 추가했을 때 로스앤젤레스의 35개 모델-과제 조합 중 34개에서 성능이 향상되었으며, 방문 의도 예측에서는 최대 81.9%의 상대적 F1 개선을, 혼잡도(busyness) 예측에서는 24.7%의 MAE 감소를 달성했습니다. 특히 이동성 데이터만 사용한 변형 모델은 가격대 분류 작업에서 제미나이(Gemini) 텍스트 임베딩을 능가했습니다.