넷플릭스, 언어모델 기반 추천 시스템 'GenRec' 테스트
넷플릭스가 수년간 다듬어온 기존 추천 엔진 대신 언어 모델 기반 추천 시스템 GenRec을 실험한 결과, 훨씬 적은 학습 데이터로도 더 나은 성능을 얻었다고 발표했습니다. 사용자 시청 이력을 텍스트로 변환해 파인튜닝된 오픈 웨이트 모델이 한 번에 후보 콘텐츠를 평가하는 방식으로, 오프라인·온라인 A/B 테스트 모두에서 유의미한 개선을 확인했습니다. 이는 맞춤형 아키텍처에서 범용 언어 모델로의 전환 흐름을 보여주는 사례입니다.
넷플릭스, 수제 추천 로직의 대안으로 언어 모델 테스트
주요 포인트
- 넷플릭스는 언어 모델 기반 추천 시스템 'GenRec'을 구축했으며, 훨씬 적은 학습 데이터로 기존 방식을 능가하는 성능을 보였다.
- 이 시스템은 정교하게 수작업으로 설계된 특징(feature)에 의존하지 않고 사용자 행동을 일반 텍스트로 변환한다.
- 파인튜닝된 오픈 웨이트 모델이 해당 이력을 분석하고, 일괄 처리로 모든 매칭 콘텐츠의 점수를 매긴다.
- 오프라인 테스트와 실제 사용자 대상 라이브 A/B 실험 모두에서 추천 품질의 측정 가능한 개선이 확인되었다.
- 넷플릭스는 이를 맞춤형 아키텍처에서 범용 언어 모델로 향하는 더 큰 전환의 일부로 보고 있다.
넷플릭스는 오래된 자사 추천 엔진과 언어 모델을 겨뤄보고 더 나은 결과를 얻었다고 밝혔다. GenRec이라 불리는 이 시스템은 기존 시스템이 필요로 했던 레이블된 학습 데이터의 극히 일부만으로도 성능을 달성했다.
넷플릭스 기술 블로그에 따르면, 현재 넷플릭스 추천 시스템은 사용자, 콘텐츠, 상호작용에 관한 수천 개의 수작업 특징에 의존한다. 이러한 복잡성 때문에 게임, 라이브 포맷, 팟캐스트 같은 새로운 콘텐츠 유형을 추가하거나 넷플릭스 인터페이스의 새로운 영역으로 확장하는 데 비용이 많이 든다.
하지만 기성 언어 모델도 추천용으로는 아직 부족하다. 인기 콘텐츠에 과도하게 치우치고, 카탈로그에 없는 콘텐츠를 지어내며(할루시네이션), 비즈니스 규칙을 무시한다. GenRec은 이 간극을 메우기 위해 설계되었다.
넷플릭스는 자체 모델을 두 단계로 학습시킨다. 첫째, 공개되지 않은 오픈 웨이트 언어 모델을 넷플릭스 데이터로 파인튜닝해 카탈로그와 사용자 행동을 이해하도록 만든다. 그다음 두 번째 전문 학습 단계를 통해 이 기반 모델을 추천 랭커로 변환한다. 이 두 번째 단계는 새로운 콘텐츠와 변화하는 선호도를 반영하기 위해 더 자주 업데이트된다.
시청 이력이 일반 텍스트가 되다
사용자 데이터를 조밀한 수치 벡터로 인코딩하는 대신, 넷플릭스는 이를 일반 텍스트로 변환한다. 재생, 시청 지속 시간, 좋아요/싫어요, 찜 목록 추가, 중도 이탈 등이 사용자와 추천 시스템 간의 일종의 대화 형태가 된다. 모델은 수작업으로 설계된 특징으로 명시해주지 않아도 장르 선호나 변화하는 관심사 같은 패턴을 스스로 파악한다.
모든 상호작용을 텍스트로 담으면 모델의 컨텍스트 윈도우를 초과하므로, 넷플릭스는 공격적으로 필터링한다. 긴 시청 세션 같은 신호가 강한 이벤트는 전부 유지하고, 짧은 탭이나 빠른 스크롤은 버리며 정주행 세션은 압축한다. 실제로 존재하지 않는 콘텐츠를 추천하지 않도록, 실제 카탈로그 항목만 평가하는 별도 컴포넌트를 추가했다.
GenRec은 vLLM 위에서, 모델이 입력을 한 번 읽고 텍스트를 생성하지 않은 채 한 번에 모든 후보의 점수를 매기는 모드로 실행된다. 이를 통해 비용을 관리 가능한 수준으로 유지한다.
작지만 통계적으로 확실한 개선
수년간 튜닝된 프로덕션 시스템과 비교해 GenRec은 오프라인에서 약 1.6% 더 나은 랭킹 품질을 보였다. 이를 달성하는 데 두 번째 학습 단계에서 필요한 레이블 예시는 약 40분의 1 수준이었다. 이 비교는 전체 학습 데이터가 아니라 이 특정 단계에 적용되는 수치다.
온라인 테스트에서 넷플릭스는 트래픽의 약 10%를 대상으로 4주간 A/B 실험을 진행했으며, 사전 계산되는 추천 영역으로 제한했다. 홈 화면에서의 사용자 행동을 추적하는 단기 지표는 0.115% 상승했고, 장기 핵심 지표는 0.006% 개선되었다. 넷플릭스에 따르면 두 개선 모두 우연으로 설명되기에는 너무 큰 수치다.
2단계의 추천 특화 파인튜닝은 기반 모델 성능 위에 추가로 35~50%의 향상을 더한다. 기반 모델이 이미 2주 지난 시점에는 이 격차가 약 80%까지 벌어지는데, 기반 모델이 새 콘텐츠와 변화된 선호도를 더 이상 반영하지 않기 때문이다.