와이컴비네이터 개리 탄, 미국 오픈웨이트 AI 기업들의 '증류' 허용 주장
Y Combinator CEO 개리 탄은 중국 AI 기업들의 프론티어 모델 '증류(distillation)'에 대한 규제에 반대하며, 오히려 미국 오픈웨이트 AI 기업들도 미국 프론티어 모델을 증류할 수 있어야 한다고 주장했다. 그는 폐쇄형 모델 기업들이 저작권 자료를 허가 없이 학습해 놓고 API 사용을 제한하는 것은 모순이며, 진짜 AI 재앙 시나리오는 강력한 AI가 단 한 회사에 집중되는 것이라고 강조했다.
중국 AI 기업들이 프론티어 모델 개발사로부터 지식을 추출하는 '증류(distillation)' 기법을 사용하는 문제에 대해, Y Combinator CEO 개리 탄은 규제기관이 개입하지 않기를 바란다. 실제로 그는 미국 AI 기업들도 같은 게임을 해야 한다고 생각한다. "아무것도 하지 말아야 한다"고 그는 이번 주 초 CNBC와의 인터뷰에서 말했다. "미국식 증류 체제가 있어야 한다고 주장할 수도 있다." 그는 테크크런치에 이는 미국의 소규모 오픈웨이트 AI 기업들이 미국 프론티어 AI 기업들에 대해 같은 종류의 학습 기법을 자유롭게 사용하여, 중국산이 아닌 더 탄탄한 오픈웨이트 옵션을 미국이 확보하게 되는 것을 의미한다고 설명했다. 증류는 한 모델 개발사가 다른 모델을 광범위하게 프롬프트하여 그 작동 방식과 추론 과정을 학습하는 것을 말한다. 이는 AI 기업들이 새 모델 학습에 흔히, 그리고 합법적으로 사용하는 기법이다. Anthropic은 이번 주 중국 기업들이 '불법 증류 공격'에 관여했다고 주장하는 두 번째 보고서를 발표했는데, 이들 중국 기업들이 신분을 숨기고 허가 없이 증류하며 사기와 도용된 자격증명에 의존한다고 주장했다. Anthropic CEO 다리오 아모데이는 이전에 미국 규제기관에 증류 단속을 공개적으로 촉구한 바 있다. 실리콘밸리의 저명하고 다작인 스타트업 액셀러레이터의 총수가 동의하지 않는다는 점은 주목할 만하다. 분명히 하자면, 탄은 미국 AI 기업들이 도용된 자격증명을 사용해 증류하는 것을 옹호하는 것이 아니다. 그는 정문으로 들어와 자유롭게 활동할 수 있기를 원한다. 실제로 그의 주장은 두 가지다. 첫째, AI 기업이 자신들의 모델이 고객에게 제공한 정보로 고객이 무엇을 할지 지정하는 것은 과도한 간섭이라고 그는 느낀다. 둘째, 폐쇄형 AI 기업들은 모델 학습을 위해 가능한 한 많은 인류의 지식을 긁어모을 때 허가를 구하지 않았다는 점을 지적한다. 이들은 지식재산권 보유자들의 허가 없이 수많은 저작권 자료를 섭취한 것으로 유명하다. "폐쇄형 웨이트 모델에 대한 API 호출로 사용자와 고객이 무엇을 하는지 통제하는 것은 억압적으로 느껴지며, 광범위한 공개 데이터로 학습된 지능에 대한 접근 자체가 제한적인 서비스 약관 뒤에 잠겨 있는 것이 아니라 일종의 공공재여야 한다는 사실을 정상화하는 데 정부가 역할을 할 수 있다"고 그는 미국 기업들도 자유롭게 증류할 수 있어야 하는 이유를 묻자 테크크런치에 말했다. 스스로를 '사이버 정신증'이 있다고 표현했을 만큼 열렬한 AI 사용자인 탄은 오픈웨이트 AI 기업과 프론티어 기업 간의 균형을 원한다. "그들은 프론티어에 서서 그것을 앞으로 밀어붙이고 있다. 우리는 그것이 자금을 조달할 수 있고 지속적으로 훌륭한 비즈니스 모델이 되기를 원한다"고 그는 CNBC에 말했다. "오픈웨이트 모델이 사람들에게 자유와 접근성을 주기를 원한다." 그에게 진정한 AI 종말 시나리오는 프론티어 AI의 막대한 힘이 단 하나의 강력한 독점 기업의 손에 들어가는 것이다. "악몽 시나리오, AI의 종말 시나리오는 단 한 회사만 남는 것이다"라고 그는 말했다. "그 회사는 자본 접근성이 가장 좋고, 최고의 AI 연구자들을 보유하며, 독주하다가 갑자기 하나의 거대한 독점 기업이 생긴다. 그것은 나쁠 것이다."