AI 콘텐츠 범람 속, 팡그램(Pangram) 90억 투자 유치
AI가 생성한 저품질 콘텐츠가 인터넷에 범람함에 따라, AI 생성 여부를 탐지하는 스타트업 팡그램(Pangram)이 900만 달러(약 120억 원)의 투자를 유치했습니다. 이 회사는 99% 이상의 정확도를 자랑하는 차세대 텍스트 탐지 모델과 이미지 탐지 모델을 잇달아 출시하며 기업과 개인이 신뢰할 수 있는 정보를 판별할 수 있도록 돕고 있습니다. 이는 AI 오용으로 인한 사회적 혼란과 가짜 뉴스를 방지하는 데 필수적인 기술로 평가받습니다.
뉴욕에 본사를 둔 AI 탐지 스타트업 팡그램(Pangram)은 인터넷 전반에 만연해 있는 쓰레기 AI 콘텐츠(AI slop)를 퇴치하기 위한 미션을 안고 설립되었습니다. 이 회사는 인간이 작성한 콘텐츠와 AI가 생성한 텍스트를 구분해 주는 도구에 대한 수요가 계속해서 증가할 것이라는 베팅 아래 최근 900만 달러(약 120억 원)의 투자를 유치했습니다. 이번 펀딩은 멘로 벤처스(Menlo Ventures)가 주도했으며 헤이스택, 스콥, 스크립트 캐피탈, 카덴자 등이 동참했습니다. 이 소식은 차세대 AI 텍스트 탐지 모델인 '팡그램 4(Pangram 4)'와 AI 이미지 탐지 모델인 '팡그램 이미지(Pangram Image)'의 출시와 함께 전해졌습니다.
팡그램에 따르면, 새로운 텍스트 탐지 모델은 AI가 보조하여 작성한 글이나 인간과 AI가 혼합하여 작성한 콘텐츠를 찾아내는 데 있어 99% 이상의 높은 정확도를 자랑합니다. 또한, AI가 작성한 글을 사람이 쓴 것처럼 교묘하게 바꿔주는 'AI 휴머나이저(humanizer)' 프로그램으로 쓴 글도 훨씬 쉽게 탐지할 수 있습니다. AI 이미지 탐지기는 현재 연구용 프리뷰 버전으로만 제공되며, 향후 몇 주 내에 일반에 공개할 예정입니다.
스탠퍼드 대학교 AI 및 머신러닝 전공 출신인 맥스 스페로(Max Spero)와 브래들리 에미(Bradley Emi)는 약 2년 전 팡그램을 창업했습니다. 챗GPT(ChatGPT)의 출시가 봇과 AI가 만든 저품질 SEO 콘텐츠, 그리고 스페로가 말하는 'LLM을 악용한 러시아의 허위 선전 캠페인과 트위터(UAE) 여론 조작 캠페인'으로 가득 찬 인터넷 세상의 홍수 문을 열어버린 직후였습니다.
스페로는 테크크런치(TechCrunch)와의 인터뷰에서 "우리가 보고 있는 것이 AI가 생성한 것인지 아닌지 아는 것은 매우 중요하다"며, "특히 우리가 읽고 있는 텍스트의 경우 더욱 그러하다. 왜냐하면 그것이 사람들이 글을 대하는 태도를 바꾸기 때문이다. 내가 지금 읽고 있는 글이 환각 현상을 경계하고 비판적으로 읽어야 할 대상인지, 아니면 실제 기자가 철저하게 조사해 작성한 신뢰할 수 있는 글인지 판단하게 만든다"고 말했습니다.
팡그램의 AI 탐지 시스템은 본질적으로 수천만 건의 확인된 인간 작성 문서를 학습한 대형 머신러닝 모델입니다. 이후 스타트업 측은 각 문서에 대한 '합성 거울(synthetic mirror)'을 만들어 주제, 길이, 어조를 똑같이 복제하되 최첨단 LLM이 작성하도록 했습니다. 스페로는 "우리 모델은 AI가 일관되게 내리는 문체적 차이와 선택을 학습하며, 이를 바탕으로 특정 글이 AI가 생성한 것임을 높은 신뢰도로 판별해 낸다"고 설명했습니다. 그러면서 이 탐지기는 단순한 복사-붙여넣기 메타데이터나 숨겨진 워터마크에 의존하지 않는다고 덧붙였습니다.
팡그램이 생각하는 AI 탐지는 단순히 특정 글이 100% AI에 의해 작성되었는지를 넘어섭니다. 스스로 글을 작성한 후 편집이나 윤문을 위해 AI를 사용한 경우처럼 'AI의 보조 정도'를 구분하는 것도 중요하게 여깁니다. 스페로는 작성자가 AI 사용 사실을 투명하게 밝힌다면 AI의 보조를 받는 것이 충분히 용인될 수 있다고 믿습니다.
팡그램의 부상은 AI 사용이 점차 보편화되는 시점에 이루어지고 있습니다. 캐나다의 한 정치인이 국회 연설에서 실수로 AI 프롬프트를 그대로 읽었던 사건처럼 AI 실수가 조롱거리가 되는 경우도 있습니다. 반면, 챗GPT가 만들어낸 가짜 판례를 인용해 소송을 진행한 일부 변호사들처럼 제재와 벌금이라는 심각한 결과를 초래하는 경우도 있습니다.
이러한 반발은 개인에게 단순한 당혹감이나 제재를 넘어서, 이제 기관의 규정으로도 나타나고 있습니다. 공개 접근 아카이브인 arXiv는 올해 새로운 집행 정책을 도입했습니다. 이 정책에는 저자가 LLM 결과물을 제대로 검토하지 않은 증거(예: 환각으로 인한 엉뚱한 참고문헌이나 "더 수정할 내용이 있나요?"와 같은 AI의 메타 주석)가 포함된 논문을 제출할 경우 1년간 제출을 금지하겠다는 내용이 담겨 있습니다.
AI 탐지 기술에 대한 수요가 폭발하리라 내다보는 곳은 팡그램뿐만이 아닙니다. 윈스턴 AI(Winston AI), 오리지널리티닷아이에이(Originality.ai), 카피리크스(Copyleaks), 지피티제로(GPTZero) 등의 경쟁사들 역시 동일한 수요를 공략하기 위해 각자의 탐지기를 구축하며 경쟁하고 있습니다.
완벽하지는 않을지라도 팡그램의 기술은 인터넷, 법정, 그리고 학술 논문 등을 뒤덮고 있는 AI 생성 콘텐츠를 무조건 수용하려는 흐름에 제동을 걸고 저항하는 데 큰 역할을 할 수 있을 것입니다. 사용자는 웹에서 월 20달러의 구독료를 지불해 팡그램을 이용하거나 크롬 확장 프로그램을 다운로드할 수 있습니다. 이 확장 프로그램은 X(트위터), 링크드인, 서브스택, 레딧, 미디엠 등에서 게시물에 AI 작성 여부를 실시간으로 라벨링해 줍니다. 또한 화면에 있는 휴먼 콘텐츠와 AI 콘텐츠의 비율을 백분율로 보여주는 피드 건강 점수도 함께 제공합니다. 팡그램은 이러한 기술을...