GPT-2: 공개하기엔 너무 위험했던 모델 (2019)
2019년 발표된 GPT-2는 GPT-1을 기반으로 파라미터와 학습 데이터를 대폭 확장한 언어 모델입니다. 악의적 사용을 우려해 전체 모델 공개를 보류하고 소규모 모델만 공개했던 이 사건은, 강력한 AI 모델의 책임 있는 공개를 둔러싼 초창기 핵심 이슈였습니다.
GPT-2는 GPT-1을 직접적으로 확장한 모델로, 더 많은 파라미터를 갖추고 더 많은 데이터로 학습되었습니다. 하지만 OpenAI는 이 모델이 너무 위험하다고 판단하여 공개를 보류했습니다. "이 기술이 악의적인 목적으로 사용될 것을 우려하여, 우리는 학습된 모델을 공개하지 않기로 했습니다. 책임 있는 정보 공개(responsible disclosure)를 위한 실험의 일환으로, 연구자들이 실험해 볼 수 있는 훨씬 작은 규모의 모델과 기술 논문을 대신 공개합니다." (OpenAI 블로그 – 더 나은 언어 모델과 그 의미)
GPT-1은 이와 같은 심각한 우려 없이 대중에게 공개되었습니다. 따라서 위와 같은 선언은 대중들에게 GPT-2가 사람이 쓴 것처럼 보이는 텍스트를 생성하는 데 얼마나 강력할지 궁금하게 만들었습니다. 나아가 GPT-1과 GPT-2의 차이점은 무엇일까요?
- 차이점: GPT-1 vs. GPT-2 GPT-1 논문에서는 특정 작업을 수행하기 위해 휴리스틱 솔루션과 함께 사전 학습된 모델을 사용하는 제로샷(Zero-shot) 태스크 전이 실험을 진행했습니다. 이 실험의 성공은 지도 학습 기반의 미세조정(fine-tuning) 없이도, 언어 모델이 이미 특정 작업을 수행하는 데 필요한 정보를 포함하고 있음을 시사합니다. 이 모든 지식은 네트워크 파라미터(가중치와 편향)에 저장됩니다. 즉, 파라미터가 많아질수록 언어 모델의 용량이 증가하고 특정 작업에 더 강건해질 것입니다.
이러한 의미에서 미세조정은 특정 작업을 위해 모델에 마지막 손질을 더하는 것에 불과하며, 따라서 GPT-1을 훌륭하게 만든 핵심은 바로 '사전 학습'입니다. 그러므로 더 많은 파라미터를 가진 모델을 사전 학습시키면 모델의 성능이 더욱 향상될 것입니다. 결론적으로 GPT-2는 GPT-1의 직접적인 확장판으로 더 많은 파라미터와 더 많은 데이터로 학습되었습니다.
따라서 GPT-1과 GPT-2는 아키텍처 측면에서는 다르지 않습니다. 둘 다 트랜스포머(Transformer)의 디코더를 기반으로 합니다. 하지만 주요 차이점은 파라미터의 수와 학습 텍스트의 양 및 다양성입니다. 이를 통해 신경망이 더 많은 언어 지식과 이해력을 습득하고 이를 파라미터에 흡수할 수 있게 되었습니다. 2019년 2월에 공개되지 않았던 더 큰 규모의 GPT-2 모델은 15억(1.5B) 개의 파라미터를 보유하고 있으며, 이는 GPT-1보다 10배나 많은 수치입니다. 연구진은 40GB의 웹 텍스트로 모델을 학습시켰고, 다양한 언어 모델링, 독해, 질의응답 및 요약 벤치마크에서 최고 수준(State-of-the-art)의 결과를 달성했습니다.
- GPT-2: 15억 파라미터(1.5B) 공개 GPT-2 논문에 따르면 GPT-2에는 4가지 구성이 있습니다. 가장 큰 GPT-2는 48개의 디코더 블록을 사용하며 d_model = 1600 인 15억 개의 파라미터를 사용합니다. 원래의 트랜스포머가 512의 임베딩 차원(d_model)으로 6개의 디코더 블록을 사용한 것을 고려하면, 거대한 GPT-2 모델은 그 규모가 엄청납니다. 이렇게 거대한 모델을 성공적으로 학습시키는 것 자체가 큰 성과입니다.
GPT-2 최초 발표 9개월 후, OpenAI는 코드 및 모델 가중치와 함께 15억 파라미터를 갖춘 대규모 GPT-2를 공개하기로 결정했습니다. "우리는 이 테스트 케이스가 미래의 강력한 모델을 개발하는 사람들에게 유용하기를 바라며, 책임 있는 출판을 위해 AI 커뮤니티와의 대화를 적극적으로 계속 이어나가고 있습니다. ... 지난 9개월 동안 GPT-2를 경험하면서 AI 분야에서 책임 있는 출판 규범을 만드는 것에 대한 도전과 기회에 대한 귀중한 통찰력을 얻었습니다." (OpenAI 블로그 – GPT-2: 1.5B 릴리스 – 2019년 11월 5일)
그들은 지난 9개월간의 결과를 다음과 같이 요약했습니다. 인간은 GPT-2의 결과물을 그럴듯하다고 느낍니다. GPT-2는 악용 목적으로 미세조정될 수 있습니다. 탐지가 어렵습니다 (RoBERTa를 사용하여 15억 파라미터 GPT-2가 생성한 텍스트를 탐지하는 비율은 약 95% 수준). 지금까지 악용에 대한 강력한 증거는 아직 확인되지 않았습니다. 편향성(bias) 연구를 위한 기준이 필요합니다. 이 모든 지적이 타당하며, OpenAI는 초기 단계부터 특히 오용과 편향성이라는 잠재적 위험을 식별하는 데 훌륭한 역할을 했습니다.
- GPT-2 vs. ChatGPT 오늘날(2022년 12월) 우리는 이미 ChatGPT가 얼마나 잘 작동하는지 보았습니다. 그러니 이제 와서 보면 GPT-2는 그다지 해롭지 않은 것처럼 보입니다. 우리는 그들이 GPT-2를 통해 배운 점을 ChatGPT에 적용해 사람을 사칭하지 않도록 하는 방식 등 악용을 방지했다는 것을 알 수 있습니다. 하지만 학생들이 ChatGPT를 이용해 숙제를 대신 하게 만드는 등 다른 많은 악용 사례는 여전히 통제하기가 더 어렵습니다.