메뉴
HN
Hacker News 49일 전

GPT-2: 공개하기엔 너무 위험했던 모델 (2019)

IMP
8/10
핵심 요약

2019년 발표된 GPT-2는 GPT-1을 기반으로 파라미터와 학습 데이터를 대폭 확장한 언어 모델입니다. 악의적 사용을 우려해 전체 모델 공개를 보류하고 소규모 모델만 공개했던 이 사건은, 강력한 AI 모델의 책임 있는 공개를 둔러싼 초창기 핵심 이슈였습니다.

번역된 본문

GPT-2는 GPT-1을 직접적으로 확장한 모델로, 더 많은 파라미터를 갖추고 더 많은 데이터로 학습되었습니다. 하지만 OpenAI는 이 모델이 너무 위험하다고 판단하여 공개를 보류했습니다. "이 기술이 악의적인 목적으로 사용될 것을 우려하여, 우리는 학습된 모델을 공개하지 않기로 했습니다. 책임 있는 정보 공개(responsible disclosure)를 위한 실험의 일환으로, 연구자들이 실험해 볼 수 있는 훨씬 작은 규모의 모델과 기술 논문을 대신 공개합니다." (OpenAI 블로그 – 더 나은 언어 모델과 그 의미)

GPT-1은 이와 같은 심각한 우려 없이 대중에게 공개되었습니다. 따라서 위와 같은 선언은 대중들에게 GPT-2가 사람이 쓴 것처럼 보이는 텍스트를 생성하는 데 얼마나 강력할지 궁금하게 만들었습니다. 나아가 GPT-1과 GPT-2의 차이점은 무엇일까요?

  1. 차이점: GPT-1 vs. GPT-2 GPT-1 논문에서는 특정 작업을 수행하기 위해 휴리스틱 솔루션과 함께 사전 학습된 모델을 사용하는 제로샷(Zero-shot) 태스크 전이 실험을 진행했습니다. 이 실험의 성공은 지도 학습 기반의 미세조정(fine-tuning) 없이도, 언어 모델이 이미 특정 작업을 수행하는 데 필요한 정보를 포함하고 있음을 시사합니다. 이 모든 지식은 네트워크 파라미터(가중치와 편향)에 저장됩니다. 즉, 파라미터가 많아질수록 언어 모델의 용량이 증가하고 특정 작업에 더 강건해질 것입니다.

이러한 의미에서 미세조정은 특정 작업을 위해 모델에 마지막 손질을 더하는 것에 불과하며, 따라서 GPT-1을 훌륭하게 만든 핵심은 바로 '사전 학습'입니다. 그러므로 더 많은 파라미터를 가진 모델을 사전 학습시키면 모델의 성능이 더욱 향상될 것입니다. 결론적으로 GPT-2는 GPT-1의 직접적인 확장판으로 더 많은 파라미터와 더 많은 데이터로 학습되었습니다.

따라서 GPT-1과 GPT-2는 아키텍처 측면에서는 다르지 않습니다. 둘 다 트랜스포머(Transformer)의 디코더를 기반으로 합니다. 하지만 주요 차이점은 파라미터의 수와 학습 텍스트의 양 및 다양성입니다. 이를 통해 신경망이 더 많은 언어 지식과 이해력을 습득하고 이를 파라미터에 흡수할 수 있게 되었습니다. 2019년 2월에 공개되지 않았던 더 큰 규모의 GPT-2 모델은 15억(1.5B) 개의 파라미터를 보유하고 있으며, 이는 GPT-1보다 10배나 많은 수치입니다. 연구진은 40GB의 웹 텍스트로 모델을 학습시켰고, 다양한 언어 모델링, 독해, 질의응답 및 요약 벤치마크에서 최고 수준(State-of-the-art)의 결과를 달성했습니다.

  1. GPT-2: 15억 파라미터(1.5B) 공개 GPT-2 논문에 따르면 GPT-2에는 4가지 구성이 있습니다. 가장 큰 GPT-2는 48개의 디코더 블록을 사용하며 d_model = 1600 인 15억 개의 파라미터를 사용합니다. 원래의 트랜스포머가 512의 임베딩 차원(d_model)으로 6개의 디코더 블록을 사용한 것을 고려하면, 거대한 GPT-2 모델은 그 규모가 엄청납니다. 이렇게 거대한 모델을 성공적으로 학습시키는 것 자체가 큰 성과입니다.

GPT-2 최초 발표 9개월 후, OpenAI는 코드 및 모델 가중치와 함께 15억 파라미터를 갖춘 대규모 GPT-2를 공개하기로 결정했습니다. "우리는 이 테스트 케이스가 미래의 강력한 모델을 개발하는 사람들에게 유용하기를 바라며, 책임 있는 출판을 위해 AI 커뮤니티와의 대화를 적극적으로 계속 이어나가고 있습니다. ... 지난 9개월 동안 GPT-2를 경험하면서 AI 분야에서 책임 있는 출판 규범을 만드는 것에 대한 도전과 기회에 대한 귀중한 통찰력을 얻었습니다." (OpenAI 블로그 – GPT-2: 1.5B 릴리스 – 2019년 11월 5일)

그들은 지난 9개월간의 결과를 다음과 같이 요약했습니다. 인간은 GPT-2의 결과물을 그럴듯하다고 느낍니다. GPT-2는 악용 목적으로 미세조정될 수 있습니다. 탐지가 어렵습니다 (RoBERTa를 사용하여 15억 파라미터 GPT-2가 생성한 텍스트를 탐지하는 비율은 약 95% 수준). 지금까지 악용에 대한 강력한 증거는 아직 확인되지 않았습니다. 편향성(bias) 연구를 위한 기준이 필요합니다. 이 모든 지적이 타당하며, OpenAI는 초기 단계부터 특히 오용과 편향성이라는 잠재적 위험을 식별하는 데 훌륭한 역할을 했습니다.

  1. GPT-2 vs. ChatGPT 오늘날(2022년 12월) 우리는 이미 ChatGPT가 얼마나 잘 작동하는지 보았습니다. 그러니 이제 와서 보면 GPT-2는 그다지 해롭지 않은 것처럼 보입니다. 우리는 그들이 GPT-2를 통해 배운 점을 ChatGPT에 적용해 사람을 사칭하지 않도록 하는 방식 등 악용을 방지했다는 것을 알 수 있습니다. 하지만 학생들이 ChatGPT를 이용해 숙제를 대신 하게 만드는 등 다른 많은 악용 사례는 여전히 통제하기가 더 어렵습니다.
원문 보기
원문 보기 (영어)
GPT-2 is a direct scale-up of GPT-1 , with more parameters and trained on more data. However, it was deemed too dangerous to release by OpenAI: Due to our concerns about malicious applications of the technology, we are not releasing the trained model. As an experiment in responsible disclosure, we are instead releasing a much smaller model for researchers to experiment with, as well as a technical paper. OpenAI Blog – Better Language Models and Their Implications GPT-1 was released to the public without such serious concerns. Therefore, the above claim made the public wonder how powerful GPT-2 must be in generating texts that look like humans wrote. Moreover, what’s the difference between GPT-1 and GPT-2? 1 The Difference: GPT-1 vs. GPT-2 In the GPT-1 paper , they experimented with the model on zero-shot task transfer in that they used the pre-trained model with heuristic solutions to perform specific tasks. The experiment’s success suggests that without supervised fine-tuning, the language model already contains information required to perform specific tasks. All that knowledge is stored in network parameters (weights and biases) . In other words, more parameters should increase the capacity of the language model and make it more robust to those specific tasks. In this sense, fine-tuning simply adds the final touch to the model for a specific task, and therefore the main thing that makes GPT-1 great is the pre-training . So, pre-training such a model with more parameters should improve the model’s performance further. Hence, GPT-2 is a direct scale-up of GPT-1, with more parameters and trained on more data. As such, GPT-1 and GPT-2 are not different in terms of architecture. Both are based on the transformer’s decoder. However, their main difference is the number of parameters and the amount and variety of training texts that allows the neural network to acquire more language knowledge and understanding and absorb them into its parameters. The larger model of GPT-2 (that was not released in February 2019) has 1.5 billion parameters, 10 times more than GPT-1. They trained the model on 40GB of web texts and achieved state-of-the-art results on various language modeling, reading comprehension, question answering, and summarization benchmarks. 2 GPT-2: 1.5B Release The GPT-2 paper explains that there are four configurations of GPT-2. The biggest GPT-2 uses 1.5B parameters for 48 decoder blocks with d_model = 1600. Considering the original transformer used six decoder blocks with the embedding dimension (d_model) of 512, the big GPT-2 model is humongous. Successfully training such a huge model itself is a big achievement. Nine months after the initial announcement of GPT-2, OpenAI decided to release the big GPT-2 with 1.5B parameters along with code and model weights : We hope that this test case will be useful to developers of future powerful models, and we’re actively continuing the conversation with the AI community on responsible publication. … Our experience with GPT-2 over the past nine months has given us valuable insight into the challenges and opportunities for creating responsible publication norms in AI. Open AI Blog – GPT-2: 1.5B Release – November 5, 2019 They summarized their findings from the nine months: Humans find GPT-2 outputs convincing. GPT-2 can be fine-tuned for misuse. Detection is challenging (detection rates of ~95% for detecting 1.5B GPT-2-generated text by RoBERTa). We’ve seen no strong evidence of misuse so far. We need standards for studying bias. All these points are valid, and OpenAI did a great job identifying potential risks, especially misuse and biases, at an early stage. 3 GPT-2 vs. ChatGPT Today (December 2022), we’ve already seen how well ChatGPT performs. So, GPT-2 does not seem so harmful. I can see that they applied what they learned into ChatGPT to prevent misuses, for example, by not impersonating people. However, many other misuses, like students making ChatGPT do their home, are harder to prevent. These problems will likely persist and become widespread as researchers improve their AI capability. Could teachers use a detection model to find out if students have cheated? It’s getting harder. 4 References GPT-1: Generative Pre-Trained Transformer (2018) GPT-2: Better Language Models and Their Implications paper , code OpenAI ChatGPT: Optimizing Language Models for Dialogue OpenAI