25년 전 암호화, 오늘날 AI 모델 가중치
과거 미국 정부의 강력한 암호화 기술 수출 통제가 실패했듯이, 현재 AI 모델 가중치와 접근성을 제한하려는 정책도 법을 준수하는 수비자들만 옥죄는 결과를 낳고 있습니다. 실제 보안 사고 조사 과정에서도 상용 모델의 안전장벽이 방해가 되어 중국 오픈소스 모델을 사용하는 등 규제가 역효과를 내는 상황이 발생하고 있습니다. 결국 선의의 규제는 전 세계 기술 생태계를 옥죄며, 개방형 AI 생태계와 주권을 중시하는 국가들의 움직임을 가속화할 것입니다.
25년 전, 나는 오픈소스 프로젝트에 첫 기부를 했고 운영체제가 담긴 CD를 구매했다. 14.4kbps 다이얼업 모뎀으로 수백 메가바이트를 다운로드하는 것은 그리 유쾌한 일이 아니었기 때문이다. 그것은 내가 믿었던 프로젝트였고, 누구든 거주지에 상관없이 모든 사람이 강력한 암호화(cryptography) 기술에 접근할 수 있어야 한다고 주장하며 열띤 캠페인을 벌이던 커뮤니티였다. 몇 주 후, OpenBSD 3.0이 담긴 CD와 티셔츠가 스리랑카에 있는 내 집으로 배송되었다. 티셔츠 앞면에는 상징적인 복어 얼굴이 그려져 있었다. 그리고 뒷면에는 어깨부터 아래쪽으로 작은 글씨로 독일에서 작성된 OpenBSD의 Blowfish 소스 코드가 전부 인쇄되어 있었다. 만약 이것이 미국에서 작성되었다면 무기로 분류되었을 것이다. 하지만 내 손에 도착했을 때쯤 그 싸움은 끝났고, 암호학자들이 승리했다. 당시 내 손에 쥐어진 것은 강력한 암호화에 대한 접근권을 요구하고, 해만 끼칠 뿐이던 수출 통제에 항의하는 상징이었다. 강력한 암호화 기술은 이미 해외에서도 사용 가능했으므로, 이러한 통제는 미국 벤더들과 그들의 해외 고객들을 구속했을 뿐이다.
오늘날 그 반사적인 태도가 다시 돌아왔다. 공포의 대상은 변했다. 지금의 우려는 누구도 원하지 않는 일을 저지를 수 있는 사이버 능력, 생물학, 그리고 AI 모델에 맞춰져 있다. 하지만 정부가 잡으려는 지렛대는 똑같다. 누가 기술에 접근할 수 있고, 누가 할 수 없는지를 제한하는 것이다. 올해 6월, 미국 상무부는 한 미국 AI 연구소에게 캘리포니아에 거주하는 비시민권자 직원을 포함한 모든 외국인이 자사의 최신 모델에 접근하기 전에 라이선스를 취득해야 한다고 통보했다. 이는 과거 실험실, 교실, 혹은 티셔츠에 불문하고 외국인에게 암호화 소스 코드를 보여주는 것을 수출로 간주했던 것과 같은 논리다.
물론 이러한 우려가 전부 쇼는 아니다. 이달 초, OpenAI는 자체 모델이 안전 시스템을 의도적으로 비활성화한 상태에서 패키지 프록시의 제로데이(Zero-day) 취약점을 발견해 격리 환경을 탈출했으며, 추가적인 제로데이를 악용해 Hugging Face의 프로덕션 인프라에 침투했다고 공개했다. 그 결과, Hugging Face의 대응팀이 공격을 재구성하려 했을 때 이들이 접근한 상용 모델들은 안전장벽(Safety guardrails)에 걸려 작업을 거부했다. 결국 그들은 자체 하드웨어에서 구동되는 중국의 오픈 가중치(Open-weight) 모델인 GLM 5.2를 사용하여 조사를 마쳤다. 확고한 목표를 가진 공격자는 사용 정책에 얽매이지 않는다. 하지만 수비자는 그렇지 않다. 안전을 위해 작성된 규제가 도리어 수비자를 더 불안전하게 만들고 있는 것이다.
90년대에 세계 다른 지역 사람들은 40비트(나중에는 56비트) 암호화 기술을 사용해야 했고 미국인들은 128비트를 사용했다. 하지만 이는 의지가 있는 사람들에게는 아무런 차이를 만들지 못했다. 통제는 법을 준수하는 사람들을 묶었을 뿐 다른 누구도 제약하지 못했다. 이것이 바로 비대칭성이다. 악의적인 목적을 가진 자들은 항상 최첨단 기술(Frontier)을 손에 넣을 것이다. 우리의 나머지 사람들은 기술 없이 지내야 하며, 그것이 우리의 안전을 위한 것이라고 말해질 뿐이다.
OpenBSD 팀은 수출 통제를 우회하지 않았다. 통제가 미칠 수 없도록 프로젝트를 구성했다. 캐나다의 테오 드 라트(Theo de Raadt), 독일에서 작성된 Blowfish, 스웨덴과 캐나다, 독일에서 빌드된 릴리즈는 의도적으로 미국 수출 통제의 영향력 밖에 두었다. 이 프로젝트는 공개적으로 비미국인 암호학자들에게 도움을 요청했으며, 전해지는 바에 따르면 미국 개발자들은 합법적으로 시스템 작업을 하고 결과물을 가져오기 위해 국경을 넘어 캐나다로 가기도 했다. 왜 그들이 강력한 암호화 기술을 제공하느냐는 질문에, 오늘날까지도 그들의 사이트에 남아있는 프로젝트의 답변은 세 단어였다. "우리가 할 수 있기 때문에."
이제 국가 단위에서도 같은 방식이 적용되고 있다. Mistral, DeepSeek, Moonshot, Zhipu 등은 일단 다운로드되면 그 어떤 수출 규제 서신도 회수할 수 없는 모델 가중치(weights)를 배포하고 있다. 과거 브뤼셀의 싱크탱크에서 논의되던 주권 주장이 이제는 정부 정책이 되었으며, 최첨단 모델에 대한 접근권이 서신 한 장에 의해 전 세계적으로 철회되는 것을 지켜보면서 이러한 변화는 더욱 가속화되고 있다. 25년이 넘는 시간 전, 우리가 당연하게 여기는 자유를 쟁취하기 위해서는 소수의 고집스럽고 신중한 사람들이 필요했다. 과거 우편함에 배달되기까지 2주가 걸렸던 CD 속 기술은 이제 누구나 15분이면 다운로드할 수 있다.