Jqwik 프로젝트의 반(反) AI 선언 논란
45년 차 베테랑 개발자이자 오픈소스 'jqwik'의 제작자가 AI 코딩 에이전트의 무분별한 남용과 빅테크의 무책임한 행태에 강한 윤리적 반발을 드러냈습니다. 그는 자신의 프로젝트를 보호하고 AI 코드 생성의 위험성을 경고하기 위해 AI 사용을 지적하는 코드를 프로젝트에 실험적으로 추가했습니다. 이 사건은 오픈소스 생태계가 직면한 생성형 AI의 윤리적 딜레마와 갈등을 잘 보여줍니다.
요약(TL;DR): 내가 jqwik에 추가했던 로깅 코드는 야생 환경(실제 운영 환경)에서 있는 그대로 작동할 의도가 전혀 없었으며, 그렇게 작동했다는 증거도 없습니다. 이는 일종의 자기 방어였으며, 나의 개인적인 도덕적 판단에 따른 것이었습니다. 이는 반(反) AI 메시지를 전달하고, 코딩 에이전트를 사용하는 사람들에게 "모든 사람이 당신들이 하는 일에 찬성하는 것은 아니며, 그에는 타당한 윤리적 이유가 있다"는 점을 알리기 위함이었습니다. 그 측면에서 나는 내 임무를 온전히 달성했고, 어쩌면 의도했던 것보다 조금 더 달성했을지도 모릅니다.
서론 최근의 사건들 때문에 아마도 이 블로그 포스트는 내 평소의 다소 제한된 독자층을 넘어선 많은 사람들에 의해 읽히게 될 것 같습니다. 따라서 나 자신과 내 배경, 그리고 왜 이러한 "사태의 격화"가 나의 윤리적 입장에서 논리적인 결과인지 약간의 맥락을 짚고 넘어가는 것이 가치 있다고 생각합니다. 나는 프로그래머로서 45년, 즉 내 인생의 4분의 3이 넘는 시간을 보냈습니다. 돈을 받고 여섯 개의 프로그래밍 언어로 코딩을 했고, 학습, 강의, 실험을 위해 다른 12개의 언어를 사용했습니다. 당시 '퍼블릭 도메인 소프트웨어'라고 불리던 분야에 대한 나의 첫 기여는 1990년대 초반에 이루어졌습니다. 그 이후로 꽤 많은 오픈소스 프로젝트를 만들거나 기여했으며, 그중 가장 잘 알려진 것은 프로그래밍 언어인 Groovy와 JVM 테스팅 플랫폼인 JUnit 5입니다. 2017년부터 2년 전까지, 속성 기반 테스트(property-based testing)를 전담하는 테스트 엔진인 Jqwik은 내 여가 시간의 큰 부분을 차지했습니다. Jqwik은 테스트를 포함하고 외부 모듈을 제외했을 때 약 10만 줄의 코드로 이루어져 있으며, 그 줄의 대부분은 내가 작성했습니다. 다음 개발 단계를 지원하려는 조직이나 회사가 없다는 것이 명확해졌을 때, 나는 이 프로젝트를 유지보수 모드로 전환했습니다.
장면 전환 성인이 된 이후 내내, 나는 항상 올바른 일을 하는 것에 깊은 관심을 가졌습니다. 취미, 프로젝트, 방법론이 얼마나 좋았든 간에, 언젠가는 그것을 좇는 것이 사람들의 웰빙을 증진시키는지, 해치는지, 아니면 그저 즐겁고 중립적인 여가 활동에 불과한지 의문을 품기 시작했습니다. 이러한 윤리에 대한 초점은 내 커리어에 약간의 작고 큰 변화들을 가져왔습니다. 나는 10년 전에 이미 우리 소프트웨어 개발자들의 윤리적 책임(음, 주로 윤리를 고려하지 않는 우리의 실패에 대해)에 대한 몇 차례 강연을 했습니다. 생성형 AI라는 주제는 나에게 특별한 도전 과제로 판명되었습니다. 많은 소프트웨어 개발자들처럼 나 역시 그것에 매료되었고 2021년에 GPT-3를 가지고 실험을 시작했습니다. 심지어 며칠간 진행되는 워크숍 동안 참가자들이 개발하는 제품에 GPT-3를 통합한 내부 소프트웨어 개발 캠프를 기획하고 실행하기도 했습니다. 그러고 나서 나는 이 모델들이 어떻게 작동하고, 어떻게 만들어지며, 어떻게 (잘못) 사용되는지 더 깊이 파고들었습니다. 나는 그것들의 수많은 '외부 효과(externalities)', 즉 해악, 피해, 위험에 대한 아주 노골적인 완곡어법에 대해 알게 되었습니다. 이 주제들에 익숙하지 않다면, 내 블로그 글 "To Gen or Not to Gen"을 읽어보세요. 주장을 확인하거나 구체적인 사항을 후속 조사할 수 있는 많은 참고 자료가 있습니다. 결론부터 말씀드리면, 나의 도덕적 세계관에서 초대형 생성형 AI의 전파와 사용은 극히 비윤리적이며 근본적으로 그렇습니다. 반론할 권리는 있습니다. 하지만 그렇다면 제발 윤리적인 근거를 대시길 바랍니다. 무지한 태도로 "뭐, 내가 좋아하고 유용하니까!"라며 논증들을 일축하지는 말아 주세요.
스캔들 지난 2년간의 'AI' 과열 속에서, 초대형 생성형 AI(GenAI) 뒤에 있는 대기업들이 국경을 알지 못한다는 것은 (적어도 나에게는) 명백해졌습니다. 그들은 모든 것을 빨아들이고, 어떠한 법적 경계도 고려하지 않으며, 그들의 길에 서는 모든 사람과 커뮤니티에 가져오는 파괴에 대해 책임을 지지 않습니다. 그들이 '에이전트 코딩(agentic coding)'으로 밀어붙이면서 이미 파괴해버린 것 중 하나는 자유-오픈소스 소프트웨어(FOSS)의 세계와 소프트웨어 개발 커뮤니티 내의 개방적인 지식 공유입니다. 이상하게도, 속성 기반 테스트라 불리는 jqwik의 소프트웨어 검증 접근 방식은 'AI'가 생성한 코드의 위험과 약점을 일부 완화할 수 있는 바로 그런 종류의 도구입니다. 그래서 나는 jqwik과 나 자신을 방어하기 위해 나섰습니다.
제1막 2023년 초반에 나는 변화를...