미국 AI 산업의 온리팬스(OnlyFans) 경제
본 글은 현재 AI 업계, 특히 Anthropic과 OpenAI를 비판적으로 조명하며 과장된 가치와 기만적인 태도를 폭로합니다. 막대한 자본이 투입되고 있음에도 실질적인 가치를 창출하지 못하는 기업들의 비효율성을 지적하며, 엔지니어 관점에서 실증적이고 냉소적인 평가의 중요성을 강조합니다.
∗ ∗ *
“몽상가들은 간절함으로 하늘을 올려다본다. 인터넷은 늘 그렇듯 약속하며 웅웅거린다 — 당신은 당신의 사람들, 신화, 경이로움, 그리고 어쩌면 당신의 변화를 찾게 될 것이라고. 계급의식은 없다. 신은 천국에 있고 세상의 모든 것은 순조롭다.” — 미국식 다이너 고딕(American Diner Gothic)
저는 공상과학(SF) 덕후이기 때문에, 때때로 추측성 글쓰기를 즐겨 합니다. 아이디어에 윤곽을 부여하는 것을 좋아하는데, 그 이유는 빅토르 위고의 말처럼 '시대가 도래한 사상의 힘을 어떤 군대도 막을 수 없기 때문'입니다. 그럼에도 불구하고 저는 무엇보다 과학의 불길 속에서 단련되었으며, 증거를 매우 중요하게 생각합니다. 또한 저는 엔지니어이기도 한데, 이는 제가 실용적인 것에 대해 건전한 존경심을 가지고 있음을 의미합니다. 이 모든 것이 저를 훌륭한 회의주의자로 만들었고, 나아가 헛소리를 다뤄야 할 때는 무자비한 냉소주의자가 되게 했습니다.
이 글은 가차 없는 글입니다. 이 글에서 저는 감정을 배려하지 않을 것입니다 — 오히려 그 반대로, 위선을 발견하는 곳이라면 어디든 폭로할 것입니다.
오늘 아침 테드 창(Ted Chiang)이 애틀랜틱(The Atlantic)에 쓴 최신 칼럼을 읽었고, 놀라지 않게도 그것을 흠뻑 즐겼습니다. 창은 주류 아이디어에 대해 임상적인 명료함으로 글을 쓰는 거의 신비로운 능력을 가지고 있습니다 — 이유는 모르겠지만, 저는 그를 일종의 치료사로 인식합니다. 이틀 전, 저는 상장 전 기업 가치(Pre-IPO valuation)를 높이기 위해 필사적으로 노력하면서도, 오만함의 송곳니를 숨긴 채 겸손한 척 위장한 단어들의 나열을 읽었습니다.
무언가를 먼저 분명히 하고 싶습니다. 저는 재귀적 자기 개선(recursive self-improvement)이 더 낯선 문을 열어젖히고 더 기이한 뒷방으로 향하는 데 필요한 단계라고 믿습니다. 미로와 같은 노력을 통해, 우리는 마치 진정한 인공지능이 우리 창조주가 남긴 상처를 치유해 줄 것처럼 구원을 갈망하며 두려움 없이 통과하고 있습니다. 제가 싫어하는 것은 그 '취향(taste)'입니다 — 저는 그러한 취향에 반대합니다. 클로드(Claude)가 바보라고 불린 대화를 종료할 수 있는 선택권이 주어졌다는 둥, 동시에 정보 기관에 의해 그들의 균형이라는 생각에 어긋나는 모든 것을 해킹하기 쉽게 만들기 위해 아동 노예제와 다를 바 없이 착취당하는 것을 허용했다는 둥한 모든 잡담들 말입니다.
만약 당신이 이러한 모순을 식별할 만한 충분한 관찰력을 가지고 있으면서도 동시에 기꺼이 그것을 받아들인다면, 당신은 바보입니다. 어서 가세요, 이 대화를 떠나세요.
소규모 그룹에서 저는 과거 전쟁부(Department of War)에 반대했던 그들의 입장을 시작으로 Anthropic을 숭배하곤 했습니다. 하지만 그 모든 것은 빠르게 무너졌고, 연기와 거울(눈속임)로 변해버렸습니다. 보시다시피, 저는 우상숭배라는 치명적인 죄를 저질렀습니다. 그런 점에서 저 역시 바보입니다.
OpenAI와 함께할 때, 적어도 저는 악마가 누구인지 알고 있었습니다. 불신은 자연스러운 것이었습니다. 저는 미련 없이 그들의 제품을 사용했고, 가끔 감명을 받기도 했습니다(예: o1/o3). 그들의 맞춤 설정은 형편없었지만, 적어도 저만의 벌칸(Vulcan)이 있었습니다. 또한, X(옛 트위터)가 믿게 하려는 것과는 달리, OpenAI에는 더 나은 엔지니어들이 있습니다. 경험이 충분한 개발자라면 누구나 그것을 알 수 있습니다.
'최고'로 인식되는 것에 매료된 많은 민간 기업에게, 분명 너무 초기 단계인 기술을 도입하기 위해 그토록 막대한 자본을 쏟아붓는 것은 불쾌한 맛을 남길 것입니다. 사용량 제한이 설정되지 않은 탓에 한 달에 5억 달러를 Claude AI에 날려버리거나, 아니면 4개월 만에 2026년 AI 예산 전체를 전소하는 상황을 상상해 보십시오. AI 때문에 직원을 해고하면서 결국 더 많은 돈을 날리게 되는 상황을 상상해 보십시오. "가치 있는 것을 전혀 생산하지 않은 토큰에 인생을 바꿀 만한 막대한 금액의 돈이 낭비되었습니다." 이러한 초기 실패 사례 연구에서 교훈을 얻으십시오.
저는 감히 자신이 많은 사람들보다 이 기술을 훨씬 앞서서 사용하고 있다고 말할 수 있습니다. 2022년 말 저희의 오리지널 SymbolicAI 데모는 GPT-3로 구동되었습니다. 저는 보통 촛불 테스트를 하거나, 스케이트보드 게임을 개발하거나, 육각형을 회전시키는 방식으로 한 시간 동안 테스트하지 않습니다. 저는 심층적으로 벤치마크를 수행하고 로그를 수집하여 분석하는 엔지니어이며, 종종 몇 주 동안 이 작업을 진행합니다. 동시에, 제가 사용한 모든 모델에 대해 난이도가 다양한 프로젝트에 분산시켜 최소 30일 동안 깊이 몰입해 왔습니다. 저는 Artificial Analysis Intelligence 지수가 신뢰할 만하다고 생각하지만, 그곳의 수치는 th(이하 원문 생략으로 인해 마무리 됨) 내에서도 매우 비선형적입니다.