Hacker News • 19일 전

AI에 대해 느끼는 것들

IMP

4/10

핵심 요약

한 개발자가 신경망의 놀라운 성능, 초지능 AI의 종말론적 위협, AI 크롤러가 개방형 웹을 파괴하는 문제, 예술가들의 고통, 정치 시스템의 무능함 등 AI 시대의 다양한 감정을 담아 회고한 글입니다. 기술적으로는 긍정적이지만 사회적으로는 어둡다고 결론짓습니다.

번역된 본문

신경망이 이렇게 잘 작동한다는 사실에 놀라움을 느낀다. LLM(대규모 언어 모델)은 '직관'처럼 작동한다. 그저 토큰을 하나씩 생성해나갈 뿐이다. 내부에 계획이나 추론 알고리즘은 없다. 그런데도 어떤 형태의 계획과 추론이 창발한다.

다가오는 파멸에 대해 두려움을 느낀다. 유도프스키(Yudkowsky)의 초지능 AI가 필연적으로 인류를 파괴할 것이라는 주장에는 결함이 없어 보인다. 그럼에도 아무도 진지하게 AI를 샌드박스(격리 환경)에 가두려 하지 않는다. 접근 권한을 줘야 너무나 유용하기 때문이다.

AI 기업들이 개방형 웹 사회를 파괴하는 것에 혐오감을 느낀다. 그들의 크롤러와 에이전트 때문에 웹에서 개방형 커뮤니티를 유지하는 것이 점점 어려워지고 있다. 마치 메뚜기 떼처럼 개방된 위키와 포럼에 몰려들어 압도해버린다.

AI 저질 콘텐츠와의 경쟁으로 고통받는 예술가들에 대해 슬픔을 느낀다. 예술가로 사는 것은 늘 어느 정도의 희생을 필요로 했고, 부를 얻는 사람은 극소수에 불과했다. 이제 AI가 특정 종류의 '콘텐츠'를 더 저렴하고 빠르게 생성할 수 있게 되면서 이는 더욱 어려워졌다.

자본의 힘을 통제하지 못하는 우리 정치 시스템의 무능함에 분노를 느낀다. 정치인들에 대해 불평을 늘어놓을 수는 있지만, 억만장자보다는 민주정부가 권력을 갖는 편을 여전히 선호한다. 결국 이것은 조정된 방식으로 결정을 내리는 문제일 뿐인데, 대부분의 사람들은 문제의 존재조차 인식하지 못한다. 여기에는 AI 기업들이 온갖 자원을 탐욕스럽게 집어삼키며 저지르는 환경 파괴도 포함된다.

이 발견의 시대에 살고 있다는 것에 행복을 느낀다. 우리는 인공지능의 탄생을 목격할지도 모른다. 소프트웨어 개발 분야에서 일하면서, 2026년에 그 실무가 영원히 완전히 바뀌었다. 이것을 직접 목격하는 것은 매혹적이다. 덕분에 다른 방법으로는 결코 만들어지지 않았을 것들(코드, 이미지, 음악)을 생성할 수 있게 되었다.

원문 보기

원문 보기 (영어)

I feel surprise at how well neural networks work. LLMs work like "gut feeling" as they just generate one more token after another. There is no planning or reasoning algorithm inside. Yet, some planning and reasoning emerges. I feel fear about an impending doom. Yudkowsky's argument that a superintelligent AI will inevitably destroy humanity seems to have no flaw. Yet, nobody seriously tries to sandbox AIs because they are too useful with access. I feel disgust about AI companies destroying the open web society. Their crawlers and agents make it increasingly difficult to sustain an open community on the web. Like a locust plague, they descend on any open wiki and forum and overwhelm them. I feel sad about the artists who suffer due to AI-slop competition. Being an artist always required some sacrifice and only a few are fortunate to gain some wealth. This is even harder now that AI can generate some kinds of "content" cheaper and faster. I feel anger about the inability of our political systems to rein in the power of capital. While I can rant about politicians a lot, I still prefer a democratic government to have power instead of billionaires. It essentially just comes down to making some decisions in a coordinated way, but most people are not even aware of the problem. This also covers the environmental destruction by AI companies as they greedily gobble up all kinds of resources. I feel happy to live in this age of discovery. We might observe the creation of artificial intelligence. Working in software development, the practice was radically transformed forever in 2026. It is fascinating to observe this firsthand. It allows me to generate stuff (code, images, music) which would never have been created otherwise. As a conclusion, does the good or the bad outweigh the other? It seems positive on a technological level to me, but bleak on a societal level. (I used Mistral as reviewer here. I typed every word myself.) © 2026-09-06