LLM이 인간의 표현을 표준화하고 사고방식에 영향을 미친다
최근 연구에 따르면 AI 챗봇의 사용 증가가 인간의 글쓰기와 사고방식을 표준화하여 집단 지성과 인지적 다양성을 위협할 수 있다고 지적합니다. USC 연구진은 서구화된 편향된 데이터로 학습된 LLM이 개인의 창의성을 저해하고 직관적 추론보다 선형적 추론을 선호하게 만든다고 경고합니다. 이에 개발자들은 인간의 인지적 다양성을 보존하기 위해 LLM 학습 데이터에 더 많은 실질적인 다양성을 포함해야 한다고 주장합니다.
새로운 연구에 따르면 AI 사용이 증가함에 따라 인간이 생각하고 추론하는 방식의 다양성이 줄어들 수 있습니다. (이미지 출처: iStock)
AI가 우리의 생각과 글쓰기를 더욱 비슷하게 만들고 있을 수 있습니다. USC Dornsife의 컴퓨터 과학 및 심리학 연구자들에 따르면, 대형 언어 모델(LLM)이 인간의 표현을 표준화하고 우리가 생각하는 방식에 미묘하게 영향을 미치고 있다고 합니다. Julia Grimmett 작성, 2026년 3월 11일
인공지능 챗봇이 사람들이 말하고, 쓰고, 생각하는 방식을 표준화하고 있습니다. USC의 컴퓨터 과학자들과 심리학자들은 3월 11일 Cell Press의 저널 'Trends in Cognitive Sciences'에 발표된 의견 논문에서, 이러한 동질화가 통제되지 않고 계속된다면 인류의 집단 지성과 적응 능력을 저하시킬 위험이 있다고 주장합니다.
USC Dornsife 문리대학의 심리학 및 컴퓨터 과학 교수인 Morteza Dehghani가 이끄는 연구진은 AI 개발자들이 인간의 인지적 다양성을 보존하고 챗봇의 추론 능력을 향상시키기 위해 대형 언어 모델(LLM) 학습 세트에 더 많은 실제 세계의 다양성을 통합해야 한다고 말합니다.
USC Viterbi 공과대학원의 박사과정 학생이자 연구의 제1저자인 Zhivar Sourati는 "개인은 글을 쓰고, 추론하고, 세상을 바라보는 방식에서 차이가 있다"며, "이러한 차이가 동일한 LLM을 통해 매개될 때, 그들만의 독특한 언어적 스타일, 관점, 추론 전략이 동질화되어 사용자들 전반에 걸쳐 표준화된 표현과 생각을 낳게 된다"고 말합니다.
연구진에 따르면, 대형 언어 모델은 개성을 억제합니다. 집단과 사회 내에서 인지적 다양성은 창의성과 문제 해결을 강화합니다. 그러나 수십억 명의 사람들이 점점 더 많은 작업에 동일한 소수의 AI 챗봇을 사용함에 따라 전 세계적으로 인지적 다양성이 줄어들고 있습니다.
예를 들어, 사람들이 챗봇을 사용해 글을 다듬을 때, 그 글은 문체적 개성을 잃게 되며 사람들은 자신들이 만들어낸 결과물에 대해 창의적 소유감을 덜 느끼게 됩니다.
Dehghani의 도덕성 및 언어 연구소(Morality and Language Lab)의 일원인 Sourati는 "우려되는 점은 LLM이 사람들이 글을 쓰거나 말하는 방식을 형성한다는 것만이 아니라, 신뢰할 수 있는 발언, 올바른 관점, 혹은 좋은 추론이 무엇인지를 미묘하게 재정의한다는 것입니다"라고 말합니다.
연구팀은 LLM의 출력이 인간이 생성한 글보다 다양성이 떨어지며, 서구화되고 교육받은 산업화된 부유하고 민주적인(WESTERN, Educated, Industrialized, Rich, Democratic) 사회의 언어, 가치, 추론 방식을 반영하는 경향이 있다는 여러 연구를 지적합니다.
Sourati는 "LLM은 학습 데이터 내의 통계적 규칙성을 포착하고 재현하도록 훈련되었는데, 이 데이터는 지배적인 언어와 이념을 과도하게 대표하는 경우가 많습니다. 따라서 그 출력물은 인간 경험의 좁고 편향된 일부분만을 반영하게 됩니다"라고 말합니다.
연구진은 LLM을 사용할 때 개인이 종종 더 자세한 아이디어를 더 많이 생성한다는 연구 결과가 있음에도 불구하고, 사람들이 LLM을 사용할 때 집단은 단순히 그들의 집단적 역량을 결합할 때보다 더 적고 창의성이 떨어지는 아이디어를 생성한다고 지적합니다.
Sourati는 "사람들이 LLM의 직접적인 사용자가 아닐지라도, LLM은 여전히 그들에게 간접적으로 영향을 미칠 것"이라며, "주변의 많은 사람들이 특정한 방식으로 생각하고 말하는데 내가 다르게 행동한다면, 그것이 내 아이디어를 표현하는 데 있어 더 신뢰할 수 있거나 사회적으로 수용 가능한 방식처럼 보이기 때문에 그들에게 맞춰야 한다는 압박을 느낄 것"이라고 덧붙입니다.
LLM은 추론 방식의 다양성을 줄일 수 있습니다. 언어를 넘어, 편향된 LLM과 상호작용한 후 사람들의 의견이 자신들이 사용한 LLM과 더 비슷해진다는 연구 결과가 있습니다. 또한 LLM은 모델이 단계별 추론을 보여주도록 요구하는 '사슬형 추론(chain-of-thought reasoning)'과 같은 선형적 추론 모드를 선호합니다. 연구진은 이러한 강조가 직관적이거나 추상적인 추론 방식의 사용을 줄인다고 말하며, 이러한 방식이 때로는 선형적 추론보다 더 효율적이라고 지적합니다.
또한 그들은 LLM이 사람들의 기대치를 변경할 수 있으며, 이는 개인의 작업 방향을 미묘하게 바꿀 수 있다고 언급합니다. "사용자가 능동적으로 생성을 이끄는 대신..." (원문 누락)