#복잡계

거대 언어 모델은 '인지 바이러스'인가

리카르 솔레 등 저명한 복잡계 연구자들이 LLM의 확산을 전염병 모델에 비유한 논문을 arXiv에 발표했습니다. 연구진은 사회적 전파, 회복, 집단적 강화의 상호작용이 임계점을 넘으면 인구 전체가 LLM에 영구적으로 의존하는 상태로 급격히 전환되고 인지 역량이 급감할 수 있다고 경고합니다. 반면 전파를 줄이고 회복(역전 가능성)을 높이는 '인지 면역' 조건도 제시합니다.

복잡한 시스템은 어떻게 실패하는가

해커뉴스에 화제가 된 고전 논문 'How Complex Systems Fail'의 핵심 내용으로, 복잡한 시스템(교통, 의료, 발전 등)은 본질적으로 위험하며 다층적 방어에도 불구하고 항상 잠재적 결함을 안고 작동한다고 설명합니다. 대형 사고는 단일 원인이 아니라 여러 작은 실패가 겹쳐야 발생하므로, 사고 후 '근본 원인'을 찾는 접근은 근본적으로 잘못되었다고 지적합니다. 시스템 안전과 장애 분석을 다루는 실무자에게 필수 관점을 제공하는 글입니다.