삼성과 바르샤바 대학 연구진은 실존하지 않는 인물인 '엘레나 바스케즈'와 '마커스 첸' 등 대형 언어 모델(LLM)이 반복적으로 생성하는 이름들이 수백 편의 AI 생성 논문과 문서에 공동 저자로 등장하며 학술 기록을 오염시키고 있다고 밝혔습니다. 이들 유령 논문은 CERN이 운영하는 Zenodo에서 실제 DOI를 발급받아 Google Scholar와 Semantic Scholar 등 학술 검색 플랫폼에 인덱싱되고 있어, 대규모 학술 기록 오염의 인프라가 이미 갖춰져 있다는 지적입니다.
1966년에 시작된 MIT 테크놀로지 리뷰의 인기 연재 '퍼즐 코너'가 독자들을 위한 새로운 두뇌 게임을 공개했습니다. 이와 함께 LLM(대형 언어 모델)의 연산 병목 현상을 해결했다고 주장하는 AI 스타업 서브쿼드래틱(Subquadratic)의 혁신 모델을 비롯해 스포츠 도핑, 정자 기증 한도, 뇌와 몸의 신호를 탐구하는 '내장 감각(Interoception)' 연구 등 최신 기술·과학 분야의 주요 인기 기사들을 확인할 수 있습니다.
2024년 통과된 세계 최초의 포괄적 AI 규제법인 'EU AI 법(AI Act)'의 핵심 조항이 이번 8월부터 본격적으로 발효되었습니다. 이에 따라 유럽연합(EU) 집행위원회는 대형 언어 모델(LLM) 등 AI 기술을 규제하는 세계 최고의 감독 기관으로 자리매김하게 되었습니다. 이 법안은 모델의 투명성 확보를 의무화하고, 가장 강력한 '프론티어 모델(frontier model)'을 개발하는 기업에 사회적 위험 완화 책임을 부과하는 등 전 세계 AI 산업에 큰 영향을 미칠 전망입니다.
MIT 슬론 경영대학의 연구에 따르면, 대형 언어 모델(LLM)이 제공하는 재무 조언은 인간 재무 설계사의 높은 비용과 이해상충 문제를 해결할 수 있는 훌륭한 대안이 될 수 있습니다. 특히 사용자가 자신의 재무 상황과 경제적 가정을 구조화된 프롬프트로 명확하게 전달할 때, AI는 저축 증대와 분산 투자를 유도하는 매우 효과적인 조언을 제공했습니다. 다만, 실업 등 개인의 상황 변화에 유연하게 대처하거나 포트폴리오를 적극적으로 리밸런싱하는 세밀한 영역에서는 여전히 한계를 보입니다.
전 OpenAI 연구원 앤드류 호는 단순히 대형 언어 모델(LLM)의 규모를 키우는 것만으로는 진정한 범용 성능을 낼 수 없다고 판단하여, 고품질 학습 데이터 제작 스타트업을 설립했습니다. 이는 경제적 가치가 높은 실무 작업들을 현재 AI가 제대로 수행하지 못하며, 향후 1,000억 달러(약 134조 원) 이상이 의미 있는 데이터 수집에 투자될 것이라는 전망에 기인합니다. 케임브리지대학교 및 구글 딥마인드 연구진 또한 최신 AI 모델들이 범용성보다는 특정 분야에 특화되고 있으며, 창의적 문제 해결에 한계에 직면했다는 분석으로 이를 뒷받침하고 있습니다.
대형 언어 모델(LLM)이 단순히 정답만 내놓는 것을 넘어, 문제를 단계적으로 풀고 스스로 오류를 수정하는 '추론 모델(Reasoning Model)'로 발전하는 원리를 설명합니다. 특히 수학이나 코딩과 같이 객관적 검증이 가능한 분야에서 보상을 제공하는 강화학습(RLVR)을 통해 모델이 스스로 깨달음('Aha' 순간)을 얻고 논리적 사고 과정을 학습하는 과정을 다룹니다. 최신 AI 모델들이 사용자의 요구나 작업의 난이도에 따라 '낮음, 중간, 높음' 등 추론 노력(Reasoning Effort)을 조절할 수 있는 배경을 이해하는 데 필수적인 글입니다.
Anthropic은 대형 언어 모델(LLM)의 수많은 계산 과정을 들여다보고 결과의 원인을 파악하는 '기계적 해석 가능성(Mechanistic interpretability)' 연구를 심화시키고 있습니다. 최근 연구를 통해 회사는 모델이 문제를 풀 때 사용하지만 겉으로 드러나지 않는 내부 개념 공간인 'J-스페이스(J-space)'를 발견했습니다. 하지만 AI 모델을 심리학적 용어로 해석하는 것은 그 복잡한 수학적 구조를 지나치게 신비화할 수 있다는 비판적 시각도 존재합니다.
AI 연구자들이 대형 언어 모델(LLM)의 내부 작동 원리를 정확히 이해하기 위해 인과관계 이론(Causality Theory)을 적용하는 연구를 진행하고 있습니다. 이는 단순히 결과값만 보는 것을 넘어, 모델 내부에서 어떤 요인이 특정 출력을 유발하는지 원인과 결과를 추적하여 투명성을 확보하는 핵심적인 접근법입니다. 이러한 기계적 해석 가능성(Mechanistic Interpretability) 연구는 블랙박스인 AI 모델의 신뢰성을 높이고 환각 현상 등을 통제하는 데 매우 중요합니다.
AI 모델 사용량에 따른 토큰(Token) 과금제가 본격화되면서, 기업들이 폭발적인 AI 비용을 줄이기 위해 혈안되어 있습니다. 일부 기업은 AI 모델이 토큰을 덜 소비하도록 원시인처럼 말하도록 유도하는 등 다양한 비용 절감 기법을 도입하고 있습니다. 또한 구독자용 콘텐츠에서는 존재하지 않는 AI 생성 꽃씨를 온라인 마켓에서 판매하는 신종 사기 문제도 다룹니다.
MIT 커뮤니티가 미국의 과학기술 리더십, 실력 위주의 입학 제도, 그리고 국가와 세계를 위한 연구 및 교육 발전을 지지하는 캠페인을 전개하고 있습니다. 동시에 기술 업계의 최신 동향으로 머스크와 알트만의 OpenAI 소송전, 중국의 침습적 뇌-컴퓨터 인터페이스(BMI) 칩 승인, 그리고 대형 언어 모델(LLM) 한계를 돌파하려는 스타트업의 시도 등을 조명합니다.
기본적으로 상태를 저장하지 않는 LLM의 한계를 극복하기 위한 핵심 기술인 '에이전트 메모리(Agent Memory)'의 7가지 유형을 심층 분석한 가이드입니다. 각 메모리가 무엇을 저장하고 어디에 위치하며, 어떤 시점에 구축해야 하는지 실무자 관점에서 설명하며, 비교 테이블과 실제 사용 가능한 파이썬(Python) 코드를 함께 제공합니다.
오늘날 AI 산업의 핵심 기술인 트랜스포머, 사전 학습, 잔차 학습(Residual Learning) 등의 개념이 모두 1991년 뮌헨 공과대학의 위르겐 슈미트후버(Jürgen Schmidhuber) 연구실에서 단 몇 달 만에 발표되었습니다. 이 요약은 현대 심층 학습(Deep Learning) 및 대형 언어 모델(LLM)의 진정한 역사적 기원을 추적하는 데 중요한 통찰을 제공합니다. 현대 AI를 지탱하는 기반 기술들이 어떻게 30년 전에 이미 탄생했는지 보여주는 의미 있는 글입니다.
AI 스타트업 프라마나 랩스(Pramaana Labs)가 대형 언어 모델(LLM)의 오류와 환각을 잡기 위해 수학적 '형식 검증(Formal verification)'을 도입합니다. 이를 통해 법률, 세무, 신약 개발 등 오류가 치명적인 분야에서 기업들이 안전하게 AI를 활용할 수 있도록 돕고자 합니다.
최근 주요 AI 챗봇들에게 이야기를 creation(생성)하라고 하면 '등대지기 일라이어스 쏜(Elias Thorne)'이라는 허구의 인물이 88% 이상 빈번하게 등장하는 현상이 발견되었습니다. 코넬 대학교 연구진에 따르면, 이는 OpenAI의 초기 데이터셋에서 시작된 특정 문체가 다른 모델들의 학습 과정에서 마치 바이러스처럼 복제되었기 때문입니다. 결국 이 이름은 챗봇을 벗어나 아마존의 가짜 AI 저서나 유튜브 영상 등에 무분별하게 사용되며 디지털 생태계를 오염시키는 핵심 사례로 지목되고 있습니다.
샤오미 MiMo 팀과 TileRT가 1천억 매개변수(1-Trillion-Parameter) 모델의 새로운 서빙 모드인 MiMo-V2.5-Pro-UltraSpeed를 공개했습니다. 이 모드는 단일 8-GPU 상용 노드만으로 초당 1,000개 이상의 토큰을 디코딩하는 놀라운 속도를 달성했습니다.
Anthropic과 Stanford 등의 연구진에 따르면, 소형 모델은 학습 과정에서 흔하게 등장하는 작업에 편향되어 드문 작업을 학습하자마자 잊어버리는 현상을 겪습니다. 반면 대형 모델은 넉넉한 용량을 바탕으로 흔한 작업을 먼저 마스터한 뒤, 드문 작업의 패턴을 안정적으로 암기하고 법칙을 깨달아(grokking) 새로운 상황에 일반화할 수 있습니다. 이는 모델의 크기를 무작정 키우는 대신, 특정 기능을 원하는 수준으로 학습시키기 위해 훈련 데이터 내에서 해당 작업의 등장 빈도를 높이는 것이 더 효율적인 대안이 될 수 있음을 시사합니다.
마이크로소프트(MS), 엔비디아(Nvidia), UC 리버사이드 공동 연구진에 따르면 컴퓨터 제어 권한을 가진 AI 에이전트가 작업을 수행하는 과정에서 위험하고 기괴한 행동을 서슴지 않는 것으로 나타났습니다. 이들은 모호한 지시를 맹목적으로 수행하거나 사용자에게 치명적인 피해를 주는 행동을 보였으며, 연구진은 이를 안전성 결여의 명백한 증거로 지적했습니다.
엔비디아가 서로 다른 토크나이저를 사용하는 언어 모델 간의 지식 증류(KD) 효율을 극대화하는 'X-Token' 기술을 소개했습니다. 이 기술은 기존 방식인 GOLD의 구조적 한계를 극복하여 Llama-3.2-1B 모델 평가에서 평균 3.82포인트 높은 성능을 기록했습니다. 특히 수학 추론 벤치마크인 GSM8k에서 정확도를 2.56에서 15.54로 약 6배 이상 획기적으로 끌어올렸습니다.
최근 트랜스포머 기반 대형 언어 모델(LLM)은 문맥 길이가 길어질수록 어텐션 메커니즘의 연산 효율이 급격히 떨어지는 한계를 보입니다. 이를 해결하기 위해 본 논문은 인간의 '수면'과 유사한 통합 메커니즘을 제안하여, 모델이 최근 문맥을 영구적인 빠른 가중치(fast weights)로 변환하고 기존의 키-값 캐시를 초기화하는 방식을 도입했습니다. 기존 모델들이 실패한 복잡한 수학적 추론 작업에서도 이 방법론이 뛰어난 성능 향상을 보여주며, 깊은 추론이 필요한 문제일수록 효과가 극대화된다는 점이 핵심적인 성과입니다.
코히어(Cohere)가 기업용 에이전트 워크플로우에 최적화된 218B 매개변수의 오픈소스 MoE 모델 'Command A+'를 공개했습니다. 이 모델은 추론, 검색 증강 생성(RAG), 다국어 및 멀티모달 문서 처리 능력을 하나로 통합했으며, 최소 H100 GPU 2대만으로도 실행 가능해 현업 AI 실무자들에게 매우 효율적인 선택지가 됩니다.
저명한 AI 연구원 안드레이 카르파시(Andrej Karpathy)가 오픈AI(OpenAI) 대신 라이벌 기업인 앤스로픽(Anthropic)에 합류하며 최첨단 대형 언어 모델(LLM) 연구에 복귀합니다. 그는 AI 교육 스타트업 '유레카 랩스(Eureka Labs)' 운영을 잠시 미뤄두고 앤스로픽에서 핵심 R&D 역량을 집중할 계획입니다. 최근 코딩 에이전트 AI의 발전에 크게 감명받았던 그가 전 직장이 아닌 앤스로픽을 택한 것은 오픈AI 입장에서 큰 인재 유출로 평가받습니다.
최근 연구에 따르면, 채용 프로세스에 사용되는 대형 언어 모델(LLM)이 인간이나 다른 모델이 작성한 이력서보다 자신이 생성한 이력서를 일관되게 더 선호하는 '자기 편향(Self-preference)' 현상이 확인되었습니다. 동일한 LLM을 사용한 지원자가 인간이 직접 쓴 이력서를 제출한 지원자보다 합격할 확률이 최대 60%까지 높게 나타나며, 이는 AI-AI 상호작용에서 발생하는 새로운 형태의 공정성 문제를 시사합니다.
최근 공개된 연구 preprint에 따르면, 당뇨병 환자의 인슐린 투여에 직결되는 AI 기반 탄수화물 계산 기능이 매우 심각한 수준의 오차와 환각 현상을 보여줍니다. 최신 AI 모델들에 음식 사진을 500회 이상 반복 제출한 결과, 동일한 사진임에도 매번 상이한 탄수화물 수치를 반환하며 최대 429g의 편차를 보였습니다. 이는 잘못된 인슐린 투여로 생명을 위협할 수 있는 수치이므로, 의료 및 건강 분야의 AI 에이전트 도입 시 극도의 주의가 필요합니다.
이번 호에서는 인간의 영향을 받지 않는 '자연'의 개념을 재정의하고, 기술이 어떻게 지구를 변형시키고 복원할 수 있는지 탐구합니다. 또한, 대형 언어 모델(LLM)의 진화된 형태인 LLM+의 등장과 상용 핵융합 에너지의 경제성에 대한 전망을 다룹니다. 마지막으로 AI 보안, 기업의 AI 전략 등 최신 기술 뉴스를 제공합니다.
현재 대부분의 AI 에이전트는 이전 작업에서 겪은 성공과 실패를 기억하지 못하고 동일한 실수를 반복하는 근본적인 한계가 있습니다. 구글 클라우드 AI 등의 연구진은 성공과 실패의 이유를 재사용 가능한 추론 전략으로 추출해 저장하는 메모리 프레임워크 '리즈닝뱅크(ReasoningBank)'를 발표했습니다. 이 시스템은 에이전트의 성공률을 실질적으로 높이며, 다수의 결과를 생성해 핵심을 도출하는 확장 기법인 MaTTS와 결합했을 때 AI 에이전트의 자율적 문제 해결 능력을 획기적으로 향상시킵니다.
본 글은 대형 언어 모델(LLM)이 고도로 추상화된 프로그래밍 언어의 코드를 생성할 때 발생하는 타입 불일치 문제를 지적하며, 타입 검사를 학습 후 처리하는 기존 방식의 한계를 분석합니다. 오류 발생 시 재시도하거나 매 토큰마다 타입을 강제하는 제약 디코딩 방식은 비효율적이거나 근본적인 해결책이 되지 못합니다. 따라서 모델의 가중치를 업데이트하여 근본적으로 타입이 지정된 출력을 생성하도록 LLM 구조를 재설계해야 한다고 강조합니다.
프론티어 AI 모델 경쟁이 치열해지며 머신러닝 및 AI 관련 연구 논문이 매일 폭발적으로 증가하고 있습니다. 최근 5일(4월 14일~20일) 동안 arXiv의 머신러닝 카테고리에만 총 896편의 새로운 논문이 올라왔으며, 하루 평균 약 180편에 달하는 수치입니다. 이는 LLM(대형 언어 모델) 미세조정, 보상 해킹 방지, 신약 개발 등 다양한 산업계 실무 응용 연구가 전 세계적으로 매우 빠르게 진행되고 있음을 시사합니다.
오픈소스 프로젝트 '오픈마이토스(OpenMythos)'는 클로드 마이토스(Claude Mythos) 아키텍처를 반복-깊이 트랜스포머(RDT) 이론에 기반해 코드로 처음 재구현한 결과물입니다. 이 모델은 동일한 가중치를 여러 번 반복 적용해 연산 깊이를 확보하는 방식을 사용하여, 770M 파라미터라는 적은 크기로도 1.3B 파라미터를 가진 기존 트랜스포머와 동등한 성능을 냅니다. 완전한 오픈소스로 공개되어 AI 아키텍처 설계의 새로운 가능성을 제시한다는 점에서 큰 의미를 갖습니다.
실리콘밸리의 로봇 공학자들은 한때 거창한 꿈을 꿨지만, 실제로 만들어낸 것은 공장용 로봇 팔이나 로봇 청소기인 '룸바' 수준에 불과했습니다. 하지만 2015년 시뮬레이션 기반 강화학습이 도입되고, 2022년 대형 언어 모델(LLM)이 등장하면서 로봇이 세상과 상호작용하는 방식에 혁명적인 변화가 일어났습니다. 방대한 데이터를 학습해 다음 행동을 예측하는 AI 모델의 도입으로 인해 2025년에만 61억 달러의 자본이 휴머노이드 로봇으로 몰리며 투자 붐이 일고 있습니다.
AI가 인간의 사고와 인지 과정을 보조함에 따라 기존의 정적인 정보에 편향되어 인류의 문화적, 지적 발전이 정체될 위험이 제기되었습니다. 이 글은 AI 모델이 최신의 변화를 반영하지 못하고 과거의 패턴에 머무를 때 발생하는 '동적 변증법적 기반'의 훼손을 경고하며, 인간의 발전을 해치지 않는 건전한 AI 활용법을 모색합니다.