네이티브(Nativ): 맥에서 로컬 AI 모델을 실행하는 방법
네이티브(Nativ)는 구글, 코히어, 리퀴드 AI의 최신 오픈소스 모델을 맥(Mac) 환경에서 로컬로 구동할 수 있게 해주는 도구입니다. 사용자의 맥 하드웨어 사양을 분석하여 최적의 파트너 모델을 추천해 주는 것이 핵심 특징입니다. 개발자와 실무자들이 별도의 클라우드 비용 없이 자신의 기기에서 다양한 최신 AI 모델을 테스트하고 활용할 수 있다는 점에서 의미가 있습니다.
네이티브(Nativ)는 구글, 코히어, 리퀴드 AI의 최신 오픈소스 모델을 맥(Mac) 환경에서 로컬로 구동할 수 있게 해주는 도구입니다. 사용자의 맥 하드웨어 사양을 분석하여 최적의 파트너 모델을 추천해 주는 것이 핵심 특징입니다. 개발자와 실무자들이 별도의 클라우드 비용 없이 자신의 기기에서 다양한 최신 AI 모델을 테스트하고 활용할 수 있다는 점에서 의미가 있습니다.
Docker Desktop 개발진이 나서서 만든 올라마(Ollama)는 복잡한 설정 없이 로컬 환경에서 오픈소스 AI 모델을 손쉽게 실행할 수 있는 플랫폼입니다. 개발자들에게 모델의 완전한 소유권, 무료 활용, 데이터 프라이버시를 제공하며 포춘 500대 기업의 85%가 사용할 정도로 업계 표준으로 자리 잡았습니다. 최근 8,800만 달러(약 1,200억 원)의 시리즈 B 투자를 유치하며, 강력한 클라우드 환경 구축과 오픈소스 AI 생태계 확장에 박차를 가하고 있습니다.
데이터브릭스가 자체 코드베이스 테스트 결과, 중국의 오픈소스 모델인 GLM 5.2가 앤스로픽의 오푸스 4.8(Opus 4.8)과 통계적으로 동등한 성능을 내면서도 비용은 훨씬 저렴하다는 사실을 확인했습니다. 이에 따라 데이터브릭스는 개발자들의 일상적인 업무용 코딩 모델로 GLM 5.2를 기본 도입할 계획이며, 코인베이스 등 다른 기업들 또한 비용 절감을 위해 중국산 모델로 빠르게 전환하고 있습니다.
에이전트 코딩(Agentic Coding) 작업에 특화된 오픈소스 모델인 Ornith-1.0이 공개되었습니다. 이 모델은 스스로 문제 해결을 위한 구조(Scaffold)를 생성하고 최적화하는 '자가 개선형 학습 프레임워크'를 적용하여, 동급의 타 오픈소스 모델은 물론 Claude Opus 4.7을 넘어서는 최고 수준의 벤치마크 성능을 기록했습니다. 엣지 기기에 배포 가능한 9B 소형 모델부터 397B 대규모 MoE 모델까지 다양한 버전을 제공하는 것이 특징입니다.
Semgrep의 보안 취약점(IDOR) 탐지 테스트 결과, 중국 Z.ai의 오픈웨이트 모델인 GLM 5.2가 단순 프롬프트만으로도 Claude Code보다 뛰어난 성능을 기록했습니다. 이는 복잡한 하네스(정적 분석 스캐폴딩) 없이도 최신 오픈소스 모델이 프롬프트만으로 프론티어(최고 수준) 코딩 에이전트를 앞지를 수 있음을 증명하는 결과입니다. 특히 1M 토큰의 긴 문맥 처리와 MIT 라이선스 기반의 자체 구축 가능성 덕분에 민감한 데이터를 다루는 보안 실무자들에게 중요한 대안으로 떠오르고 있습니다.
한 개발자가 자전거 주행 중 촬영한 방대한 고프로 영상에서 유의미한 순간을 찾기 위해 오픈소스 ML 모델을 활용했습니다. 이 로컬 기반 파이프라인은 영상 내 장면을 검색하고, 최적의 클립을 다빈치 리졸브 타임라인으로 바로 전송하는 등 영상 편집 워크플로우를 획기적으로 자동화합니다.
거액의 하드웨어 구매 부담 없이 개인이 AI 코딩을 활용하는 세 가지 전략과 최적의 하이브리드 방식을 제시합니다. 단순 API(API) 호출과 프론티어 정기 구독을 혼합하고 명세서 주도 개발을 적용하면, 소규모 팀의 한 달 치 작업량을 단 1천 달러로 처리할 수 있습니다.
바이오허브(Biohub)가 생명체의 모든 단백질 구조를 예측하고, 실험실에서 기능이 검증된 새로운 단백질을 설계할 수 있는 '단백질 생물학 월드 모델'을 오픈소스로 공개했습니다. 이번에 발표된 핵심 모델인 ESMFold2는 항암 및 면역학 치료제 타겟에 대한 단백질 결합제를 며칠 만에 설계해냈으며, 실험을 통해 높은 안정성과 친화도를 입증했습니다. 이는 기존 신약 후보물질 발굴에 수년이 걸리던 전통적인 과정을 혁신할 수 있는 생물학 및 제약 분야의 획기적인 이정표로 평가됩니다.
마이크로소프트가 발표한 MAI-Code-1-Flash는 활성 파라미터 50억 개(5B)라는 가벼운 크기에도 불구하고 코딩 벤치마크인 SWE-Bench Pro에서 51%의 높은 성능을 기록했습니다. 복잡한 코딩 작업을 처음부터 끝까지 추론하고, 사용자의 개입 없이 자율적으로 다단계 워크플로우를 수행하는 에이전트 기능이 핵심입니다. 특히 VS Code 환경의 GitHub Copilot에 최적화되어 개발자들에게 획기적인 생산성 향상을 제공할 전망입니다.
리퀴드 AI는 엣지 환경에 최적화된 혼합 전문가(MoE) 구조의 새로운 언어 모델 'LFM2.5-8B-A1B'를 발표했습니다. 이번 모델은 기존 대비 3배 이상 확장된 38조 개의 토큰으로 사전 학습되었으며, 컨텍스트 윈도우가 128K로 늘어났고 추론 성능이 대폭 향상되었습니다. 특히 어휘량을 두 배로 늘려 비 라틴어권 언어의 토크나이징 효율을 높이고, 대규모 강화 학습을 적용해 가벼운 소비자용 하드웨어에서도 강력한 온디바이스 성능을 발휘하는 것이 가장 큰 특징입니다.
서로 다른 세대(RDNA4, RDNA3)의 AMD 그래픽 카드 두 장을 결합해 총 48GB VRAM 환경을 구축한 사례입니다. 호환성 문제로 인해 로존(ROCm) 대신 벌칸(Vulkan) 백엔드를 사용하여 성공적으로 llama-cpp 서버를 실행했습니다. 이는 추가 그래픽 카드와 파워서플라이 정도의 적은 비용으로 대규모 로컬 AI 모델 구동을 위한 막대한 VRAM을 확보할 수 있음을 보여줍니다.
미스트랄이 지시어 준수, 추론, 코딩 능력을 결합한 128B 밀집형 플래그십 모델 'Mistral Medium 3.5'를 공개했습니다. 이와 함께 코딩 에이전트 'Vibe'를 클라우드로 확장하여 비동기 방식의 병렬 작업을 지원하며, 'Le Chat'에는 복잡한 다단계 작업을 수행하는 새로운 'Work mode(작업 모드)'를 도입했습니다.
큐웬(Qwen) 3.6 모델의 35B-a3b(MoE 구조)에서 27B(Dense 구조)로 전환해 코딩 및 디버깅 능력이 크게 향상된 로컬 AI 개발자의 사용기입니다. VRAM 한계로 압축률이 높은 IQ3 모델을 사용했음에도 불구하고 기존 모델보다 복잡한 버그를 더 잘 찾아냈으며, 전체적인 처리 속도도 안정적이었습니다.
오픈소스 로컬 LLM 유저가 새로운 큐웬(Qwen) 2.5 모델이 오프라인 환경에서도 실용적인 성능을 발휘한다고 평가했습니다. 클로드 오푸스(Claude Opus)나 코덱스(Codex) 급은 아니지만, 애플 M5 Max 환경에서 매우 빠른 속도로 작동하며 유의미한 작업이 가능한 수준이라고 언급했습니다. 단, 모델의 추론 기능을 끄지 않는 `preserve_thinking` 설정을 반드시 켜야 최적의 성능을 얻을 수 있습니다.