메뉴
HN
Hacker News 12일 전

LM Studio 바이오닉: 오픈 모델 기반 AI 에이전트

IMP
8/10
핵심 요약

LM Studio가 코딩, 문서 작업 등 실질적인 업무를 수행할 수 있는 전용 AI 에이전트 '바이오닉(Bionic)'을 출시했습니다. 이 도구는 로컬 모델과 클라우드의 오픈소스 모델을 유연하게 활용하면서도, 철저한 데이터 비보존(Zero Data Retention) 정책을 통해 개인정보 보호와 비용 통제를 지원하는 것이 핵심입니다. 특히 로컬 음성 입력, 에이전트 기반의 코드 검색 및 문서 샌드박스 작업 등 개인과 기업 실무자에게 매우 유용한 기능을 제공합니다.

번역된 본문

오늘 우리는 LM Studio의 진화에 있어 가장 큰 도약을 이루었습니다. 오픈 모델을 위해 제작된 AI 에이전트, LM Studio 바이오닉(Bionic)을 소개합니다. 바이오닉은 코딩, 연구, 문서 및 파일 작업 등 실제 작업을 오픈 모델로 처리할 수 있게 해주는 AI 에이전트입니다. 개인정보 보호와 AI 비용에 대한 통제력을 유지하면서 로컬 모델을 사용하거나, 무거운 작업을 위해 클라우드의 오픈소스 모델로 전환할 수 있습니다. 모든 LM Studio 바이오닉 사용자에게 우리는 '데이터 비보존(Zero Data Retention)'을 약속하며, 여러분의 데이터로 절대 모델을 학습시키지 않습니다.

바이오닉은 다음 기능을 함께 제공합니다: 코딩 및 문서 작업에 탁월한 바이오닉 에이전트, 최고 수준의 로컬 음성 전사를 활용한 음성 입력, 유연한 모델 실행(로컬 실행, LM Link 연결, 또는 LM Studio 시큐어 클라우드를 통한 최고 수준의 오픈소스 모델 사용), 각 작업에 맞는 모델 및 컴퓨팅 환경을 선택하여 비용을 최적화하는 기능.

오프라인 음성 전사 최고 수준의 로컬 오디오 모델을 사용하여 아이디어, 프롬프트 및 수정 사항을 음성으로 입력할 수 있는 바이오닉의 음성 키보드를 사용해 보세요. 모든 과정이 기기 내에서 완전히 로컬로 이루어집니다. 출시 기념으로 Mistral AI의 Voxtral을 제공합니다. Voxtral은 성능이 뛰어난 다국어 실시간 전사 모델입니다. 바이오닉의 음성 키보드를 사용하여 로컬 전사 기능으로 어떤 앱에든 받아쓰기를 할 수 있습니다. 앱 내에서 음성 키보드를 시작하면, 바이오닉이 커서가 있는 위치에서 즉시 전사를 시작합니다.

코딩을 위한 바이오닉 바이오닉은 개인정보 보호와 통제력을 포기하지 않으면서도 폭넓은 코딩 요구를 지원합니다. 로컬 코드베이스를 검사하고, 생소한 코드를 설명하며, 코드 수정을 도와줍니다. 코드 프로젝트를 생성하고 이를 로컬 폴더로 지정하세요. 바이오닉에게 조사, 편집 또는 디버깅을 요청하고 작업 과정을 검토할 수 있습니다. 인라인 diff(차이점 비교)를 통해 모든 코드 변경 사항을 쉽게 검토할 수 있으며, 에이전트 기반의 코드 검색을 통해 바이오닉은 관련 파일을 빠르게 찾고 동작을 추적하여 생소한 코드를 설명해 줍니다. 바이오닉은 GLM 5.2 및 Kimi K2.7 Code와 같은 강력한 오픈 모델과 함께 작동하므로 비용을 통제하면서 더 많은 것을 구축할 수 있습니다.

문서, 슬라이드, 스프레드시트 작업을 위한 바이오닉 바이오닉은 일반적인 생산성 향상 및 심층 지식 작업을 위해 제작되었습니다. 문서를 제공하거나, 처음부터 새로운 문서, 슬라이드, 스프레드시트 등을 생성해 달라고 요청할 수 있습니다. 문서, PDF, 프레젠테이션, 스프레드시트 등 다양한 형식에 걸쳐 바이오닉을 활용해 보세요. '워크 프로젝트(Work project)'에서 바이오닉은 샌드박스 환경에서 문서를 처리하여 컴퓨터의 나머지 부분과 다른 파일들을 안전하게 보호합니다. 로컬 디렉토리를 정리하고 파일을 편집하며 자료를 요약하고, 기본 웹 검색을 통해 외부 정보를 워크플로우에 통합할 수 있습니다. 자동 체크포인트 기능을 통해 변경 사항을 안전하게 검토하거나 롤백할 수 있으며, 인앱 미리보기를 통해 자료와 워크플로우를 한곳에서 관리할 수 있습니다. 더 많은 파일 형식에 대한 미리보기 지원을 계속해서 추가할 예정이니 기대해 주세요!

네이티브 로컬 환경 바이오닉에서 로컬 모델을 다운로드하고 실행하세요. 바이오닉 앱 내에서 최신 로컬 LLM을 직접 다운로드한 뒤, 간단한 채팅이나 고급 에이전트 작업에 사용할 수 있습니다. 바이오닉의 로컬 모델은 LM Studio 런타임으로 구동됩니다.

기본적으로 데이터 비보존을 적용한 클라우드 추론 바이오닉은 가장 복잡한 작업을 위해 LM Studio 시큐어 클라우드에서 실행되는 최신 프론티어 오픈 모델을 지원합니다. 바이오닉은 오픈 모델이 계속해서 발전하는 세상을 위해 만들어졌습니다. 프론티어 오픈소스 모델의 코딩, 추론, 도구 호출(tool calling) 및 긴 문맥(long-context) 작업 능력이 향상됨에 따라, 바이오닉은 이를 LM Studio 시큐어 클라우드에서 사용해 볼 수 있는 방법을 제공합니다. 클라우드 모델을 사용할 때 사용자의 요청은 일시적으로만 처리되며 요청이 완료된 후에는 절대 보관되지 않습니다.

시작하기 LM Studio 바이오닉을 다운로드하세요. 바이오닉은 LM Studio와는 별개의 새로운 앱입니다. 고급 저수준(low-level) 설정을 위해서는 LM Studio를 바이오닉과 함께 계속 사용할 수 있습니다. 클라우드 모델을 사용하려면 LM Studio 계정을 생성하여 사용자 결제 설정을 완료하세요. 그 다음 프로젝트를 연결하고, 모델을 선택하여 바이오닉 에이전트와 함께 작업을 시작하면 됩니다!

다음 계획 오픈 모델의 역량이 강력해짐에 따라 사용자 경험을 지속적으로 개선해 나가겠습니다.

원문 보기
원문 보기 (영어)
Today, we're taking the biggest leap forward in LM Studio's evolution. Meet LM Studio Bionic, the AI agent made for open models. Bionic is the AI agent for getting real work done with open models, including coding, research, and complex work with documents and files. You can use local models or switch to open-source models in the cloud for heavier tasks, all while staying in control of your privacy and AI spend. For all LM Studio Bionic users, we commit to Zero Data Retention and never training on your data. Bionic brings together: A Bionic agent that excels at coding and document work Voice input with state-of-the-art local voice transcription Flexible model execution: run locally, connect through LM Link, or use the largest frontier open source models through LM Studio Secure Cloud Better cost control by letting users choose the right model and compute environment for each task Offline voice transcription Use Bionic's voice keyboard with local transcription to speak through ideas, prompts, and edits - all entirely locally on your device, using state-of-the-art local audio models. For launch, we are shipping Voxtral by Mistral AI. Voxtral is a performant multilingual realtime transcription model. Use Bionic's voice keyboard to dictate into any app with local transcription. Start the voice keyboard from any app, and Bionic will begin transcribing where your cursor is. Bionic for Coding Bionic supports a wide range of coding needs without giving up privacy and control. Bionic can inspect local codebases, explain unfamiliar code, and help you make changes. Create a Code project and point it to a local folder. Ask Bionic to investigate, edit, or debug, and review its work as it goes. Inline diffs make every code change easy to inspect, and with agentic code search, Bionic can quickly find relevant files, trace behavior, and explain unfamiliar code. Bionic works with powerful open models like GLM 5.2 and Kimi K2.7 Code, so you can build more while keeping costs under control. Bionic for working with docs, slides, and sheets Bionic is also built for general productivity and deep knowledge work. Give Bionic documents to work with, or ask it to generate new documents, decks, spreadsheets, and more from scratch. Use Bionic across documents, PDFs, decks, spreadsheets, and more. In a Work project, Bionic processes documents in a sandboxed environment, keeping the rest of your computer and files safe. It can organize local directories, edit files, summarize materials, and bring outside context into your workflow with native web search. Automatic checkpoints let you safely review or roll back changes, while in-app previews keep your materials and workflow in one place. We're continuing to add preview support for more file types, so stay tuned! Natively Local Download and run local models in Bionic. Download the latest local LLMs directly within the Bionic app, then use them for simple chats or advanced agentic tasks. Local models in Bionic are powered by the LM Studio runtime. Cloud inference with Zero Data Retention by default Bionic supports the latest frontier open models for your most complex tasks, running on the LM Studio Secure Cloud. Bionic is built for a world where open models keep getting better. As frontier open source models improve at coding, reasoning, tool calling, and long-context tasks, Bionic gives you a way to try them in LM Studio Secure Cloud. When using cloud models, your requests are processed transiently and are not retained after the request completes. Getting started Download LM Studio Bionic. Bionic is a new, separate app from LM Studio. For advanced low-level configuration, you can continue to use LM Studio alongside Bionic. To use cloud models, create an LM Studio account to set up billing for your user. From there, connect a project, choose a model, and start working with the Bionic agent! What's next We'll keep improving the experience as open models become more capable and as we learn from how people use Bionic in real projects.