오픈 웨이트 모델 '잉클링(Inkling)' 공개
새로운 오픈 웨이트(Open-Weights) 기반 파운데이션 모델인 '잉클링(Inkling)'이 공개되었습니다. 이 모델은 총 975B(활성 41B) 매개변수와 최대 1M 토큰의 컨텍스트를 지원하며, 특히 텍스트, 이미지, 오디오를 아우르는 멀티모달推理 및 에이전트 코딩에 강점을 보입니다. 개발자들은 Tinker 플랫폼을 통해 이 모델을 손쉽게 파인튜닝(Fine-tuning)하여 다양한 실제 작업 환경에 맞춤형으로 활용할 수 있다는 점에서 의미가 큽니다.
원문 제목: 잉클링: 우리의 오픈 웨이트 모델
[Tinker 모델 카드] [Hugging Face]에서 사용해 보세요.
우리의 사명은 인간의 의지와 판단을 확장하는 AI를 구축하는 것입니다. 우리는 누구나 모델을 맞춤 설정할 수 있는 플랫폼을 개발하고, 대화형 협업을 위해 구축된 AI 시스템을 미리 공개하며, 새로운 연구를 발표해 왔습니다. 오늘 우리는 사람들이 자신만의 모델로 만들 수 있도록 처음부터 직접 학습시키고 전체 가중치(weights)를 공개하는 모델을 출시함으로써 이 사명을 한 단계 더 발전시킵니다.
잉클링(Inkling)이라는 이름의 이 모델은 총 975B(9천7백5십억)의 매개변수와 41B(410억)의 활성 매개변수를 가진 전문가 혼합(Mixture-of-Experts, MoE) 트랜스포머입니다. 최대 1M(백만) 토큰의 컨텍스트 창을 지원합니다. 45조 개의 텍스트, 이미지, 오디오, 비디오 토큰으로 사전 학습(Pretrain)되었습니다. 이 모델은 다양한 크기의 모델 패밀리 중 첫 번째 모델입니다. 이와 함께, 유사한 방식으로 학습되어 더 낮은 비용과 대기 시간으로 강력한 성능을 달성하는 12B 활성 매개변수의 더 가벼운 모델인 '잉클링-스몰(Inkling-Small)'의 프리뷰도 공유합니다.
잉클링은 텍스트, 이미지 및 오디오에 대해 기본적으로 추론(Reasoning)하며, 효율적이고 제어 가능한 '사고(Thinking)' 노력을 통해 비용과 성능의 균형을 맞춥니다. 우리는 이 모델이 다양한 도메인에 걸쳐 강력하고, 적응할 수 있을 만큼 유연한 폭넓고 균형 잡힌 파운데이션 모델이 되도록 학습시켰습니다.
잉클링은 현재 사용 가능한 모델(오픈소스 및 폐쇄형 포함) 전체를 통틀어 가장 강력한 모델은 아닙니다. 대신, 멀티모달 기능, 효율적인 추론, Tinker를 통한 파인튜닝(Fine-tuning) 가용성 등 여러 특성의 결합으로 인해 맞춤형 설정(Customization)을 위한 훌륭한 오픈 웨이트(Open-weights) 기반 모델이 됩니다.
잉클링은 시작에 불과합니다. 우리가 계속해서 구축해 나갈 모델 패밀리의 첫 번째 출시입니다. 우리는 더 많은 사용 사례에 맞춤 설정을 접근하기 쉽게 만들고 싶기 때문에, 오늘부터 Tinker에서 잉클링을 파인튜닝할 수 있습니다. 파인튜닝을 위한 올바른 기반 모델을 선택하는 것은 측정 가능한 벤치마크와 모델을 직접 사용해 보면서 느껴지는 고유한 감각을 결합하는 정성적인 판단입니다. 우리는 후자를 가능하게 하기 위해 Tinker 콘솔에 '잉클링 플레이그라운드(Inkling Playground)'를 추가했습니다. 이는 개발자가 잉클링과 대화할 수 있는 인터페이스입니다. 맞춤 설정이 실제로 어떤 의미인지 보여주기 위해, 우리는 잉클링에게 스스로를 파인튜닝하도록 요청했습니다. Tinker를 사용하여 이 모델은 자체적인 파인튜닝 작업을 작성하고, 실행하고, 결과를 평가했습니다. 공유 가능한 버전이 출시되면 확인하실 수 있습니다.
--> 주요 기능
실제 응용 프로그램에는 파인튜닝을 통해 결합하고 개선할 수 있는 광범위한 기능을 갖춘 모델이 필요합니다. 우리는 잉클링이 할 수 있는 일과 신뢰성 및 안전성과 같은 중요한 특성에서 어느 정도 수준인지 보여줍니다.
일반목적 모델 (Generalist model) 잉클링은 폭넓은 활용을 목표로 설계되었습니다. 우리는 특정 도메인에 대해서만 좁게 최적화하는 대신, 에이전트(Agent), 추론, 코딩, 명령어 수행, 사실 확인, 비전(Vision) 및 오디오 작업에 걸쳐 이 모델을 학습시켰습니다. 이러한 폭넓음은 맞춤형 설정 및 실제 사용에 있어 중요합니다. 즉, 사용자들은 단순히 벤치마크에서 뛰어난 성적을 내는 것을 넘어, 매우 다양한 워크플로우에 적응할 수 있는 모델을 필요로 합니다.
에이전트 코딩 및 도구 활용 (Agentic coding and tool use) 강력한 파인튜닝 기반 모델은 에이전트의 도구 활용을 통해 다양한 작업을 유연하게 해결할 수 있어야 합니다. 잉클링은 대부분의 에이전트 벤치마크에서 오픈 웨이트 모델들 중에서도 상위권의 성능을 보여줍니다. 우리는 잉클링이 다양한 코딩 및 에이전트 환경 내부에서 실행되도록 학습시켰으며, 훈련 중에 도구 세트와 스키마를 무작위화하여 특정 환경에 대한 민감도를 줄였습니다. 다음 섹션에서 설명하는 잉클링의 제어 가능한 '사고(Thinking)' 노력은 환경 내에서 설정할 수 있습니다. 아래에는 잉클링의 에이전트 코딩 및 도구 활용 방식과 그 결과물을 보여주는 몇 가지 데모가 있습니다.
임베디드 브라우저를 활용한 원샷 웹 앱 (One-shot web app with embedded browser use) 잉클링은 단 한 번의 실행으로 기능적인 웹 앱을 구축한 다음, 자연어 지시를 통해 웹 앱 인터페이스를 작동할 수 있는 임베디드 AI 어시스턴트를 구동합니다.
디자인 아레나 (Design Arena) 잉클링은 디자인 아레나의 에이전트 웹 개발 리더보드에서 평가되었으며, 여기서 맹검 심사를 한 인간 평가자들이 생성된 웹 앱을 일대일로 비교합니다. 이 모델은 가장 강력한 오픈 웨이트 모델들 중 하나로 랭크되었습니다.
통일된 스타일의 결과물 (Cohesively styled artifacts) 잉클링은 정확한 명령 수행, 정확한 정보, 그리고 전체에 걸친 일관된 스타일 및 디자인을 갖춘 여러 페이지의 결과물을 생성합니다.
긴 다듬기 과정을 통한 멀티플레이어 게임 생성 (Multiplayer game created through long refinement loop) 잉클링은 [자체적으로 생성한 코드와 결과물을 지속적으로 다듬어 멀티플레이어 게임을 완성했습니다...]