MarkTechPost • 48일 전

포키 AI, 1천만 토큰 컨텍스트 '포키-아이작 28B' 공개

IMP

8/10

핵심 요약

포키 AI는 최대 1천만 토큰을 처리할 수 있는 280억 매개변수의 텍스트 전용 기반 모델인 포키-아이작 28B(Pokee-Isaac 28B)를 공개했습니다. 이 모델의 가장 큰 특징은 고객의 내부망이나 디바이스 등 고객 경계(Customer boundary) 내부에 안전하게 배포할 수 있도록 설계되었다는 점입니다. AI 실무자들은 기업의 보안을 유지하면서도 초장문 문서 처리 및 고성능 에이전트(Agentic) 작업을 수행할 수 있는 강력한 상용 옵션을 확보하게 되었습니다.

번역된 본문

포키 AI(Pokee AI)는 고객 경계(Customer boundary) 내부에서 실행되도록 설계된 1천만 토큰의 컨텍스트 윈도우(Context window)를 갖춘 280억(28B) 매개변수의 텍스트 전용 기반 모델인 포키-아이작 28B(Pokee-Isaac 28B)를 출시했습니다. 이 모델은 1천만 토큰 환경의 RULER 벤치마크에서 93.3%의 점수를 기록했는데, 이는 비교 대상인 다른 기준 모델들이 200만 토큰을 넘기면 0.0%의 점수를 기록하는 것과 대조적인 결과입니다. 또한 BFCL v4에서 70.94점을 기록하며 1위를 차지했고, Terminal-Bench 2.1에서는 2위를 차지했습니다. 단일 B200 GPU 환경에서의 전체 컨텍스트 처리 시 사전 토큰 처리 속도(Prefill)는 초당 137,200 토큰에 달하며, 토큰 생성 속도(Decode)는 초당 약 335 토큰 수준을 일정하게 유지합니다. 이 모델의 가중치(Weights)는 공개되지 않으며, VPC(가상 사설 클라우드), 온프레미스(On-premises) 또는 온디바이스(On-device) 환경으로의 배포가 라이선스됩니다. 가격은 백만 토큰당 입력 0.15달러, 출력 1.00달러로 책정되었습니다. "포키 AI, 고객 경계 내부에서 실행되는 1천만 토큰 컨텍스트 에이전트 모델 '포키-아이작 28B' 출시"라는 제목의 이 글은 마크테크포스트(MarkTechPost)에 처음 게재되었습니다.

원문 보기

원문 보기 (영어)

Pokee AI released Pokee-Isaac 28B, a 28B text-only foundation model with a 10M-token context window built to run inside the customer boundary. It scores 93.3% on RULER at 10M tokens, where every baseline in its comparison panel returns 0.0 beyond 2M, and leads BFCL v4 at 70.94 while placing second on Terminal-Bench 2.1. Prefill reaches 137,200 tokens/s at full context on a single B200, with decode flat near 335 tokens/s. Weights are not published; deployment is licensed into VPC, on-premises, or on-device, with list pricing at $0.15/$1.00 per million tokens. The post Pokee AI Releases Pokee-Isaac 28B: A 10M-Token Context Agentic Model Built to Run Inside the Customer Boundary appeared first on MarkTechPost.

대규모언어모델 긴문맥처리 온프레미스배포 AI에이전트 포키AI