메뉴

#긴문맥처리

MP
MarkTechPost • 48일 전
IMP 8

포키 AI, 1천만 토큰 컨텍스트 '포키-아이작 28B' 공개

포키 AI는 최대 1천만 토큰을 처리할 수 있는 280억 매개변수의 텍스트 전용 기반 모델인 포키-아이작 28B(Pokee-Isaac 28B)를 공개했습니다. 이 모델의 가장 큰 특징은 고객의 내부망이나 디바이스 등 고객 경계(Customer boundary) 내부에 안전하게 배포할 수 있도록 설계되었다는 점입니다. AI 실무자들은 기업의 보안을 유지하면서도 초장문 문서 처리 및 고성능 에이전트(Agentic) 작업을 수행할 수 있는 강력한 상용 옵션을 확보하게 되었습니다.

대규모언어모델 긴문맥처리 온프레미스배포
MP
MarkTechPost • 82일 전
IMP 7

메이퇀, 1.6T 매개변수 MoE 'LongCat-2.0' 공개

중국의 주요 플랫폼 메이퇀(Meituan)이 토큰당 약 480억 개의 매개변수를 사용하는 1.6조 매개변수 규모의 오픈소스 혼합 전문가(MoE) 모델인 LongCat-2.0을 발표했습니다. 이 모델은 희소 어텐션 기법을 통해 최대 100만 토큰의 긴 문맥을 처리할 수 있으며, 전 과정이 자체 AI 반도체 인프라에서 구동된다는 점에서 기술적 주목을 받고 있습니다.

대규모언어모델 혼합전문가 오픈소스