메뉴

#추론비용

HN
Hacker News • 10일 전
IMP 8

제브(Jev): 기존 프런티어 모델보다 40~400배 저렴하고 20~200배 빠른 신규 모델 공개

TypeSafe AI가 2년간의 비공개 개발 끝에 소프트웨어가 직접 사용할 수 있는 빠르고 구조화된 의사결정에 특화된 새로운 모델 클래스 'System One Model'과 첫 공개 모델 'Jev'를 출시했다. Jev는 기존 LLM과 비슷한 수준의 지능을 유지하면서도 두 자릿수 배수(약 100배) 빠르고 효율적이며, 문자열 생성을 포기하는 대신 구조화된 출력에 최적화되어 환각(hallucination)이 원리적으로 불가능하다. 가격 투명성과 검증 가능한 성능 주장을 내세워 업계의 주목을 받고 있다.

모델 TypeSafe Jev
HN
Hacker News • 68일 전
IMP 8

중국 AI 모델, 그리고 돌아온 한계비용

최근 중국의 오픈웨이트(open weights) AI 모델인 Kimi K3가 최고 수준의 성능에 근접하면서 AI 산업의 경제적 구조가 변화하고 있습니다. 과거 소프트웨어 산업의 핵심이었던 '제로(0) 한계비용' 시대는 끝났으며, 이제 AI 추론(inference)에 수반되는 매출원가(COGS)가 실질적인 비용 지표로 작용하게 되었습니다. 엔비디아의 '토큰(Token)' 공장 관점과 함께, 향후 AI 비즈니스의 올바른 단가 산정 및 산업 구조를 이해하기 위해 필수적인 분석입니다.

오픈소스 인공지능비용 추론비용