Hacker News • 58일 전

토큰리스, 추론 비용 절반으로 깎아주는 AI 모델 라우터

IMP

8/10

핵심 요약

와이콤비네이터(YC) S26 출신 스타트업 'Tokenless'는 AI API 호출 비용을 최대 절반으로 줄여주는 스마트 라우터를 선보였습니다. 여러 AI 모델에 요청을 동시에 보낸 뒤, 가장 먼저 만족스러운 답변을 내놓는 모델을 선택해 나머지는 취소하는 방식으로 작동하여 품질은 유지하면서 비용은 크게 절감합니다. 개발자는 기존 코드 단 두 줄만 수정해 OpenAI 및 Anthropic 호환 엔드포인트로 연결하면 즉시 적용할 수 있다는 장점이 있습니다.

번역된 본문

출시 소식 (Launch HN): Tokenless (YC S26) – 비용을 절감해주는 자동 모델 스위칭 출처: 해커뉴스(hackernews)

Tokenless(토큰리스). 귀하의 인퍼런스(추론) 비용을 절반으로 깎아주는 라우터입니다. 기존 API 호출 코드에 그대로 바로 적용(drop-in replacement)할 수 있으며, 항상 최적의 모델로 라우팅됩니다. 데모를 예약하거나 가입해 보세요. 동일한 품질, 절반의 비용.

대부분의 API 호출에는 최첨단 프론티어 모델이 필요하지 않습니다. Tokenless는 귀하의 요청을 여러 모델 그룹으로 동시에 전달한 뒤, 모델들이 '생각'하는 과정을 지켜봅니다. 특정 모델이 확실히 올바른 방향으로 작성 중이라고 판단되면 해당 모델을 선택하고 나머지 모델들은 취소합니다. 결과적으로 귀하는 필요한 만큼만 비용을 지불하게 됩니다.

저희는 OpenAI 및 Anthropic과 호환되는 엔드포인트를 제공합니다. 기존 모델 설정을 저희 쪽으로 향하게 하고 오늘 바로 시작해 보세요! 시작하기 더 알아보기 -->

CLI 옵션을 enum으로 리팩토링 time → 신뢰도(confidence), 모델별 이 요청 금액 $0.0000 $0.0000 Fable 5로 전송됨 $0.0000 $0.0000 − 52 % · $0.0100 청구되지 않음

마케팅이 아닌, 측정된 데이터입니다.

공개 에이전트 벤치마크에서 각 최첨단 모델의 최고 기록(최고 성능)과 비교한 작업별 해결률(Solve rate) 및 비용을 확인하세요.

τ³-Banking

해결률: Tokenless Pro 40.2% | GPT-5.6 Sol 33.0% | Claude Opus 5 32.8% | Tokenless Ultra Saver 30.9% | Claude Fable 5 26.8% | Gemini 3.6 Flash 24.5%

Terminal-Bench 2.1

평균 작업당 비용($/task): Tokenless Pro $0.57 | GPT-5.6 Sol $1.50 | Claude Opus 5 $1.64 | Tokenless Ultra Saver $2.25 | Claude Fable 5 $2.58 | Gemini 3.6 Flash $3.32 (Gemini 3.6 Flash, Claude Opus 5, Tokenless Ultra Saver, Tokenless Pro, GPT-5.6 Sol, Claude Fable 5 비교)

얼마나 절약할 수 있는지 확인해 보세요. [귀하의 월간 LLM 지출: $40K /mo] [귀하의 월간 청구액: $14K /mo] 청구액에서 *$14K/mo 절감 → 지불액 $26K/mo $0 $40K /mo — 현재 귀하의 청구액

[향후 12개월 트렌드: 램프 AI 지수(Ramp AI Index) · + 11.0 %/월] $0 ~ $120K /mo 현재 궤적 vs Tokenless 적용 시

향후 1년간 $344K 절감
현재(오늘)부터 +12개월 후 ▸ 모델 믹스 편집 [새로운 월간 청구액: $26K/mo] [혼합 절약율: 34%] [재라우팅된 요청: 42%] [현재 청구액: $40K/mo]

추정치는 공개된 토큰 가격(캐시 요율 포함) 및 소스의 편집 가능한 라우팅 가정을 사용합니다. 실제 요율은 트래픽에 따라 다릅니다. 지출 내역 및 추세: Ramp AI Index — 직원당 AI 지출, 2025년 6월~2026년 6월, 귀하의 지출 규모에 해당하는 그룹과 일치하며 최근 12개월 성장률을 기반으로 외삽됨.

Google DeepMind, Princeton, UC Berkeley 출신의 AI 연구원들이 구축했습니다. Y Combinator의 지원을 받았습니다.

비용은 줄이고, 품질은 유지하세요. 데모를 예약하시면 귀하의 실제 트래픽을 바탕으로 비용을 계산해 드리겠습니다. 아니면 코드 두 줄만 수정해 직접 확인해 보세요. 데모 예약 가입하기

원문 보기

원문 보기 (영어)

Token less The router that cuts your inference bill in half . A drop-in replacement for your API calls — always routed to the right model. Book a demo Sign up Same quality, half the cost. Most calls don’t need a frontier model. Tokenless fans out your request to a group of models and watches them think. Once a model is clearly on track, we select it and cancel the other models, and you only pay for what you need. We expose an OpenAI and Anthropic compatible endpoint. Point your models at us and get started today! Get Started Learn More --> > refactor CLI options into an enum time → confidence, per model this request $0.0000 $0.0000 sent to Fable 5 $0.0000 $0.0000 − 52 % · $0.0101 never billed Measured , not marketed. Solve rate and cost per task on public agentic benchmarks, against the best published run of each frontier model. τ³-Banking Terminal-Bench 2.1 DeepSWE 1.1 solve rate 40.2% 33.0% 32.8% 30.9% 26.8% 24.5% Tokenless Pro GPT-5.6 Sol Claude Opus 5 Tokenless Ultra Saver Claude Fable 5 Gemini 3.6 Flash avg $/task $0.57 $1.50 $1.64 $2.25 $2.58 $3.32 Gemini 3.6 Flash Claude Opus 5 Tokenless Ultra Saver Tokenless Pro GPT-5.6 Sol Claude Fable 5 See what you’d save. YOUR MONTHLY LLM SPEND $40K /mo YOUR MONTHLY BILL $14K /mo OFF YOUR BILL * you pay $26K /mo saved $14K /mo you pay $26K /mo saved $14K /mo $0 $40K /mo — your bill today YOUR NEXT 12 MONTHS TREND: RAMP AI INDEX · + 11.0 %/MO $20K /mo $40K /mo $60K /mo $80K /mo $100K /mo $120K /mo current trajectory with tokenless $344K SAVED OVER THE NEXT YEAR −12 MO TODAY +12 MO ▸ EDIT YOUR MODEL MIX NEW MONTHLY BILL $26K/mo BLENDED SAVINGS RATE 34% REQUESTS REROUTED 42% CURRENT BILL $40K/mo * Estimates use published token prices (including cache rates) and editable routing assumptions in the source. Your rate depends on your traffic. Spend history & trend: Ramp AI Index — AI spend per employee, Jun 2025–Jun 2026, matched to the cohort your spend sits in and extrapolated at its trailing 12-month growth. Built by AI researchers from Google DeepMind, Princeton, and UC Berkeley. Backed by Y Combinator. Cut the bill. Keep the quality. Book a demo and we’ll run the numbers on your actual traffic — or swap two lines and see for yourself. Book a demo Sign up

비용 최적화 API 라우터 LLM Y Combinator AI 인프라