메뉴

#의사결정모델

HN
Hacker News • 15시간 전
IMP 6

Ollaya – 오픈소스 Jev 스타일 의사결정 모델의 로컬 실행 도구

Ollaya는 Ollama처럼 자체 하드웨어에서 의사결정 모델을 로컬로 실행할 수 있는 오픈소스 도구입니다. 텍스트나 JSON에 대해 타입화된 질문을 던지면 토큰 생성 없이 단일 순전파로 밀리초 단위의 캘리브레이션된 답변을 얻을 수 있습니다. RTX 4090 기준 5개 질문 처리에 약 10ms가 걸리며, TypeSafe API와 호환되고 데이터가 외부로 나가지 않아 프라이버시가 중요한 업무에 유용합니다.

오픈소스 로컬LLM 의사결정모델
MP
MarkTechPost • 3일 전
IMP 6

노키아, 오픈소스 'AnyJev' 공개—오픈 LLM을 교육 없이 보정된 의사결정 모델로

노키아 응용연구팀이 오픈 LLM을 별도 학습 없이 의사결정 모델로 변환하는 파이썬 라이브러리 'AnyJev'를 오픈소스로 공개했습니다. 문장 생성이 아닌 고정된 선택지 중 하나를 고르는 실무 작업에 특화되어 있으며, PyPI에서 설치 가능하고 Apache-2.0 라이선스로 제공되어 바로 배포에 활용할 수 있습니다.

노키아 AnyJev 오픈소스
HN
Hacker News • 5일 전
IMP 5

Kev: Qwen3.5 기반의 경량 Jev 스타일 의사결정 모델 패밀리

Kev는 Qwen3.5를 기반으로 한 소형 의사결정 모델 패밀리로, Jev의 아키텍처 논문을 따르며 0.8B/4B/9B 크기로 제공됩니다. 사전 학습된 가중치를 쓰거나 직접 학습할 수 있고, TypeSafe System One과 호환되는 API로 CUDA와 Apple Silicon에서 로컬 실행이 가능합니다. 예/아니오(noul), 다중 선택(choice), 평점(score) 질문을 한 번의 요청에 입력 텍스트를 공유하면서 처리하며, 확률 기반 결과를 반환합니다.

오픈소스 로컬모델 Qwen