메뉴

#오픈소스 도구

HN
Hacker News 16일 전
IMP 8

내 하드웨어에 최적화된 로컬 LLM 벤치마크 순위 추천

사용자의 GPU, CPU, RAM을 자동 감지하여 HuggingFace의 최신 모델 중 시스템에 맞는 최적의 로컬 LLM을 벤치마크 점수 기반으로 순위 매기는 오픈소스 CLI 도구입니다. 단순히 용량만 맞추는 것을 넘어 실제 성능 평가 지표와 최신성을 반영해 가장 우수한 모델을 추천하는 것이 특징입니다. 단 한 줄의 명령어로 추천 모델을 다운로드하고 즉시 채팅을 시작할 수 있어 로컬 환경 구축에 매우 유용합니다.

로컬 LLM 오픈소스 도구 하드웨어 최적화
MP
MarkTechPost 21일 전
IMP 7

FLARE-FLOSS를 이용한 멀웨어 숨겨진 IOC 복구

본 튜토리얼은 기존 문자열 분석의 한계를 넘어 FLARE-FLOSS를 활용해 윈도우 PE 파일에서 난독화된 문자열을 복구하는 방법을 다룹니다. FLOSS와 MinGW-w64 크로스 컴파일러를 설정한 후, 다양한 난독화 기법(정적, 스택 빌드, 타이트, XOR 디코딩)이 적용된 멀웨어 형태의 실행 파일을 생성하여 분석 및 비교 과정을 설명합니다. 이를 통해 보안 실무자들이 분석을 방해하는 난독화 문자열을 효과적으로 추출하여 숨겨진 침해 지표(IOC)를 확보하는 데 큰 도움을 얻을 수 있습니다.

보안 악성코드 분석 FLARE-FLOSS
LL
r/LocalLLaMA 29일 전
IMP 7

윈도우 네이티브 vLLM으로 RTX 3090서 Qwen3.6-27B 초당 72토큰 달성

Windows 환경에서 WSL이나 Docker 없이 네이티브로 구동되는 오픈소스 vLLM 패치 및 포터블 런처가 공개되었습니다. RTX 3090 단일 GPU에서 Qwen3.6-27B(INT4 양자화) 모델을 최대 초당 72토큰(tok/s) 속도로 실행할 수 있으며, 복잡한 파이썬 환경 설정 없이 간편하게 설치할 수 있다는 것이 핵심입니다. 3090/4090/5090 등 엔비디아 최신 아키텍처 사용자가 로컬 환경에서 대규모 언어 모델을 쉽고 빠르게 테스트해 볼 수 있는 실용적인 도구입니다.

vLLM 로컬 LLM Windows 네이티브