메뉴

#GPT

HN
Hacker News • 29일 전
IMP 7

소형 모델의 시대가 왔다

gpt-5.6-luna 같은 소형 고속 모델이 놀라운 능력과 저렴한 비용(~$0.10)을 제공하면서 소비자용 AI 앱의 경제성이 finally 성립하게 되었다는 분석입니다. 저자는 '천재형' 업무보다 기업 업무의 약 95%를 차지하는 '빠르고 반응성 좋은 토큰 뿜어내기'형 업무에 소형 모델 수요가 폭발할 것으로 전망합니다.

소형모델 API비용 GPT
HN
Hacker News • 38일 전
IMP 6

순수 C 언어로 구현한 microGPT, 애플 M5에서 초당 1,000만 토큰 달성

외부 의존성 없이 libc만으로 단일 C 파일에 GPT의 순전파, 역전파, Adam 옵티마이저, 샘플링을 모두 구현한 'microGPT-C'가 공개되었습니다. 약 3.2만 개의 이름 데이터를 몇 초 만에 학습해 새로운 이름을 생성하며, 애플 M5 Pro(NEON)에서 초당 약 1,017만 토큰, AMD 라이젠 5 5600H(AVX2)에서 초당 약 693만 토큰의 추론 속도를 기록했습니다. 학습이 아닌 일반화를 통해 파라미터 5배짜리 트라이그램 모델을 능가한다는 점이 인상적입니다.

GPT C언어 트랜스포머
HN
Hacker News • 70일 전
IMP 7

최신 AI 모델 NP-난제 풀이 대결: /goal 모드는 효과가 있을까?

해커톤 출신의 NP-난제인 광섬유 네트워크 설계 문제를 바탕으로 Claude 'Fable 5'와 GPT-5.6 'Sol' 모델의 성능을 비교 테스트했습니다. 그 결과 Fable 5가 전반적으로 가장 뛰어난 성능과 일관성을 보였으며, AI에게 목표를 부여하는 '/goal' 모드는 단순히 '더 열심히' 풀게 만드는 마법의 스위치가 아니라 검색 경로를 바꿀 뿐인 기능으로 확인되었습니다. 이는 최신 AI 모델들의 복잡한 수학적 최적화 문제 해결 능력과 프롬프트 제어 기법의 실질적 효과를 보여줍니다.

인공지능 모델 벤치마크 최적화 문제
HN
Hacker News • 82일 전
IMP 5

GPT-5.6 솔 울트라, 코덱스에 탑재 예정

오픈AI의 차세대 최고 성능 모델로 예상되는 'GPT-5.6 솔 울트라(Sol Ultra)'가 개발자용 코드 생성 에이전트인 코덱스(Codex)에 통합될 예정이라는 소식이 전해졌습니다. 이는 향후 출시될 핵심 AI 모델이 소프트웨어 개발 및 코딩 작업 자동화에 직접적으로 적용될 수 있음을 시사합니다. 개발자들은 코덱스 환경에서 한층 더 강력해진 AI 기반 코딩 보조 기능을 기대할 수 있습니다.

gpt 코덱스 오픈AI