#AI가속기

OpenAI, 자체 LLM으로 '할라페뇨' 칩 설계해 개발 기간 단축

OpenAI가 자체 대규모 언어 모델(LLM)을 활용해 '할라페뇨(Jalapeño)'라는 코드명의 AI 가속기 칩을 설계하며 설계 기간을 크게 단축했다. 이 칩은 컴퓨트 다이와 HBM4 6스택, I/O 칩릿(chiplet)으로 구성된다. AI 기반 칩 설계가 반도체 개발 속도를 획기적으로 높일 수 있음을 보여주는 사례로 주목받는다.

세레브라스, 같은 칩으로 성능 2배 달성한 CS-4 공개

Cerebras가 기존 WSE-3 칩을 그대로 사용하면서 전력 공급과 냉각 개선을 통해 클럭 속도를 높여 CS-3 대비 2배 성능을 낸 CS-4 AI 가속기를 공개했습니다. 랙 단위 제품으로 사용자당 초당 최대 4,400 토큰을 처리하며, 엔비디아 GPU 기반 대비 최대 30배 빠르다고 주장합니다. OpenAI가 Codex Spark에 이 하드웨어를 사용하는 등 실제 도입 사례가 있다는 점에서 주목할 만합니다.