The Decoder • 34일 전

오픈AI, LLM 추론용 자체 칩 '할라피뇨' 최초 공개

IMP

9/10

핵심 요약

오픈AI가 브로드컴과 협력하여 대규모 언어 모델(LLM) 추론에 최적화된 자체 반도체 '할라피뇨(Jalapeño)'를 발표했습니다. 소프트웨어를 넘어 칩부터 제품까지 전체 스택을 직접 통제하여 AI 모델 구동 비용을 절감하고 성능과 안정성을 극대화하려는 오픈AI의 첫 본격적인 하드웨어 도약입니다. 2026년 후반 대규모 배포가 예정되어 있으며, 마이크로소프트가 초기 물량의 40%를 구매할 것으로 전해집니다.

번역된 본문

오픈AI, 브로드컴과 함께 LLM 추론용 맞춤형 칩 '할라피뇨' 공개 막시밀리안 슈라이너(Maximilian Schreiner) | 2026년 6월 24일

[핵심 요약] • 오픈AI와 브로드컴은 대규모 언어 모델(LLM) 추론에 특화된 맞춤형 칩인 '할라피뇨(Jalapeño)'를 공개했습니다. • 오픈AI는 이 아키텍처가 와트당 성능을 크게 향상시킨다고 밝혔습니다. • 오픈AI의 자체 모델이 설계 과정을 지원하여 개발에 불과 9개월만이 소요되었습니다. • 맞춤형 하드웨어는 AI 모델의 구동 비용을 낮추고 안정성을 높이는 것을 목표로 합니다. • 2026년 하반기 대규모 배포가 계획 중이며, 마이크로소프트가 칩 생산량의 40%를 구매할 것으로 예상됩니다.

오픈AI가 자체 기술 스택에 맞춤형 하드웨어를 추가했습니다. 브로드컴과 함께 개발한 '할라피뇨' 칩은 대규모 언어 모델 추론에 맞춰 설계되었으며, 2026년 하반기부터 본격적으로 대규모 운영에 투입될 예정입니다.

공동 발표에 따르면, 오픈AI와 브로드컴은 오픈AI의 첫 번째 이른바 '지능형 프로세서(Intelligence Processor)'인 '할라피뇨'를 공개했습니다. 이 칩은 대규모 언어 모델 추론을 위해 처음부터 새롭게 설계된 맞춤형 가속기이자, 두 회사가 함께 구축하는 다세대 플랫폼의 첫 번째 반도체입니다. 브로드컴의 혁탄(Hock Tan) CEO와 찰리 카와스(Charlie Kawwas) 사장은 첫 번째 웨이퍼를 오픈AI의 샘 올트먼(Sam Altman) CEO와 그렉 브록먼(Greg Brockman) 사장에게 전달했습니다. 오픈AI에게 이는 수년간 모델과 제품에만 집중했던 것에서 벗어나 맞춤형 하드웨어 분야로 내디딘 첫걸음을 의미합니다.

오픈AI는 할라피뇨가 범용 칩을 단순히 수정한 것이 아니라고 강조했습니다. 현대 LLM 추론을 위해 완전히 새롭게 설계되었습니다. 오픈AI가 칩 설계를 맡고, 브로드컴은 실리콘 제조 및 토마호크(Tomahawk) 네트워킹 칩을 포함한 네트워킹 기술을 제공하며, 셀레스티카(Celestica)가 보드, 랙 및 시스템 통합을 담당합니다.

[성능 주장은 아직 독립적인 검증이 필요] 초기 테스트 결과, 현재 최고 수준의 하드웨어보다 와트당 성능이 '상당히 우수한' 것으로 나타났다고 오픈AI는 밝혔습니다. 하지만 이는 자체 측정 수치이며 아직 최종 확정된 것도 아니기 때문에 주의가 필요합니다. 이후 기술 보고서가 공개될 예정입니다. 현재 어떤 칩과 어떤 작업, 어떤 조건에서 비교 테스트가 이루어졌는지는 명확하지 않습니다.

보도에 따르면, 이 아키텍처는 데이터 이동을 줄이고 활용도를 이론적 최대치에 가깝게 끌어올립니다. 엔지니어링 샘플은 이미 실험실에서 GPT-5.3-Codex-Spark 모델을 포함한 머신러닝 워크로드를 구동하고 있습니다. 해당 모델은 현재 추론에 특화된 세레브라스(Cerebras) 하드웨어에서 구동되던 것입니다.

오픈AI에 따르면, 설계부터 테이프아웃(tape-out, 반도체 설계 완료 및 제조 의뢰)까지 불과 9개월이 걸렸으며, 이는 고성능 반도체 분야에서 알려진 것 중 가장 빠른 ASIC 개발 주기라고 주장합니다. 오픈AI의 자체 모델이 설계 과정의 일부를 가속화하는 데 도움을 주었습니다. 다만 칩 개발 계획에 대한 소문은 2023년부터 돌아왔습니다.

이번 발표는 칩부터 제품까지 전체 스택을 직접 통제함으로써 모델을 더 빠르고, 안정적이며, 낮은 비용으로 구동할 수 있다는 오픈AI의 전략을 반영합니다. 브로드컴의 탄(Tan) CEO는 마이크로소프트 및 기타 파트너들과 함께 2026년 말 기가와트(Gigawatt) 규모로 첫 배포를 진행할 계획이라고 밝혔습니다. 브로드컴은 첫 단계를 보장받기 위해 마이크소프트가 칩 물량의 40%를 구매하도록 보장할 것을 요구한 것으로 알려졌습니다.

원문 보기

원문 보기 (영어)

OpenAI and Broadcom unveil "Jalapeño," a custom chip built for LLM inference Maximilian Schreiner View the LinkedIn Profile of Maximilian Schreiner Jun 24, 2026 OpenAI Key Points OpenAI and Broadcom have unveiled "Jalapeño," a custom chip built specifically for large language model inference. OpenAI says the architecture delivers better performance per watt. Development took just nine months, with OpenAI's own models helping speed up the process. Custom hardware is meant to make running AI models cheaper and more reliable. Large-scale deployment is planned for late 2026, with Microsoft expected to buy 40 percent of the chips. Ask about this article… Search OpenAI is adding custom hardware to its tech stack. The "Jalapeño" chip, developed with Broadcom, is tailored for large language model inference and is set to run at scale by late 2026. According to a joint announcement , OpenAI and Broadcom have unveiled "Jalapeño" - OpenAI's first so-called "Intelligence Processor." It's a custom accelerator built specifically for large language model inference, and the first chip in a multi-generation platform the two companies are building together. Broadcom CEO Hock Tan and President Charlie Kawwas handed the first wafer to OpenAI CEO Sam Altman and President Greg Brockman. For OpenAI, this marks its first step into custom hardware after years of focusing on models and products. Ad OpenAI says Jalapeño isn't a modified general-purpose chip. It was designed from scratch for modern LLM inference. OpenAI handles the chip design, Broadcom contributes silicon manufacturing and networking technology including its Tomahawk networking chips, and Celestica takes care of boards, racks, and system integration. Ad DEC_D_Incontent-1 Performance claims lack independent verification Early tests showed performance per watt that's "substantially better" than current state-of-the-art hardware, according to OpenAI. These are self-reported numbers that haven't been finalized. Take them with a grain of salt. A technical report is supposed to follow. Right now, it's unclear which chips Jalapeño was tested against, on what tasks, and under what conditions. The architecture reportedly cuts data movement and pushes utilization closer to its theoretical max. Engineering samples are already running ML workloads in the lab, including the GPT-5.3-Codex-Spark model. That model currently runs on Cerebras hardware, which also specializes in inference. Ad OpenAI says the process from design to tape-out took just nine months, what the company calls the fastest ASIC development cycle for high-performance semiconductors it's aware of. OpenAI's own models helped speed up parts of the design process. The rumors about chip plans , though, have been circulating since 2023. The announcement reflects OpenAI's argument that controlling the full stack from chip to product lets it run models faster, more reliably, and at lower cost. Broadcom CEO Tan says the first deployment is planned for late 2026 at gigawatt scale, together with Microsoft and other partners. Broadcom has reportedly demanded that Microsoft guarantee it will buy 40 percent of the chips to secure the first phase. Ad DEC_D_Incontent-2 Ad AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now Source: OpenAI

오픈AI 맞춤형반도체 브로드컴 인공지능하드웨어 LLM추론