OpenAI unveils its first custom chip, built by Broadcom
Hacker News · 2026-06-24 · AI 하드웨어
OpenAI가 Broadcom과 공동으로 설계한 첫 번째 맞춤형 추론 프로세서 'Jalapeño'를 공개했다. 발표에 따르면 이 칩은 OpenAI의 추론(workload) 요구에 맞춰 특별히 설계됐고, 설계 과정에는 OpenAI의 자체 모델들도 도움을 줬다. 아직 시험 단계이지만 초기 결과는 기존 최첨단 대안들보다 와트당 성능이 크게 향상됐다고 회사는 전했다. 이번 파트너십은 Nvidia GPU에 대한 의존도를 낮추려는 전략의 일환으로, Google·Amazon이 만든 전용 AI 가속기와 유사한 목적을 가진다. Jalapeño는 주로 이미 학습된 모델을 실시간으로 실행하는 '추론'용으로 설계됐고, 발표문은 특히 실시간 코딩 모델을 운영할 때 낮은 운용 비용을 강조했다. 반면 전처리나 대규모 모델 사전학습(pre-training)처럼 더 많은 성능을 요구하는 작업은 여전히 Nvidia 하드웨어에 기대할 가능성이 높다. OpenAI는 칩 아키텍처뿐 아니라 커널, 메모리 시스템, 네트워킹, 스케줄링, 배포 시스템 등 스택 전반을 함께 최적화함으로써 모델을 더 빠르고 신뢰성 있게, 비용 효율적으로 운영하려는 전략을 명확히 하고 있다. 추론 비용의 작은 개선만으로도 비즈니스 경쟁력과 데이터센터 운영 경제성에 큰 영향을 줄 수 있다는 점에서 이번 발표는 AI 인프라의 향후 방향을 가늠하게 한다.