오픈AI, 자체 AI 칩 연내 투입…삼성 HBM4 탑재 추정

응답속도 등 엔비디아 ‘GB200’ 앞서

[뉴스토마토 이명신 기자] 챗GPT 개발사 오픈AI가 자체 개발한 인공지능(AI) 칩 ‘할라페뇨’를 올해 안에 실제 모델 구동에 투입할 계획입니다. 특히 할라페뇨는 성능 테스트에서 엔비디아의 제품을 앞선 것으로 나타났습니다.

 

오픈AI 로고. (사진=연합뉴스)

 

리처드 호 오픈AI 하드웨어 총괄은 25일(현지시각) 블룸버그통신과의 인터뷰에서 “할라페뇨가 전력 단위당 처리 가능한 AI 작업량과 응답 속도 등 지표에서 최고 성능인 엔비디아의 ‘GB300’을 앞섰다”며 “연말부터 새 칩을 AI 모델 구동에 사용할 계획”이라고 했습니다. 이어 할라페뇨에 대해 “(오픈AI의) 비용을 큰 폭으로 낮춰줄 것”이라고 말했습니다.

 

오픈AI는 맞춤형 칩을 공급하는 브로드컴과 협력해 할라페뇨를 개발했습니다. 지난해 협력을 발표한 두 회사는, 지난 6월 할라페뇨를 공개하면서 기록적으로 빠른 기간에 칩이 개발됐다고 강조한 바 있습니다.

 

통상 AI 칩은 처리 능력이나 응답 속도 가운데 한쪽에서 강점을 보이지만, 할라페뇨는 두 가지 성능을 모두 갖췄다는 설명입니다. 할라페뇨는 700와트(W)의 비교적 낮은 전력으로도 높은 성능을 낼 수 있어 대규모 데이터센터 운영 시 큰 비용을 차지하는 전력 비용을 줄이는 데 도움을 줄 것으로 예상됩니다.

 

IT 전문 매체 세미애널리시스는 할라페뇨가 패키지당 대역폭 15.4TB/s의 HBM4(6세대 고대역폭메모리)를 탑재했으며, 공급업체는 삼성전자(005930)로 추정된다고 전했습니다. 지난해 10월 샘 올트먼 오픈AI 최고경영자(CEO)는 삼성전자 서초사옥을 방문해 글로벌 AI 핵심 인프라 구축을 위한 의향서(LOI)를 체결하고, 삼성전자로부터 HBM 등 고성능 메모리를 공급받기로 한 바있습니다.

 

오픈AI는 회사 블로그에서 자사의 소형 오픈소스 모델과 함께 딥시크, 문샷AI 등의 타사 모델로도 신형 칩을 공개 테스트했으며, 이 가운데 문샷의 ‘키미’ 모델에서 더 큰 성능 우위를 보였다고 설명했습니다. 다만 할라페뇨는 엔비디아의 차세대 칩 ‘베라 루빈’과는 비교 테스트를 거치지 않았습니다.

 

아울러 할라페뇨는 엔비디아가 강점을 보이는 AI 모델 훈련용으로도 설계되지 않았으며, 이미 학습을 마친 모델이 프롬프트에 응답하고 작업을 처리하는 ‘추론’ 단계에 특화됐습니다.

 

호 총괄은 오픈AI가 현재 상대적으로 작은 모델에 쓰는 세레브라스의 칩 기술을 당장 대체하지는 않을 것이라고 설명했습니다. 그는 “우리는 컴퓨팅 수요가 워낙 커서 많은 공급업체와 계약을 맺은 것이고, 이런 상황은 당분간 계속될 것”이라며 “엔비디아는 정말 좋은 파트너이며, 우리는 앞으로도 엔비디아가 많이 필요하다”고 했습니다.

 

오픈AI는 후속 자체 칩 개발에도 속도를 내는 중입니다. 호 총괄은 2세대 칩이 이미 개발이 상당 부분 진행돼 앞으로 몇 달 안에 설계 최종 단계인 ‘테이프아웃’을 마칠 것으로 예상한다고 전했습니다. 또 오픈AI는 인프라 비용을 줄이기 위해 3세대 칩의 개념 설계에도 착수했습니다.

 

이명신 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.