[뉴스토마토 안창현 기자] 국내 인공지능(AI) 기업들인 업스테이지와 퓨리오사AI가 '소버린 AI'를 기치로 협력에 나섰습니다. 업스테이지가 인수한 포털 다음의 'AI 요약' 서비스는 퓨리오사AI의 신경망처리장치(NPU)를 기반으로 업스테이지의 AI 모델을 사용해 제공되고 있습니다. AI 인프라부터 모델과 실제 서비스까지 전 영역을 국내 기술로 구현한 풀스택 소버린 AI 사례인 셈입니다.
업스테이지와 퓨리오사AI, 다음 운영사 AXZ 대표들은 15일 온라인 대담을 열고 다음의 AI 요약 서비스를 기반으로 이 같은 협력 사례를 공개했습니다. 김성훈 업스테이지 대표는 "현재 거대언어모델(LLM) '솔라'가 국산 NPU에서 구동돼 실시간으로 대국민 포털에서 돌아가게 됐다"며 국내 기업들이 구현한 풀스택 소비린 AI이 상용화된 첫 사례라고 강조했습니다.
이달 베타 서비스를 시작한 다음의 AI 요약은 이용자가 검색창에 키워드를 입력하면 검색 엔진이 관련 문서를 찾고, AI 모델이 내용을 종합 요약해 보여줍니다. 현재 퓨리오사AI의 NPU '레니게이드(RNGD)'가 탑재된 서버 노드 3개에서 업스테이지의 LLM 솔라를 구동해 실시간 서비스로 제공됩니다.
백준호 퓨리오사AI 대표는 "AI 요약 처리를 위해 3개 노드로 하루 5억개의 토큰을 처리하고 있다"며 "AI 모델을 가속기에 잘 매핑할 수 있는 컴파일러와 최적의 서빙을 위한 엔진 개발 등 하드웨어-소프트웨어를 원천 설계로 구성해 H200와 대등한 성능을 내고 있다"고 설명했습니다. 퓨리오사AI에 따르면 NPU 도입 시 추론 비용도 50% 이상 줄일 수 있습니다.
김성훈 업스테이지 대표(왼쪽부터)와 백준호 퓨리오사AI 대표, 이건수 AXZ 대표가 15일 온라인 대담을 열고 '소버린 AI' 협력 사례를 공개했다. (사진=업스테이지)
이건수 AXZ 대표는 AI 요약 서비스가 최신 정보를 반영하는 신뢰성에 초점을 맞췄다고 강조했습니다. 그는 "다음 AI 요약은 LLM이 웹 문서를 직접 분석해 검색 결과에 대한 종합적인 답변을 정리해 주는 기능"이라며 "답변 결과는 핵심 요약과 근거를 함께 제공하면서 내용이 바뀌면 AI가 자동 반영해 늘 최신 정보를 확인할 수 있다"고 말했습니다.
그러면서 "LLM의 고질적인 환각(할루시네이션)을 제어하기 위해 정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다"며 "키워드 검색과 벡터 기반 검색을 조합한 하이브리드 검색을 활용해, 솔라 LLM에게 가장 관련성 높은 최신 정보를 전달하고 있다"고 덧붙였습니다.
3사의 이번 협력은 AI 공급망 자립과 소버린 AI를 위한 국내 생태계 구축이란 점에서 의미를 갖습니다. 백 대표는 "소버린 AI는 국제 정세와 공급망 관점에서 확보해야 할 전략 기술"이라며 "국산 NPU는 토큰 비용을 획기적으로 절감할 수 있고, GPU보다 전성비와 가성비가 높다"고 평가했습니다. 이어 "현재 양산 중인 레니게이드가 연내 1만장 공급이 가능하다"며 "기업들이 AI 전환(AX) 과정에서 국내 NPU 도입을 적극적으로 검토해달라"고 당부했습니다.
김 대표 역시 "현재 정부의 '독자 파운데이션 모델' 프로젝트를 통해 개발 중인 솔라 후속 모델을 다음 달 출시할 예정"이라며 "많이 사용할수록 품질이 개선되고, 더 좋은 품질이 더 많은 사용으로 이어지는 선순환 구조를 만들어 가겠다"고 다짐했습니다.
안창현 기자 chahn@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김충범 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지