“검색창에 국산 반도체 심었다”…업스테이지·다음·퓨리오사AI ‘토종 AI 동맹’

국산 인공지능(AI) 반도체와 거대언어모델(LLM), 포털 서비스가 한 몸으로 묶였다. 업스테이지와 포털 다음 운영사 AXZ, AI 반도체 기업 퓨리오사AI는 15일 경기 판교 AXZ 사옥에서 3사 대표 온라인 대담을 열고 국내 첫 ‘풀스택 소버린 AI’ 상용화 사례를 공개했다.

소버린 AI는 특정 국가나 기업이 외부 기술에 의존하지 않고 자체 데이터, 모델, 인프라로 AI 서비스를 운영하는 개념이다. 그동안 국내 AI 생태계는 반도체, 모델, 서비스가 따로 움직였다. 이번 사례는 이 셋을 하나의 흐름으로 묶었다.

퓨리오사AI의 2세대 신경망처리장치(NPU) ‘레니게이드(RNGD)‘가 업스테이지 LLM ’솔라‘를 구동하고, 그 결과물이 다음 검색의 ‘AI 요약’ 기능으로 이용자에게 전달된다. 이용자가 다음 검색창에 키워드를 입력하면 AI가 웹 문서를 분석해 핵심 답변과 근거를 함께 보여준다. 정보가 바뀌면 자동으로 반영한다. 다음은 지난 1일부터 이 서비스를 베타로 운영 중이다.

AI 검색의 최대 과제는 환각(할루시네이션)이다. AI가 사실과 다른 내용을 그럴듯하게 답하는 현상이다. AXZ는 정확한 단어를 찾는 키워드 검색과 문맥을 읽는 벡터 검색을 결합해 이를 줄였다. 이건수 AXZ 대표는 “LLM의 고질적인 환각을 제어하기 위해 정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다”며 “키워드 검색과 벡터 기반 서치를 조합한 하이브리드 서치를 이용해 솔라 LLM에게 가장 관련성 높은 최신 정보를 전달하고 있다”고 말했다.

관건은 비용이다. 생성형 AI는 이용자가 질문할 때마다 답을 새로 만든다. 이 과정에서 나오는 처리 단위가 토큰이다. 이용자가 늘수록 토큰 처리량도 늘고, 곧바로 전력과 인프라 비용으로 이어진다. 현재 이 서비스는 레니게이드 3개 노드, 총 24개 칩으로 하루 5억 개 토큰을 처리하고 있다.

백준호 퓨리오사AI 대표는 “동시 사용자 처리량과 칩 구매 가격, 전성비 등을 종합적으로 고려한 총소유비용(TCO) 기준으로 현재 최소 1.5배의 비용 절감 효과를 보여주고 있다”며 “지속적인 하드웨어 및 소프트웨어 최적화를 통해 최종적으로 토큰 비용을 절반 이하로 떨어뜨리는 것이 목표”라고 말했다. 하드웨어와 소프트웨어를 함께 설계한 결과 엔비디아 고성능 GPU ‘H200’과 대등한 성능을 낸다는 설명이다.

퓨리오사AI는 올해 레니게이드 총 2만 장 양산을 목표로 하고 있다. 지난 1월 1차 양산으로 4000장을 출고한 데 이어 지난 4월 1만6000장을 추가 양산했다. LG AI연구원·LG유플러스에 이어 삼성SDS를 새 고객사로 확보해 오는 7월부터 국내 최초 국산 NPU 기반 서비스형 인프라(NPUaaS)에 레니게이드를 탑재한다.

이번에 밝힌 연내 1만 장 공급 계획도 이런 양산 확대 흐름과 맞닿아 있다. 백 대표는 “이미 양산에 성공적으로 돌입한 레니게이드는 연내 1만 장까지 충분히 공급 가능하다”고 말했다.

적용 범위도 넓어진다. AI 요약은 현재 다음 전체 검색 질의의 약 20%만 처리하고 있다. 이 대표는 “현재 전체 질의 규모의 20% 정도를 처리하고 있지만 향후 쇼핑, 맛집 검색 등 버티컬 영역으로 점진적으로 확장할 계획”이라고 밝혔다.

‘1인 1 에이전트’ 구상도 내놨다. 백 대표는 “최근 다음 실시간 트렌드 검색어 1위가 ‘삼성전자 주가’일 정도로 많은 국민이 주식에 관심을 가지고 있다”며 “매번 주가나 뉴스를 반복 검색할 필요 없이, 다음이 가진 뉴스를 기반으로 에이전트가 매일 아침 요약된 정보를 알아서 배달해 주는 형태의 재미있는 서비스들을 계속 만들 것”이라고 말했다.

글로벌 빅테크 종속 우려에는 선을 그었다. 백 대표는 “허깅페이스 등 저장소에 있는 모델의 가중치 정보만 있으면 충분히 가능하다”며 “대부분의 상위 레벨 프레임워크는 특정 기업의 언어로 종속돼 기술돼 있지 않으며, 자사의 컴파일러와 소프트웨어 스택이 최적화와 서빙을 모두 직접 지원한다”고 설명했다. 이어 백 대표는 “새로운 AI 모델이 출시되더라도 의존성 없이 당일에 곧바로 모델을 지원하는 것을 목표로 속도감 있게 대응하고 있다”고 덧붙였다.

김성훈 업스테이지 대표는 “솔라 모델의 경우 내년에는 하루 1조 토큰까지 사용할 계획인데, 50% 이상의 비용 절감은 엄청난 강점”이라며 정부의 독자 AI 파운데이션 모델 프로젝트를 통해 공개될 차세대 모델에 대한 관심을 부탁했다.

이혜민 기자 hyem@kukinews.com