[이코노미스트 이혜리 기자] 인공지능(AI) 경쟁이 대형언어모델(LLM) 중심에서 경량언어모델(SLM)로 확대하고 있다. 그동안 AI 기업들은 더 많은 데이터를 학습하고 복잡한 작업을 수행하는 대형 모델 개발에 집중했다. 하지만 최근에는 스마트폰과 개인용컴퓨터(PC) 등 기기에서 직접 구동할 수 있는 작은 모델 개발에도 속도를 내고 있다.

카카오, SLM 공개한 이유

카카오는 지난 28일 자체 개발한 AI ‘카나나’의 SLM 4종을 오픈소스로 공개했다. 1.3B·3B급 모델로 스마트폰처럼 메모리와 연산 자원이 제한된 환경에서도 구동할 수 있도록 설계했다. 허깅페이스를 통해 모델을 공개하고 상업적 활용까지 허용하는 ‘카카오 오픈 라이선스’를 적용했다.

초거대 모델 경쟁이 이어지는 가운데 카카오가 상대적으로 작은 모델을 외부에 개방한 것은 AI를 실제 서비스와 기기에 적용하는 시장을 겨냥한 행보로 풀이된다.

이번에 공개한 ‘카나나-2 시리즈’는 1.3B-base, 1.3B-instruct, 3B-base, 3B-instruct 등 4종이다. 카카오는 한국어에 특화한 자체 토크나이저를 적용해 한국어 처리 효율을 기존 대비 30% 이상 높였다고 설명했다.

SLM은 모델의 크기를 줄여 스마트폰이나 PC 같은 기기에서 직접 실행할 수 있도록 만든 AI다. 챗GPT와 같은 LLM이 대규모 데이터센터의 GPU를 활용해 이용자의 요청을 처리한다면 SLM은 기기 안에서 일부 작업을 수행할 수 있다.

기기에서 AI를 처리하면 서버와 데이터를 주고받는 과정이 줄어든다. 네트워크 상황에 따른 응답 지연을 줄일 수 있고 개인정보가 외부 서버로 전송되는 것도 최소화할 수 있다. 기업 입장에서는 서버와 GPU를 추가로 확보해야 하는 부담도 낮출 수 있다.

카카오는 이미 소형 모델을 실제 서비스에 적용하고 있다. 카카오톡의 보이스톡 대화 요약과 AI 국민비서 시범 서비스 등에 소형 모델을 활용하고 있다. GPU 자원이 제한된 환경에서도 필요한 기능을 수행할 수 있다는 점을 활용한 것이다.

카카오 관계자는 “SLM은 온디바이스 환경에서 GPU나 서버 자원을 효율적으로 절감할 수 있는 장점이 있다”며 “글로벌 시장에서도 대형 모델과 함께 작은 모델이 충분히 활용되고 있다”고 말했다.

카카오는 SLM을 오픈소스로 공개하면서 상업적 이용까지 허용했다. 외부 개발자와 기업, 연구기관 등이 카나나를 활용할 수 있도록 문을 연 것이다.

카카오는 이번 공개를 당장의 수익 창출보다 AI 생태계에 대한 기술 기여에 무게를 둔 결정이라고 설명했다. 외부 개발자와 스타트업 등이 모델을 활용해 새로운 서비스를 만들면 카나나의 활용 범위도 넓어질 수 있다는 것이다.

카카오 관계자는 “오픈소스는 기여의 의미가 크다”며 “현재로서는 사업적으로 수익을 거두기보다 AI 생태계 발전에 기여하는 데 의미가 있다”고 말했다.

국내 기업들도 경량 모델 개발에 나서고 있다. 네이버는 하이퍼클로바X의 모델 크기를 40% 줄이면서도 성능을 높이고 운영 비용을 50% 이상 낮췄다고 밝힌 바 있다. 지난해에는 0.5B·1.5B·3B급 경량 모델 ‘SEED’를 오픈소스로 공개했다. LG AI연구원도 EXAONE 4.0에서 온디바이스용 1.2B 모델을 선보였다.

글로벌 기업들도 경량 모델을 잇따라 내놓고 있다. ▲구글은 ‘젬마’ ▲메타는 ‘라마’ ▲마이크로소프트는 ‘파이’ 등 소형 모델을 공개하고 있다. 대형 모델 개발과 함께 AI를 스마트폰과 PC 등 실제 기기에서 구동하기 위한 경쟁도 이어지고 있다.

한국 AI, ‘가성비’로 승부하나

전문가들은 국내 AI 기업들이 글로벌 빅테크와 초거대 모델의 규모 경쟁을 벌이기보다 경량 모델과 산업 특화 AI에서 경쟁력을 찾을 필요가 있다고 본다. 제조·자동차 등 국내 기업이 강점을 가진 산업의 데이터를 활용해 특정 업무에 최적화한 AI를 만드는 방식이다.

SLM이 LLM을 대체하는 것은 아니다. 복잡한 추론이나 대규모 작업은 데이터센터의 대형 모델이 맡고, 번역·요약·음성 인식처럼 빠른 처리가 필요한 작업은 기기 안의 작은 모델이 담당하는 식으로 역할이 나뉠 것으로 보인다.

카카오 역시 대형 모델과 소형 모델을 함께 확보하는 것이 중요하다는 입장이다. 대형 모델은 클라우드 기반 AI 경쟁력을 높이고, 작은 모델은 실제 서비스에서 자원 효율성을 높이는 역할을 맡는다는 설명이다.

최병호 고려대 인공지능연구소 교수는 “경량화 모델은 가성비가 좋고 자동차나 로봇 같은 모빌리티 분야에 특히 적합하다”며 “앞으로 자동차나 로봇처럼 움직이는 기기에서 경량 AI 모델의 활용도가 높아질 것”이라고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지