SLLM전쟁본격화…‘작지만강한’국내스타트업대거참전
인공지능(AI) 언어모델에 실용주의물결이불고 있다. 지난해 오픈AI의 ‘챗GPT’ 붐으로 초거대언어모델(LLM) 대전이 촉발된 것과 달리 올해는 소형언어모델(sLLM)을 두고 기업 간 경쟁이치열하다. 메타는 지난해 2월과 7월 일찌감치 각각 ‘라마’와 ‘라마2’를 출시했다. 라마 시리즈를 오픈소스로 공개해sLLM 시장선점에들어갔다.구글은지난해 말 제미나이를 경량화한 ‘제미나이 나노’를 출시했고, 올해 2월엔 ‘젬마’를 공개했다. 챗GPT로 LLM 시장을 석권한 마이크로소프트(MS)도 지난해말sLLM ‘파이2’를 공개했다.
글로벌 빅테크 기업들이 이런 행보를 보이는 이유는 sLLM이 기업간 거래(B2B) 시장에서 AI전환(AX)를 이끌 것이라는 분석이 나와서다. 통상 매개변수 개수가 1000억개 이상이면 LLM, 그미만이면 sLLM으로 구분한다. 매개변수는 정보를 학습하고 기억하는 뇌의시냅스와같은역할을 한다.언어모델이가진매개변수가많을수록성능이좋다고평가되지만그만큼작업이복잡하고방대한컴퓨팅자원이필요하다.
반면 sLLM은 비교적 단순하고 운영 비용이 저렴하다. 특정 산업에 특화할수도 있다. sLLM을 미세조정(파인튜닝)해 특정산업군에특화하게만들수도 있다. 클라우드 방식이 아닌 기업이자체적으로인프라를소유·관리하는온프레미스 설치가가능해보안안정성도높다. 국내스타트업도 sLLM 시장경쟁에대거참전하고있다.업스테이지는아마존웹서비스(AWS)에기반한 sLLM ‘솔라 미니’를 출시했고, 보안 업체인 파수는 자사 보안 서비스와 결합할 수있는sLLM ‘엘름’을 선보였다. AI 챗봇 ‘이루다’로유명한스캐터랩은감성·대화능력에특화한sLLM ‘핑퐁-1’을 공개했다.
◆AWS 기반 ‘솔라 미니’, 리걸·에듀테크범용성↑
업스테이지는 지난 3월 솔라 미니를아마존 세이지메이커 점프스타트·AWS마켓플레이스 등에오픈소스로 공개했다. 고객사가 솔라 미니를 미세조정해자사의맞춤형 생성 AI 서비스를 만들수있게했다. AWS를이용하는세계모든 기업을 고객사로 삼아 솔라 미니의생태계를 구축하겠다는 의도다. 실제솔라 미니영어모델은 1000여 개에달하는미세조정모델이나오기도했다.
솔라 미니 성능은 글로벌 빅테크 제품군과 비교해도 우수하다고 평가받는다. 지난해12월 허깅페이스 ‘오픈 LLM리더보드’에서 솔라 미니는 중국 알리바바 ‘큐원’과 프랑스 미스트랄 AI ‘믹스트랄’등을제치고1위를 차지했다.번역부문에선 메타 ‘플로레스’를, 벤치마크 테스트에서는 오픈AI ‘GPT-4’, 독일딥엘 서비스보다 높은 점수를 받았다.업스테이지는 이같은 솔라의기술력이집약된 논문을 오는 6월 북미전산언어학학회(NAACL)에서 발표할 예정이다. NAACL 2024는 세계3대자연어처리학회로꼽힌다.
업스테이지는 기업에 특화한 언어모델도 출시할 예정이다. 지난 3월엔 리걸테크 스타트업인로앤컴퍼니와 함께 ‘솔라-리걸’을 개발하겠다고 밝혔다. 업스테이지의 솔라를 로앤컴퍼니가 보유한법률·판례 데이터로 미세조정해우리나라법률에특화한언어모델을만들겠다는 것이다.양사는이를통해향후전세계 리걸테크 시장을 공략하겠다는 계획을 공유했다. 전 세계 리걸테크 시장은 높은 성장세를 보일 것으로 전망된다. 시장조사기관 비즈니스리서치인사이트에따르면전세계리걸테크시장규모는 2021년 약 10조7000억원에서 2027년약 61조4218억원까지 커질 전망이다.연평균성장률이34%에달한다.업스테이지‘솔라미니’
AWS기반장점…작년LLM리더보드서중·프랑스모델제치고1위
파수‘엘름’
기존언어모델에데이터관리노하우더해…한글정보처리차별점
스캐터랩‘핑퐁-1’
업스테이지는 에듀테크 산업용sLLM도 출시했다. 업스테이지는 KT와에듀테크 기업인 콴다와 함께 수학 교육에특화한 ‘매스(MATH)GPT’를 내놓았다. KT 인프라에콴다의데이터를 활용해솔라를 미세조정한 것이다. 그 결과 매스GPT는 벤치마크테스트에서챗GPT 성능을 돌파하고, 언어모델의수학능력을평가하는매스벤치마크에서는 챗GPT-4를 능가했다.
업스테이지는 국내기업들과 다양하게협업하면서구축한 생성 AI 개발·사업 노하우에 기반해 해외 진출도 본격화한다는 입장이다. 이를 위한 포석으로 지난 3월 미국에현지법인인 ‘업스테이지 AI’를 설립했다. 미국 진출 첫 행보로 엔비디아가 주최한 AI 콘퍼런스‘GTC 2024’에도 참가했다.
◆파수, 데이터 관리 노하우 결합 sLLM 공개
데이터·애플리케이션 보안 사업에치중했던 파수는 올해 초 회사 비전을‘IT(정보기술)를 쉽고 간단하게’에서 ‘AI를쉽고간단하게’로 바꿨다. AX전문기업으로변신하겠다고도선언했다.
변신의첫발자국으로지난달 sLLM인 엘름(Ellm)을 출시했다. 파수는지난3일 열린 연례 행사인 ‘파수 디지털 인텔리전스(FDI) 2024’에서 엘름의 상세정보를 소개하며, 고객사 AI 활용을 돕는소프트웨어기업이되겠다는포부를밝혔다.
조규곤 파수 대표는 이날 기조연설에서지식경영문서화와 언어모델 기술력간 결합이중요하다고 강조했다. 조대표는“이전의지식경영이사람의지식을 문서화하는 데 초점을 맞췄다면이제는해당축이언어모델로옮겨가고있다”며 “지식경영 문서화가 원활하지않으면언어모델로이전은 불가능하다”고설명했다.
실제엘름은기존언어모델에파수의데이터관리노하우가더해졌다는평가를 받는다. 언어모델 훈련에 활용하는데이터를 관리함으로써효율성을 높일수 있다는 것이다. 엘름은 기존 언어모델과 달리한글 정보를 처리하는 데강점을 보인다. 업계관계자는 “국내 기업들 데이터는 한글이 많은데 기존 언어모델들은 여기에약점을 보였다”며 “엘름의강점은이런애로사항을해결하는데도움이될것”이라 말했다.
파수의문서관리플랫폼 ‘랩소디’를사용하는기업은엘름과 시너지효과도기대할 수 있다. 랩소디는 모든 문서를중복 없이 암호화·중앙화하는 소프트웨어다.문서가상화기술을기반으로여러사용자가 분산 저장해도 하나의문서로 관리한다. 예를들어한 직원이문서작업후 저장하면다른 직원들이저장한 파일도 최신 버전으로 자동 동기화한다. 파수 관계자는 “문서를 자동으로 동기화하면 엘름의 훈련 효율성이많이늘어날 것”이라 설명했다. 기업문서를 실시간으로최신화해구형데이터가 훈련 자료로 쓰이는 것을 방지한다는뜻이다.
◆스캐터랩“T 아닌F같은언어모델지향”
“T(직관형)가 아닌 F(감정형) 같은언어모델을 지향한다.” 스캐터랩은 지난해 11월 자체 개발한 sLLM ‘핑퐁-1’을공개하면서 이 같은 출사표를 던졌다.핑퐁-1의 개발을맡은이주홍스캐터랩머신러닝 리서치 리드는 “다른 기업이정확도에집중한다면우리는대화의‘경험’에집중했다”고 설명했다.
그간 스캐터랩은 일상대화 딥러닝과같은 AI 기술을 바탕으로 실제사람처럼친근한대화를나눌수있는 ‘관계지향형’ AI 언어모델을 개발해 왔다. 기존언어모델에서울연남동의좋은점을설명하면서연남동으로오라고하면기존언어모델은 연남동에 관한 정보를 요약·정리한다. 반면 관계지향형 AI 언어모델은“연남동에네가있어좋다” 같은사회성있고감성적인답변을한다.
핑퐁-1은 스캐터랩이보유한 sLLM인‘루다 젠-1’보다 고도화된 모델이다. 파라미터를몇배가량키우고7배많은데이터를 학습시켰다.일상적인대화뿐아니라일반지식이나코딩데이터등도학습시켜다양한지식을갖도록만들었다.
스캐터랩은 핑퐁-1을 통해엔터테인먼트·게임·콘텐츠·소셜 커머스 등과 같은 비즈니스를 공략할 계획이다. 고객관계성이중요한분야에서강점을발휘하겠다는 의미로 풀이된다. 스캐터랩은소비자를 공략할 수 있는 감성적인 메시지 작성을 핑퐁-1의 활용 사례라 소개하기도했다.
핑퐁-1의 이런 특징은 ‘제타’에서 직접확인할 수 있다. 핑퐁-1에 기반한 제타는스캐터랩이3일 출시한 AI 스토리플랫폼이다. 핑퐁-1에 스토리를 초점으로미세조정한 서비스다.이용자는자신이원하는 대로 AI 캐릭터를 생성해원하는 방향으로 스토리를 전개할 수 있다. AI와 감성대화를 넘어상호작용과실시간스토리까지장착했다는평가다.
만들고 싶은 캐릭터 이미지·이름·특징 등을 입력하면 스캐터랩 생성 AI가자연스레해당내용을대화와스토리에반영한다. ‘친구들과 치킨을 먹으러 간다’는 대화를 진행한다면 ‘치킨집 앞에도착했다’는 식의 이야기를 이어갈 수있도록지시문소재를던져주는방식이다. 스캐터랩은 제타에 대한 국내 시장반응을 확인한 후 글로벌 진출에나설예정이다. 김종윤 스캐터랩 대표는 “변화하는 AI 시대 흐름에맞게자신만의취향을 담은 스토리를 직접만들어즐기는 차별화한 경험을 제공하겠다”고말했다.
일상적대화넘어지식·코딩데이터까지학습시킨관계지향형모델