KR EN

Blog

Detail Page | Tech 메인메뉴

Detail Page | Tech

9월의 IT Trend: 국내 기업의 AI 전략은 'sLLM' 중심

2024.09.27

 

AI 시대, 글로벌 빅테크를 중심으로 각국의 AI 기술 경쟁이 치열하게 벌어지고 있습니다. 대한민국 역시 일찍이 AI 경쟁에 뛰어들었지만, 대규모 언어 모델(LLM) 개발에 있어 막대한 자금력을 가진 미국 대기업이나 중국에 맞서기에는 역부족이라는 평가가 지배적입니다. 이러한 상황 속에서 국내 기업들은 개발 비용이 낮고 특정 분야에 특화된 소형 언어 모델(sLLM) 분야에 더욱 집중하는 전략을 구사하기 시작했습니다.

 

sLLM을 선호하는 기업들
 

sLLM은 LLM이 천억 개 이상의 파라미터를 요구하는 반면, 수십억 개의 파라미터만을 필요로 합니다. 또한, 막대한 컴퓨팅 자원이 필요한 LLM에 비해 sLLM은 단순하고 운영 비용이 저렴합니다. 
 

기업 업무에 사용할 AI는 세상의 모든 지식을 알고 있을 필요가 없습니다. 예를 들어, 제조업체가 비즈니스에 필요한 서류를 만드는 데 AI를 사용하는 경우, AI가 최근 유행하는 예능 쇼 출연진을 알고 있을 필요는 없겠죠. 이런 이유로 최근 기업들은 비용이 비싸고 학습에 오랜 시간이 걸리는 LLM보다, 필요한 정보만을 알고 있고 비용도 저렴한 sLLM을 더 선호하고 있습니다. 더불어 데이터 보안이 중시되는 기업의 경우, 온프레미스 또는 프라이빗 클라우드 내에서 sLLM을 운영해 고민을 해결할 수 있습니다.
 

 

특정 분야에서 더 뛰어난 sLLM
 

sLLM에 RAG(Retrieval-Augmented Generation) 기능과 파인 튜닝을 추가하면 특정 분야에서 LLM 못지않은 성능을 발휘할 수 있습니다. 이런 이유로 제조, 금융, 의료, 법조 등 특정 분야에 특화된 sLLM이 주목받고 있습니다.
 

언론에 따르면 미래에셋증권은 9월 중순 온프레미스 방식의 금융 특화 소형 언어 모델(sLLM)을 구축했습니다. 이 플랫폼은 직원 및 개별 부서가 자신만의 업무 매뉴얼이나 노하우가 담긴 문서들을 업로드해 학습시키고, 전용 챗봇을 만들어 사용할 수 있도록 설계되었습니다. 금융사는 망분리 규제 때문에 외부 생성형 AI를 사용할 수 없으므로, 온프레미스형 AI를 구축해 내부적인 필요를 충족하고 있습니다. 다른 시중은행들과 증권사들도 금융 특화 sLLM을 활용하는 방안을 고민 중에 있다고 전해집니다.
 

 

기업 AX 이끌어갈 sLLM
 

sLLM은 국내뿐만 아니라 글로벌 무대에서도 기업의 AI 혁신을 이끌어갈 것으로 기대됩니다. 미국 시장조사업체 밸류에이츠 리포트에 따르면, sLLM 시장 규모는 2022년 51억8000만 달러에서 오는 2029년 171억8000만 달러로 성장할 전망입니다. 
 

국내 기업들은 sLLM을 통해 AI 경쟁력을 높이고 있으며, 특정 산업과 기업에 맞는 맞춤형 솔루션 제공을 통한 AI 수익화도 겨냥하고 있습니다. 기업의 AI 도입이 더욱 활발해지는 만큼, 앞으로 sLLM의 본격적인 성장에 주목할 필요가 있어 보입니다. 

 

 

#AI