sLLM(소형언어모델)

sLLM이란?

소형언어모델(sLLM)을 뜻하는 단어

구글, 마이크로소프트(MS), 메타 등 빅테크 기업들이 올해 들어 sLLM을 선보이며 이 시장에 뛰어들고 있다. 훈련과 구동에 엄청난 비용이 드는 거대언어모델(LLM) 대신 가성비가 좋은 sLLM이 주목받고 있다.

sLLM은 경량화를 통해 응답 속도를 향상했고, 입력 데이터 최적화 등으로 LLM 못지 않은 효율을 낼 수 있다는 점이 장점이다. ‘온디바이스 AI’로 활용되기에도 적합하다.

온디바이스 AI는 클라우드가 아니라 스마트폰, 노트북 등 기기 자체에 AI 서비스가 탑재된 것을 말하는데, 제한된 성능과 공간에서 AI를 구동하려면 작은 모델이 더 적합하다.

국내 기업들도 sLLM을 속속 내놓고 있다. 네이버는 최근 하이퍼클로바X의 신규 경량화 모델인 ‘HCX-대시’를 선보이기도 했다.


출처 : 네이버 지식백과

 
 
국내 인공지능(AI) 기업들이 매출을 내기 위해 가장 먼저 집중하는 분야는 소형언어모델(sLLM)이다. sLLM은 거대언어모델(LLM)보다 모델의 크기는 작지만 특정 산업과 관련된 데이터를 학습한 언어모델이다. 금융·공공·제조·커머스 등 특정 산업에 대한 지식이 풍부해 빠르게 답을 할 수 있다. LLM만큼 넓은 분야는 다루지 못하지만 특정 분야에 대해서는 보다 전문적인 답변을 제공한다. 네이버 · 파수 · 포티투마루 · 솔트룩스 등의 토종 IT(정보기술) 기업들은 sLLM을 내놓으며 기업 고객을 늘려가고 있다. 

 
기업들이 sLLM을 도입해 가장 많이 활용하고 있는 분야는 '내부 검색'이다. 일반 사무직은 업무를 하기에 앞서 자료를 찾는데 많은 시간을 할애한다. 주로 네이버나 구글을 통해 검색을 하며 업계 동향이나 경쟁사의 상황을 파악한다.

자료를 찾는데 들이는 시간을 최소화하고자 기업들이 찾은 것이 sLLM이다. sLLM에게 자사의 데이터를 학습시킨 후 문장으로 질문을 던지면 sLLM은 데이터를 기반으로 문장 형식으로 답을 해준다. 직원들은 시간을 절약할 수 있다.

이에 네이버·파수·포티투마루·솔트룩스 등의 기업들은 내부 검색용 sLLM이 필요한 기업들을 대상으로 sLLM을 공급하며 AI에서 조금씩 매출을 내고 있다. 이를 기반으로 보다 다양한 서비스를 제안하고 있다. 김동환 포티투마루 대표는 "내부 검색용 다음으로 기업들이 관심을 보이는 분야는 문서를 단순·비교 요약하는 것과 문서 초안을 작성하는 것"이라며 "직원들의 시간을 절약해주며 업무 생산성을 끌어올릴 수 있는 방향으로 sLLM을 확장하려고 한다"고 말했다. 

 
 
기업이 sLLM을 도입하는 방식은 내부 시스템에 설치하는 구축형과 클라우드에 있는 것을 그대로 쓰는 서비스형 소프트웨어(SaaS)로 나뉜다. SaaS로 sLLM을 도입하면 구축형보다 초기 구축 비용이 줄어들고 보안과 업데이트 등 꾸준한 관리를 빠르게 받을 수 있다. 한국과 달리 미국·일본·유럽은 SaaS가 보편화됐다.
 
sLLM 시장이 성장하고 있지만 전체 AI 시장이 오픈AI의 챗GPT의 등장 이후 문서 중심으로 쏠리는 것에 대한 우려는 제기된다. 챗GPT가 나타나기 전까지 AI는 문서뿐만 아니라 영상을 중심으로 한 비전 분야와 생산시설에서 기기의 고장을 예측해 생산성을 끌어올리는 분야 등으로 성장하고 있었다. 하지만 챗GPT의 등장 이후 텍스트 위주의 문서 중심 AI에 관심이 집중되면서 나머지 시장은 침체됐다는 것이 중론이다.
 
 
 

---

 
 

출처 : 뉴스1

참석자들은 AI 법령정보 서비스의 방향을 논의하고, 소규모 언어모델(sLLM), 오류(환각) 최소화 방안, 이미지 학습 기술(멀티모달) 등 AI 기술의 적용 방안에 대한 다양한 의견을 나눴다.

법률분야에 특화된 소규모 언어모델(sLLM)을 개발해 생성형 AI 기술 이용 과정에서 발생할 수 있는 오류(환각, Hallucination)를 최소화하고, 법령정보에 한정한 학습 체계를 통해 답변의 정확도를 높인 것이 특징이다.

멀티모달 기술을 도입, 텍스트뿐 아니라 이미지, 음성, 영상 등의 다양한 데이터로 법령 정보를 제공해 그림, 도표, 웹툰 시각 자료와 함께 쉽게 접근할 수 있도록 했다.

법제처는 올해 수립한 '생성형 AI 법령정보서비스 정보화전략계획(ISP)'을 토대로 2025년에 생성형 AI 법령정보시스템 구축을 위한 세부 계획을 마련하고, 관계 부처와 협의를 거쳐 2026년부터 본격적으로 생성형 AI 법령정보시스템을 고도화할 예정이다.

 
 
 

출처 : 뉴시스

산업통상자원부는 한국엔지니어링협회와 함께 11일 민·관 정책 협의체인 '제1차 K-엔지니어링 산업대화'를 개최했다.

특히 ▲엔지니어링 특화 소형언어모델(sLLM) 개발 등 AX 가속화 ▲해외시장 개척을 위한 혁신기업 육성방안 ▲엔지니어링 대가 현실화 등 산업 발전을 가로막는 제도 개선 과제 등을 중심으로 논의했다.

산업부는 내년 초 엔지니어링 산업혁신전략을 수립하고 정책 실행에 나설 계획이다.

 
 
 

출처 : 블로터

LG유플러스가 기업간거래(B2B) 시장을 공략하며 인공지능(AI) 수익화에 시동을 걸었다. 회사는 전통적인 통신사에서 AX(AI 전환) 전문 기업으로의 체질 개선을 추진하고 있다. 

회사는 B2B 시장에서 AI로 이미 매출을 내고 있다. AI 데이터센터와 AICC(AI고객센터)가 대표적이다.

B2C 분야의 AI 사업은 우선 이용자를 모으는 것이 먼저다. 뛰어난 AI 품질과 사용성으로 이용자를 모은 후 점차 유료 프리미엄 버전을 출시하는 방식이다. LG유플러스는 익시오(ixi-O)를 필두로 한 '개인 AI 비서'를 내세웠다. 회사가 7일 공개한 익시오는 AI 통화 솔루션이다. 주요 기능은 △전화 대신 받기 △녹음·요약, AI 태스크 제안 △실시간 보이스 피싱 탐지 △보이는 전화 등이다. 국내에서 이용자 기반을 다진 후 유료 프리미엄 버전을 도입하거나 글로벌 시장에 출시하는 방안을 추진한다. 

익시오를 비롯한 LG유플러스가 내놓을 AI 서비스들은 자체 개발한 sLLM '익시젠'이 기반이다. 익시젠은 LG AI연구원의 초거대 AI '엑사원'을 기반으로 통신·플랫폼 데이터를 학습한 sLLM이다. 통신·플랫폼 분야에 특화됐다. 

 

 
 
 
출처 : 블로터