본문 바로가기
4차산업혁명

sLLM 뜻? 소형언어모델 sLLM 급부상_종류, 모델

by 부매경 2023. 11. 24.
728x90

안녕하십니까, 

부매경입니다. 

 

오늘은 최근 MS에서 출시한 sLLM 모델인 오르카2에 대한 관심이 높습니다. 

sLLM에 대해서 한번 알아보도록 하겠습니다. 

 

sLLM 종류, MS Orca(MS 홈페이지 캡쳐)

 

sLLM 이란?

  • Small LLM(Large Language Model)
  • 소형 언어 모델 
  • 매개변수 100억 단위 이하의 경화된 모델

 

기존의 대규모 언어 모델의 크기를 늘려 인공지능 성능을 향상하는 대신 특정분야에 맞춤화된 소규모 언어 모델인 sLLM이 점차 대중화될 것으로 보고 있습니다. 

 


sLLM 장점

  • 특정 분야에 한정되지만 정확하고 신뢰성이 높으며, 깊이가 깊은 데이터 학습
  • 작고 유연한 모델로 머신러닝 소요시간을 절약하고 플랫폼을 유지하는 비용도 절약 

 

OpenAI의 샘 알트먼이 최근 기존 LLM의 한계성을 언급하여 GPT-4을 끝으로 LLM 확대에 집중하지 않고 앞으로 sLLM이 대세임을 언급하였습니다. 

 

반응형

 


sLLM 종류

  • 메타의 라마(LLaMA) 
  • 마이크로소프트(MS)의 오르카(Orca) 2 
  • 스탠포드 대학의 알파카 7B
  • 구글의 팜2(PalM2)

최근 기업들은 무겁고 활용이 어려운 LLM과 달리 sLLM은 보다 경제적이고 신속하게 만들 수 있으며, 보유한 데이터를 맞춤형으로 구축할 수 있어 향후 활용도가 높은 것으로 인식되고 있습니다. 

 

 

인공지능 코인, AI 코인_AI 관련 대표 코인 3가지_그래프, 페치, 오션 (tistory.com)

 

인공지능 코인, AI 코인_AI 관련 대표 코인 3가지_그래프, 페치, 오션

안녕하십니까, 부매경입니다. 오늘은 인공지능(AI) 코인에 대해서 알아보겠습니다. 코인시장, 암호화폐에서도 4차 산업혁명의 핵심 기술인 인공지능 관련 코인이 요즘에 많이 이슈 되고 있습니

pt1000.tistory.com

 

인공지능(AI) 관련 미래 유망 직업_대표 10개 직업 (tistory.com)

 

인공지능(AI) 관련 미래 유망 직업_대표 10개 직업

안녕하십니까, 부매경입니다. 오늘은 인공지능(AI) 관련 미래 유망직업에 대해서 알아보도록 하겠습니다. 인공지능은 4차 산업혁명에 가장 중요한 핵심 기술로 떠 올랐습니다. 인공지능으로 인

pt1000.tistory.com