sLLM 뜻? 소형언어모델 sLLM 급부상_종류, 모델

안녕하십니까, 

부매경입니다. 

 

오늘은 최근 MS에서 출시한 sLLM 모델인 오르카2에 대한 관심이 높습니다. 

sLLM에 대해서 한번 알아보도록 하겠습니다. 

 

sLLM 종류, MS Orca(MS 홈페이지 캡쳐)

 

sLLM 이란?

• Small LLM(Large Language Model)
• 소형 언어 모델 
• 매개변수 100억 단위 이하의 경화된 모델

 

기존의 대규모 언어 모델의 크기를 늘려 인공지능 성능을 향상하는 대신 특정분야에 맞춤화된 소규모 언어 모델인 sLLM이 점차 대중화될 것으로 보고 있습니다. 

 

---

sLLM 장점

• 특정 분야에 한정되지만 정확하고 신뢰성이 높으며, 깊이가 깊은 데이터 학습
• 작고 유연한 모델로 머신러닝 소요시간을 절약하고 플랫폼을 유지하는 비용도 절약 

 

OpenAI의 샘 알트먼이 최근 기존 LLM의 한계성을 언급하여 GPT-4을 끝으로 LLM 확대에 집중하지 않고 앞으로 sLLM이 대세임을 언급하였습니다. 

 

반응형

 

---

sLLM 종류

• 메타의 라마(LLaMA) 
• 마이크로소프트(MS)의 오르카(Orca) 2 
• 스탠포드 대학의 알파카 7B
• 구글의 팜2(PalM2)

최근 기업들은 무겁고 활용이 어려운 LLM과 달리 sLLM은 보다 경제적이고 신속하게 만들 수 있으며, 보유한 데이터를 맞춤형으로 구축할 수 있어 향후 활용도가 높은 것으로 인식되고 있습니다. 

 

 

인공지능 코인, AI 코인_AI 관련 대표 코인 3가지_그래프, 페치, 오션 (tistory.com)

인공지능 코인, AI 코인_AI 관련 대표 코인 3가지_그래프, 페치, 오션

 

인공지능(AI) 관련 미래 유망 직업_대표 10개 직업 (tistory.com)

인공지능(AI) 관련 미래 유망 직업_대표 10개 직업