무슨 일이야?

마이크로소프트가 23일(현지시간) 소형언어모델 '파이-3 미니'를 출시했다. '파이-3 미니'는 매개변수 38억개의 경량화된 AI 모델로, 거대언어모델(LLM) 기반 AI에 비해 구동 비용이 적게 든다. 마이크로소프트 로고. 연합뉴스
파이-3 미니는 MS가 출시한 SLM 중 가장 경량화된 모델이다. 매개변수(파라미터)는 38억개. 향후 출시될 파이-3 스몰(Small)과 파이-3 미디엄(Medium)의 매개 변수는 각각 70억개, 140억개다. 파이-3 미니가 상대적으로 가볍고, 비용도 훨씬 적게 들 수밖에 없다. MS는 “자원이 제한적인 환경이거나 빠른 응답이 중요한 상황, 해야 할 작업이 간단한 경우라면 특히 파이-3와 같은 SLM이 적합하다”고 소개했다. 목적에 맞게만 활용하면 저비용으로도 필요한 만큼 충분한 AI 성능을 발휘할 수 있다는 뜻이다. 세바스티엔 부벡 MS 생성형 AI 연구담당 부사장은 “비슷한 기능을 가진 다른 모델들과 비교하면 (비용이) 10분의 1 수준”이라고 설명했다. 또 MS 측은 “파이-3가 지난해 12월 출시한 파이-2보다 성능이 더 뛰어나 10배 큰 모델 수준의 응답을 제공할 수 있으며, 코딩과 추론에도 더 능숙하다”고 밝혔다.
어디에 쓰는데?
②‘온디바이스 AI’에도 필수: 손에 들고 다니는 스마트폰, 가방에 넣어다니는 노트북 등 네트워크 연결 없이 기기 자체에서 구동되는 AI(온디바이스 AI) 활성화에는 초고성능을 뽐내는 거대언어모델(LLM)이 아닌, SLM이 더 큰 역할을 할 수 있다. 삼성전자가 지난 1월 출시한 ‘온디바이스 AI’ 폰 갤럭시S24에도 자체 AI 모델 가우스의 일부 기능을 경량화한 모델이 적용됐다. MS에 따르면 이날 출시된 파이-3 미니는 인터넷을 통해 클라우드에 접속할 필요도, 특별한 반도체나 그래픽처리장치(GPU) 없이도 스마트폰 등 개인 기기에서 사용할 수 있다. 인터넷 접속 환경이 좋지 않은 국가나 지역에서도 AI 활용이 가능하다는 뜻이라, 시장을 더 넓힐 수도 있다.

세바스티엔 부벡 MS 생성형 AI 연구담당 부사장. 사진 마이크로소프트