스마트폰과 노트북에 내재된 인공지능(AI)이 알아서 문서 정리와 번역을 마쳐 놓고, 말만 하면 가전이 뭐든 해결해 준다. 공상과학(SF) 영화·드라마에서 숱하게 봤던 그 장면이다. 이제는 픽션이 아닌 현실로 바뀌고 있다. 점점 똑똑해지는 AI 덕분인데, 그 뒤에 숨은 주역이 있다. 말단(edge)에서 쉬지 않고 일하는 에지 반도체 얘기다.

가장자리라는 뜻의 ‘에지’(edge)가 붙은 AI 반도체는 데이터 생산지와 가장 가까운 네트워크에서 일한다. 일반적인 AI 반도체가 데이터센터, 클라우드 컴퓨팅 설비 등 중앙 서버에서 각지의 데이터를 끌어와 처리하는 것과는 다르다. 스마트폰·가전 등 소규모 개별 기기에 에지 반도체를 장착하거나 아파트 단지, 통신 기지국 등 가까운 네트워크에 서버를 두고 가동하는 방식이다.

에지 반도체는 거대언어모델(LLM)을 돌려야 하는 클라우드용 반도체보다 데이터 처리량 등에서 상대적으로 역량이 떨어진다. 대신 크기가 동전만큼 작아 기기 안으로 들어갈 수 있다는 게 장점이다. 별도 냉각장치가 필요 없을 정도로 열도 많이 나지 않는다. 스마트폰·노트북 같은 전자기기는 물론, 냉장고·TV 등 가전제품, 자동차·로봇 등 일상의 모든 기기 안에 탑재 가능하다. 소형언어모델(SLM)이 나온 것도 에지 반도체 개발 경쟁을 가속화하는 요인이다. 이제는 10억~50억 파라미터(AI 연산에 쓰이는 매개변수) 정도로도 돌릴 수 있는 SLM 모델이 마이크로소프트(MS)·메타 등에서 줄줄이 나오고 있다.  

끊기지 않는 빠른 데이터 처리 속도 역시 에지 반도체의 강점이다. 전력 소모도 적다. 반도체가 탑재되는 기기의 배터리 소모를 최소화해야 하기 때문이다. 개별 기기 안에서 데이터를 처리하는 에지 반도체는 프라이버시 우려도 해소해줄 수 있다. 전자기기 하나하나가 에지 반도체를 통해 스스로 학습하고 추론한다면, 사용자 데이터는 집 밖으로 나갈 일이 없다.


시장에서 에지반도체를 주목하는 이유는 엔비디아 그래픽처리장치(GPU)가 꽉 잡고 있는 클라우드용 반도체 시장과 달리 이 시장엔 아직 절대 강자가 없기 때문이다. 삼성전자부터 퀄컴, 엔비디아에 이르기까지 모두 다 눈독 들이고 있는 ‘에지반도체 춘추전국시대’ 패권을 잡을 회사는 어디일까. 딥엑스, 모빌린트, 페블스퀘어 등 국내 스타트업들도 뛰어들었다는데. 이 시장의 새로운 엔비디아로 성장할 수 있을까. 100원짜리보다, 손톱보다 작은 에지 반도체는 우리 삶을 어떻게 ‘에지’있게 바꿀까.

📌더 자세한 기사 내용이 궁금하시다면, 기사 링크를 복사해 주소창에 붙여넣으세요.
엔비디아 잡을 '에지 반도체'…이 기업들, 개인AI 시대 연다
https://www.joongang.co.kr/article/25302724

10년이면 강산이 변한다지만, 10일이면 인공지능(AI)이 변한다. 눈 잠깐 돌린 사이 새로운 AI들이 앞다퉈 쏟아지고, 새 AI 용어들도 줄줄이 나온다. LLM이 뭔지는 이제 대충 감 잡겠는데, LLM에 이어 이제는 SLM 시대가 온다고 한다. 검색과 생성 AI 두 기술을 합친 ‘콤보 기술’이라는 RAG도 있다. AI 에이전트는 또 어디에 쓰는 물건인가. 알듯 말듯한 AI 용어와 개념들, 기사와 함께 알기 쉽게 풀었다.

📌더 자세한 기사 내용이 궁금하시다면, 기사 링크를 복사해 주소창에 붙여넣으세요.  
LLM도 힘든데 SLM 또 뭐야? AI 문해력 테스트 10문 10답
https://www.joongang.co.kr/article/25303890