최근 생성형 인공지능(AI) 기술이 빠르게 발전하고 있는 가운데, ‘온디바이스 AI’에 대한 관심도 높아지고 있다.

온디바이스(On-Device) AI는 데이터 연산이 중앙 데이터센터나 클라우드를 거치지 않고 데이터가 생성되는 말단 기기에서 실시간 빠르게 이루어지는 AI 기술을 말한다. 클라우드 기반 AI가 안고 있는 과도한 전력 사용과 개인정보 유출위험, 속도지연 등의 약점을 해결할 수 있다. 인터넷에 연결할 필요없이 스마트폰이나 태블릿 같은 모바일 기기에서 바로 작동한다는 의미에서 ‘엣지(Edge·말단) AI’로도 불린다. 

2023년 챗GPT 같은 클라우드 기반 생성형 AI가 AI 산업에 대한 사회적 관심을 크게 고조시켰다면 올해는 AI를 일상 생활과 일터에 더욱 효과적으로 구현해줄 솔루션으로 온디바이스 AI가 주목받고 있는 상황이다.

AI 산업 전문가들은 온디바이스 AI가 자율주행차와 공장자동화, 스마트홈·빌딩, 헬스케어, 로봇·드론 등 다양한 산업에서 폭넓게 사용될 것으로 내다보고 있다. 글로벌 시장조사기관 ‘마켓앤마켓’에 따르면 전 세계 온디바이스 AI 시장규모는 2023년 185억달러(약 25조원)에서 연평균 37.7% 성장해 오는 2030년엔 1739억달러(약 237조원) 수준에 이를 것으로 전망되고 있다.

이미 세계적인 빅테크 업체들과 국내 삼성전자, LG전자 등은 온디바이스 AI 기술 및 제품 개발 경쟁을 벌이고 있다. 이 뿐만이 아니다. 국내 온디바이스 AI 기술 스타트업들도 최근 투자를 유치하며 발빠르게 사업을 확대하고 있다.

22일 관련업계에 따르면 B2B(기업간 거래) 온디바이스 AI 서비스 스타트업인 ‘제틱에이아이(대표 김연석)’는 지난 21일 한국투자엑셀러레이터와 더벤처스로부터 시드투자를 유치했다. 투자금액은 비공개다.

올해 4월 설립된 제틱에이아이는 고가의 GPU(그래픽처리장치) 서버 없이도 모바일 기기에서 직접 AI 모델을 실행할 수 있는 서버리스 AI 솔루션인 ‘제틱 멜란지(ZETIC.Melange)’를 개발한 업체다.

고객사 개발자들은 멜란지 솔루션을 활용해 AI 모델을 자사 앱에 쉽게 통합할 수 있다. 또한 고객사가 자신의 AI 모델과 데이터를 제틱에이아이에 제공하면 이를 최적화해 각 안드로이드, 애플 디바이스에 탑재된 칩에 맞는 소프트웨어 라이브러리로 변환한다. 이 과정을 통해 기존 앱에서 발생하던 모든 서버 작업을 내부 라이브러리 작업으로 대체함으로써 서버 비용을 없앨 수 있다.

또한 제틱 멜란지는 다양한 시스템온칩(SoC)의 신경망처리장치(NPU)를 활용해 AI 모델의 성능을 극대화한다. 안드로이드 기기에 주로 탑재되는 퀄컴사의 칩 뿐만 아니라 애플의 A시리즈, M시리즈 칩 등의 NPU 소위 AI 전용 칩의 사용 성능을 극대화한다. 이를 통해 비용 절감 뿐만 아니라 모바일 기기에서의 처리 속도를 개선하고 데이터 보안을 강화해준다.

제틱에이아이는 이번 투자유치금을 활용해 AI 개발자 등 인력채용을 통해 제품을 더욱 고도화해 글로벌 시장 진출을 준비할 계획이다. 김연석 제틱에이아이 대표는 “음성인식 AI 서비스를 제공하는 국내 스타트업의 경우 클라우드 비용으로 매달 1000만원, 매년 1억원 이상의 비용을 소모하고 있다”며 “제틱에이아이는 클라우드 AI 서비스를 온디바이스 AI 서비스로 전환해 서비 비용 부담을 없애고, 자유롭게 AI 서비스를 개발할 수 있는 환경을 만들겠다”고 포부를 밝혔다.

앞서 지난 4월초에는 온디바이스 AI 웨어러블 카메라 솔루션 개발 스타트업 ‘링크플로우(대표 김용국)’가 SBI인베스트먼트 외 다수의 투자기관에서 115억원 규모의 시리즈C 투자를 받았다. 이로써 링크플로우의 누적투자유치액은 400억원을 돌파했다.

링크플로우는 2016년 삼성전자 사내벤처 프로그램 C-Lab에서 스핀오프한 업체로 ‘온디바이스 AI 웨어러블 카메라 솔루션’을 개발하고 있다. 이 회사의 온디바이스 솔루션은 영상 콘텐츠 품질이 좋을 뿐만 아니라 개인정보보호 기능이 뛰어나기 때문에 현재 국내 공공 웨어러블 카메라 시장의 약 80% 이상을 점유하고 있으며 최근 경찰청, 소방청 등 민원 이외의 범위로도 저변을 넓히고 있다.

김용국 링크플로우 대표는 “이번 투자를 기반으로 올해 B2C 시장을 타깃으로 한 신제품 출시와 본격적인 미국 시장 진출을 계획하고 있다”며 “레저와 보안, 치안, 방산 등 다양한 분야에서 경쟁력을 가질 수 있도록 노력할 것”이라고 말했다.

이밖에도 온디바이스 방식을 활용한 AI 경량화 기술 스타트업인 ‘스퀴즈비츠(대표 김형준)’가 지난 1월 말 카카오베처스와 삼성넥스트, 포스코기술투자, 포스텍홀딩스로부터  25억원 규모의 프리A 투자를 받은 바 있다.