온디바이스 AI 소프트웨어 스타트업 ZETIC.ai(제틱에이아이, 대표 김연석)가 온디바이스 AI 통합 솔루션 ZETIC.MLange(제틱 멜란지, 이하 멜란지)의 시험 버전을 런칭했다고 29일 밝혔다. 제틱에이아이는 “Bring on-device AI to everyone(온디바이스 AI를 모두에게)”라는 브랜드 미션 하에 AI서비스를 운영하는 스타트업들이 서버를 통한 AI 연산을 내재화할 수 있는 온디바이스 AI 솔루션을 개발하고 있다. 제틱에이아이는 지난 5월 한국투자액셀러레이터, 더벤처스의 시드 투자를 유치한 바 있다.
ZETIC.MLange는 기존 AI 모델(STT, TTS, Image segmentation, Gen AI 등)을 온타겟 AI 모델 라이브러리로 구현해 온디바이스 AI로 통합하는 자동화된 솔루션이다. 멜란지 사용자는 보유한 AI 모델을 활용해 쉽고, 빠르고, 간편하게 온디바이스 AI 애플리케이션을 만들 수 있다. 서버를 호출하며 발생하는 비용을 온디바이스로 내재화하며 아낄 수 있는 경제성도 무시할 수 없는 장점이다. 멜란지는 모든 OS와 프로세서, 모든 기기를 지원하여 복잡한 엔지니어링 과정 없이도 온디바이스 AI 애플리케이션을 쉽게 구현할 수 있게 도와준다.
기존 온디바이스 AI 애플리케이션 개발 방법은 AI 모델을 가진 고객사가 Furiosa, Rebellion와 같은 온디바이스 AI 하드웨어 회사의 NPU 반도체를 사용하거나 Nota.ai, SqueezeBits와 같은 온디바이스 AI 소프트웨어 회사의 모델 경량화 툴을 사용하더라도 직접 온디바이스 AI 애플리케이션을 만들어야했다. 이러한 방법이 최소 수개월에서 수년의 시간이 소요된다는게 지금까지의 업계의 페인포인트였다.
멜란지는 개발자 친화적 UX를 최우선으로 고려하여 설계되었다. 온디바이스 AI 전환에 필요한 복잡한 과정을 제거하고, 명령어 하나로 AI 모델로부터 멜란지 Key를 생성하고 온디바이스 AI 애플리케이션을 얻을 수 있다. 즉, 고객사는 추가 엔지니어링 작업 없이 AI 모델만 있으면 24시간 내에 온디바이스 AI 애플리케이션을 만들 수 있다.
기존 온디바이스 AI 하드웨어 회사들은 그들이 개발한 NPU와 연계된 기기만 지원하는 한계가 있으며, 기존 온디바이스 AI 소프트웨어 회사들은 NPU 지원이 미비하거나 고객이 직접 적용해야 하는 어려움이 있다.
멜란지는 다양한 SoC 회사의 NPU와 다양한 OS를 지원하여 기기와 상관없이 온디바이스 AI를 구현할 수 있다. 현재 멜란지는 Andorid, iOS, Linux OS와 Qualcomm, Mediatec, Apple NPU를 지원한다.
기존 AI 서비스 회사들은 서비스 운영을 위해 필수적으로 서버 호출을 사용해야 했다. ChatGPT로 유명한 Open AI의 경우, 서버 비용이 월 수십억원에 달할 정도로 지출된다. 특히, 누적되는 AI 인프라 비용은 AI 서비스 회사들의 큰 골칫거리이다.
멜란지는 이러한 기존 회사들의 페인포인트를 해결하기 위해 온디바이스 기술을 통해 기존의 서버 비용을 제거한다. 고객사는 일회성 세팅비 외, 라이센스 비용만 지불하면 되므로 더 경제적인 AI 서비스 운영이 가능하다.
제틱에이아이는 멜란지 베타 버전을 홈페이지에 공개했다. 누구나 제틱에이아이 홈페이지의 Product 페이지에서 멜란지를 사용할 수 있다. 현재 제틱에이아이는 Trial과 Enterprise 버전 두 가지 요금제를 제공하며, 올해 내에 멜란지를 활용할 수 있는 새로운 요금제도 추가할 예정이다.
- 홀트에너지, 한국투자엑셀러레이터에서 시드 투자 유치
- 브이에스팜텍, 방사선 민감제 유방암 임상 2상 美 FDA 승인 획득
- 플러그링크, KDB인프라자산운용과 100억원 추가 전기차 충전시설 투자 약정
- ‘AI기반 이커머스 반품 솔루션’ 리터놀, 중기부 ‘팁스’ 선정
- 핀테크 스타트업 페이히어, 청년선호·육아친화 ‘2024 서울형 강소기업’ 선정
