Google AI Edge LiteRT-LM (C++)
google-ai-edge/LiteRT-LM (C++)
📅 2026-04-07
📰 GitHub Trending
⬆ 2.5k
요약
Google의 엣지 AI 프로젝트로, 경량 언어 모델을 로컬 기기에서 실행하기 위한 C++ 기반 런타임입니다.
핵심 포인트
- 엣지 디바이스에서 경량 언어 모델 실행에 최적화된 프레임워크
- 온디바이스 추론으로 낮은 지연시간과 프라이버시 보장
왜 중요한가
개발자가 클라우드 의존 없이 로컬에서 빠르고 안전한 AI 기능을 구현할 수 있습니다.