(정의) 온디바이스 AI(On-Device AI)란 데이터를 외부 서버나 클라우드에 전송하지 않고 디바이스 자체적으로 AI연산을 수행하는 기술◎ 대용량 데이터 처리 제한, 개인정보 유출 위험, 실시간성 저하 등 기존 서버 기반 중앙집중형 구조의 여러 제약사항을 해결하기 위해 등장◎ 높은 컴퓨팅 파워가 필요한 AI 연산을 다양한 하드웨어 및 소프트웨어 기술을 활용하여 최적화 된 스마트폰, 로봇, 드론 등 디바이스 내에서 AI 연산 수행◎ 디바이스 내 자체 AI 연산을 통해 네트워크 환경에 독립적인 실시간 서비스, 개인정보 유출 최소화, 서버 운영비용 절감 등 강점◎ NPU, AI 모델 최적화 등 고수준의 하드웨어 및 소프트웨어 기술 동시 요구로 인해 높은 진입장벽 존재(시장동향) 글로벌 기업 및 각국 정부 투자 가속화로 고성장 예상◎ 생성형 AI 및 온디바이스 AI 시장은 전 세계적으로 빅테크 기업 투자 열풍으로 급성장이 예상되며, 각국 정부들도 투자계획 수립을 서두르고 있어 향후 시장 확대가 가속화될 전망◎ 미국을 포함한 유럽, 일본, 중국, 대만, 한국 등 주요 국가에서 디바이스 중심의 AI 관련 기술 개발 지원 정책을 지속적으로 발표◎ AI칩 제조사들은 자사 칩 기반 생태계 구축을 위해 데이터·AI모델·추론·SDK 등 전방위적 기술 지원 - 단순 하드웨어 드라이버 수준의 라이브러리를 넘어 AI 모델 경량화 및 최적화 도구 등 생태계 구축을 위해 다양한 소프트웨어 지원