NPU 기반 온디바이스 AI 공공서비스 확산 가속

온디바이스 AI, 공공서비스 혁신의 새 장을 열다

과학기술정보통신부는 2026년 4월 24일, 인터넷 연결 없이 디바이스 자체에서 작동하는 온디바이스 인공지능(AI) 공공서비스의 발굴과 확산을 본격 추진한다고 밝혔다. 이번 사업은 신경망처리장치(NPU)를 활용해 공공분야에서 혁신적인 AI 서비스를 개발하고, 도시 단위의 대규모 실증을 통해 그 효과를 검증하는 데 중점을 둔다.

온디바이스 AI의 강점과 공공분야 적용

온디바이스 AI는 인터넷 연결 없이도 데이터를 분석하고 판단할 수 있어 빠른 응답성과 높은 보안성을 자랑한다. 특히 재난·안전 등 실시간 판단이 필수적인 현장에서 그 중요성이 더욱 커지고 있다. 이에 정부는 지난해부터 해안 감시 수상드론, 산불 조기경보 시스템, 하천 녹조 감시 서비스 등 다양한 온디바이스 AI 공공서비스를 부산, 경남, 경북 지역에서 개발·실증해왔다.

2026년 신규 과제 공모와 지원 계획

올해는 더욱 다양한 혁신 서비스를 발굴하기 위해 신규 과제 5개를 추가 선정할 계획이다. 선정된 과제는 2년간 지자체 수요에 맞춘 온디바이스 AI 서비스를 개발하고, NPU가 탑재된 지능형 디바이스를 현장에 적용해 운영하게 된다. 사업은 2026년부터 2027년까지 진행되며, 과제당 약 29억 원, 총 147억 원의 예산이 지원된다.

사업 테마와 평가 강화

주요 테마는 교통·물류, 보건·복지, 재난·안전 분야 중 하나를 선택해 온디바이스 AI 서비스를 개발하고 도시 단위 실증을 추진하는 것이다. 또한, 시각·언어·행동을 통합 처리하는 피지컬 AI 기술을 활용해 다양한 상황에 적용 가능한 혁신 서비스 실증도 병행한다. 평가 시에는 온디바이스 AI의 필요성과 사업계획의 적정성, 수행 방안의 우수성에 대한 배점을 확대하고, 단순 인식 수준을 넘어 즉시 판단 및 대응 능력까지 고려해 실효성 높은 과제를 발굴할 예정이다.

사업 설명회 및 향후 전망

과기정통부는 4월 31일 서울 LW컨벤션센터에서 사업설명회를 개최하며, 국내 NPU 기업들의 설명 자리도 마련한다. 박태완 정보통신산업정책관은 "피지컬 AI 시대에 온디바이스 AI는 실시간성과 보안성에서 강점을 지니며, 성장 가능성이 매우 높은 분야"라며 "이번 사업을 통해 다양한 실증 사례를 확보하고 성공 모델을 창출해 AI 3대 강국 도약에 기여하겠다"고 밝혔다.