온디바이스(엣지) AI

온디바이스(엣지) AI

Solution Introduction

온디바이스(엣지) AI

온디바이스 기술은 CPU, GPU, NPU, FPGA 등 소형 저전력 하드웨어 환경에서
객체 탐지, 시멘틱 영역 분할, 자세 추정, 재난 융합 모델 및 sLLM과 같은 고성능 AI 기능을
독자적으로 수행하는 임베디드형 핵심 기술입니다.

Core Technology

주요 기술

check icon AI 알고리즘 최적화 고성능 AI 모델을 실제 서비스 환경에서 효율적으로 구동하기 위한 핵심 기술입니다. 하드웨어 자원의 제한을 극복하고 처리 속도를 극대화하는 데 집중합니다.
check icon sLLM 기반 도메인 특화 AI Agents 서비스 기술 거대언어모델(LLM)을 가볍게 만든 sLLM(소형언어모델)을 활용하여, 특정 산업군이나 기업 내부 데이터에 최적화된 지능형 에이전트를 구축하는 기술입니다.

Key Services

주요 서비스

1

서비스 엣지다비이스 기반
영상 비식별화 장치

엣지 디바이스 환경에서 영상 데이터를 실시간으로 분석하여 얼굴 등 개인정보를 자동으로 비식별화함으로써, 영상 데이터의 보안성과 현장 처리 효율을 동시에 확보합니다.

2

ARM 기반 CPU, NPU를
활용한 산업시설 예지보전 시스템

ARM 기반 CPU와 NPU를 활용해 산업시설 설비 상태를 실시간으로 분석하고, 설비 이상 징후를 사전에 감지하여 안정적인 운영을 지원합니다.

3

온도·습도·진동·소음 및
작업자 동선 추적 시스템

온도, 습도, 진동, 소음 등 다양한 환경 데이터와 작업자 동선을 통합 수집·분석하여, 현장 환경 관리와 작업 안전성 향상을 지원합니다.

4

sLLM 기반 멀티 AI Agent 관리 기술 및
워크플로우 배포 운영 기술

sLLM 기반 멀티 AI Agent를 통합 관리하고 AI 워크플로우를 효율적으로 배포·운영함으로써, 도메인 특화 AI 서비스의 안정적인 운영 환경을 제공합니다.

Application Features

적용 기능

객체 탐지

객체 탐지

영상 내에 존재하는 사람, 차량, 장비등 특정 객체의 위치와 종류를
실시간으로 식별하고 바운딩 박스로 검출하는 기술입니다

시멘틱 영역 분할

시멘틱 영역 분할

이미지를 픽셀 단위로 분석하여 배경, 도로, 사람, 장애물 등
각 영역의 의미를 정교하게 구분하는 고난도 비전 기술입니다

자세 추정

키포인트 추출 및 자세 추정

사람의 주요 관절위치를 키포인트로 추출하고,
이를 연결하여 신체 골격 구조와 행동을 분석하는 기술입니다.

재난 융합

재난/재해 융합 모델

CCTV 영상 데이터와 IoT 센서 데이터를 융합 분석하여
재난 상황을 복합적으로 판단하는 기술입니다

임베디드 AI

sLLM 임베디드 기술

거대언어모델(LLM)을 경량화하여,엣지 디바이스 자체에서
자연어 처리와 추론을 수행하는 기술입니다.

온디바이스(엣지) AI

Embedded AI Engine

임베디드 기기 최적화
고속 딥러닝 프레임워크

KpstNet은 KPST가 자체 개발한 고속 딥러닝 프레임워크로, Caffe 대비 최대 2.6배 빠른 추론 성능을 제공하며 ARM 32/64비트 기반 저전력 임베디드 환경에 최적화되어 있습니다. Caffe, TensorFlow, ONNX, NNEF 등 다양한 모델을 지원하고, 학습은 기존 프레임워크에서, 추론은 KpstNet에서 수행하여 모델 변환·최적화·암호화를 통한 고속·안전한 배포를 제공합니다.
본 기술은 IEEE 2018 LPIRC 챌린지 1위 우승으로 저전력 AI 추론 성능을 국제적으로 검증받았습니다.
주요 특징
Caffe보다 2.5배 빠르게 동작
ONNX, NNEF 지원
학습을 배제한 추론 전용
암호화를 통한 안전한 배포
ARM NEON 지원
nnpack, blas 등 타 라이브러리 미사용
Caffe, TensorFlow 지원
C99 완벽 지원

지원 레이어 및 최적화

지원레이어 설명
Activation for ReLU, PReLU, ReLU6, Sigmoid
Convolution 2D for Caffe type filters
Depthwise Convolution 2D for Caffe type filters
Softmax -
Pooling 2D Max, Average, and etc.
Padding for multi resolution padding
BatchNormalization Removed through optimizing
Permute -
Concatenate, Split -
Element Wise Add, Product, Max, and etc.
SSD Detection NMS, PriorBox, and etc.