모든 요청은 tenant · user · agent · role로 확인된 신원을 거칩니다. 이 신원이 모든 데이터 접근의 기준이 됩니다.
이어지는 대화에 과거 기억(Memory)과 권한 있는 자료(Knowledge)를 더합니다. 외부 자료는 신뢰하지 않는 텍스트로 구분합니다.
대화 기록과 모델 상태(KV)를 사용자별 세션에 함께 저장합니다. 삭제하면 키를 폐기해 다시는 복구할 수 없습니다.
재시작 · 장애 · 서버 이동으로 엔진이 내려가도, 세션은 Session Store에 고스란히 남아 있습니다.
다시 연결되면 저장한 KV를 그대로 불러와, 처음부터 다시 계산하지 않고 대화를 이어 갑니다.
AI의 일회성 추론을 신원 기반의 영속적 · 연속적 실행 상태로 바꾸고, 이를 다양한 하드웨어와 독자 엔진으로 확장합니다.
GPU 메모리 부족 · 프로세스 재시작 · 서버 재기동 뒤에도 대화와 작업 상태를 그대로 복구합니다.
세션의 논리적 상태와 추론 엔진의 실행 상태를 분리해, KV 캐시가 지워지거나 실행 엔진이 바뀌어도 작업이 끊기지 않습니다.
같은 내용이라도 사용자 · 세션 사이에 상태를 공유하지 않고, 신원을 기준으로 소유 · 접근 · 복구 · 삭제를 관리합니다.
세션 상태를 엔진과 분리된 관리 계층으로 두어, 사용자 · 에이전트 · 세션이 늘어나도 같은 방식으로 확장합니다.
AI의 기억과 실행 상태를 사용자 신원으로 보호하면서, 재시작 · 장애 · 장비 변경에도 끊김 없이 이어 가는 독자 AI 엔진입니다.
여러 환경의 데이터를 수집하고 통합합니다.
데이터 변환 · 보안 · 연동을 통합한
AI 플랫폼의 핵심 게이트웨이입니다.
QKVF → SGLang 형식으로 캐시 변환
다양한 AI 엔진을 통해 정확하고 빠른 분석을 수행합니다.
다양한 산업의 비즈니스에 가치를 제공합니다.
요구 사항 : 에이전트마다 최소 권한의 고유 ID 부여
NABI 대응기관 › 사용자 › 에이전트 › 세션 ID 필수, 생략 불가
요구 사항 : AI 엔진과 분리된 실시간 정책 적용
NABI 대응NABI Gateway에서 정책 · 권한 적용 (엔진 외부 통제)
요구 사항 : 되돌릴 수 없는 작업은 실행 전에 사람이 승인
NABI 대응NABI OS 승인 흐름 (작업 관리 ‘승인 보기’)
요구 사항 : 모든 실행 · 판단 경로를 변경할 수 없게 기록
NABI 대응변경 불가 대화 기록 + 세션 단위 감사 · 삭제
Web IDE에서 바로 개발합니다. 무엇을 만드는지에 맞춰 초기 설정이 자동으로 들어갑니다.
작성한 명세서로 실제 서비스를 띄워 보고, 실행이 제대로 되는지 검증합니다.
AI 에이전트와 서비스 모듈을 다이어그램으로 이어 서비스를 구성하고, 실행 · 배포합니다.
만든 서비스는 바탕화면에 앱으로 추가되고, 운영 현황을 한 화면에서 확인합니다.
개발 · 운영 앱과 배포된 서비스가 바탕화면 아이콘으로 놓입니다. 오른쪽 에이전트에게 말로 요청하면 알맞은 창을 열거나 현황을 정리해 줍니다.
에이전트 도구, 에이전트, 프롬프트, RAG, 서비스 모듈을 한 곳에서 개발합니다. 무엇을 만드느냐에 따라 Web IDE 초기 설정이 달라집니다.
명세서만으로 실제 서비스를 띄워 테스트합니다. 배포 전에 입출력과 실행 흐름을 직접 확인할 수 있습니다.
프로젝트 단위로 서비스를 만들고 운영합니다. 에이전트와 서비스 모듈을 다이어그램으로 이어 서비스를 구성한 뒤 바로 실행 · 배포합니다.
영상 · 설비 · 센서 데이터를 받아옵니다.
영상을 풀어 사람 · 객체 · 상황을 읽어냅니다.
위험과 지표를 분석해 대응 방향을 정합니다.
판단 결과로 보고 · 업무 처리 · 응대까지 마무리합니다.
영상 속 얼굴과 번호판을 실시간으로 자동 마스킹하여 개인정보를 보호합니다.
산업 현장의 8대 위험 요소를 24시간 실시간 감지하여 예방합니다.
장비의 이상 징후를 사전에 분석하여 최적의 부품 교체 시점을 알려줍니다.
복잡한 코드 없이 SQL 쿼리만으로 데이터베이스 자체 학습을 실행합니다.
클라우드 연결이 끊겨도 온디바이스에서 독립적으로 고속 연산을 처리합니다.
Drag & Drop 방식으로 신경망을 설계하고 학습 과정을 시각화합니다.
물리 공정을 가상 세계로 복제하여 가동 성능을 사전 검증합니다.
도료 및 배합 데이터를 분석하여 원하는 컬러의 최적 조합 비율을 도출합니다.
치과 영상 기반으로 환자에게 시술된 임플란트 파생 모델을 식별합니다.
인공지능을 활용해 전통 목조 건축물의 구조 상태를 정밀 진단합니다.
모바일 카메라로 촬영한 음식을 자동 인식하여 식단을 기록하고 분석합니다.
복잡한 업무 프로세스를 여러 AI 에이전트의 협업을 통해 자동화합니다.
1단계 · 현재 대화 · 가장 빠름GPU현재 대화에 필요한 정보를 GPU에 올려 빠르게 활용합니다.
2단계 · 보관RAMGPU 공간이 부족해지면 오래된 대화를 RAM으로 옮겨 보관합니다.
3단계 · 장기 저장 · 가장 넉넉함DISK지워버리는 대신 저장해두고, 필요할 때 이전 맥락을 다시 활용합니다.
필요한 대화는 DISK에서 다시 GPU로 불러옵니다
대화를 즉시 안전하게 기록하고 어디서든 바로 이어가세요.
대화의 핵심 의미만 압축해 보관합니다. 단 한 장의 요약본처럼 가볍고 스마트하게 기억하세요.
정보의 의외성과 중요도를 스스로 평가해 진짜 필요한 맥락만 선택적으로 보관합니다.
새 turn이 들어오면 질문은 원문 그대로 세션 원장에 기록되고, 이 시점에 "무엇을 기억해야 하는가"의 기준이 정해집니다.
실행 예20,000 turn · 1,221,494 token 단일 세션 규모
지금 필요한 대화만 GPU에 올려 즉시 추론합니다. Window 상한을 넘지 않게 유지해, 대화가 길어져도 연산 비용이 함께 늘지 않습니다.
실행 예H200 GPU · Context Window 32K ~ 128K token
Window가 차면 turn 경계에서 안전하게 잘라 넘깁니다. 문장 중간을 자르지 않아 맥락이 깨지지 않고, 넘어간 내용은 하나도 버려지지 않습니다.
실행 예turn당 p50 275ms · 540회 Trim 전부 무손실
넘어온 대화는 원장 그대로 보관됩니다. 어휘 색인과 임베딩 벡터를 함께 들고 있어, 나중에 어떤 방식으로 물어도 찾아낼 수 있습니다.
실행 예20,000 turn / 1,221,494 token · SQLite 파일 1개
새 질문이 오면 관련된 과거 turn만 골라 앞에 붙입니다. 7단계 게이트가 "넣을 가치가 있는가"를 먼저 판정해 필요 없는 자료는 들어오지 않습니다.
실행 예Conf 0.2 기준 주입 220~228 token · 정답률 100%
모델은 되살아난 과거 사실을 바탕으로 답합니다. 장기 기억은 그대로 보존한 채 단기 연산만 최적화되므로, 대화가 몇 달을 이어져도 답이 흔들리지 않습니다.
실행 예무기억 대조군 대비 정답률 0% → 100%
엣지(Edge) 및 온프레미스 환경
제한된 GPU 환경에서도 더 많은 사용자를 안정적으로 지원해야 하는 기업
19.8×Jetson AGX Orin 환경에서 측정한 최대 가속
보안이 중요한 규제 산업 및 기업
세션 간 데이터가 섞이지 않고, 민감한 대화 정보를 안전하게 관리해야 하는 기업
0%세션 격리 시험에서 타 사용자 데이터 유출
자율형 AI 에이전트 서비스
사용자와의 긴 대화 속에서도 맥락과 기억을 지속적으로 유지해야 하는 차세대 AI 서비스
N개월끊기지 않고 이어지는 대화 맥락과 장기 기억