어떤 AI는 데이터가 생성되는 현장에서 실행되어야 합니다.
생산 라인의 카메라는 데이터센터를 왕복하는 시간을 기다릴 수 없고, 지점은 네트워크 연결이 불안정할 수 있으며, 많은 사이트는 원본 데이터를 밖으로 내보낼 수 없습니다. 이런 경우 모델은 엣지에서 실행되고, 여러 사이트에 걸쳐 업데이트되며, 데이터를 한곳에 모으지 않고도 계속 개선되어야 합니다.
디플로이웍스는 엣지 추론을 설계·배포하고, 적합한 경우 연합학습(Federated Learning)까지 적용합니다. 많은 사이트를 무리 없이 관리할 수 있도록 장비 통합 관리와 모니터링 체계도 함께 구축합니다.
이런 고민이 있으신가요?
- 지연 시간이나 네트워크 연결 문제로 데이터를 중앙 서버로 보낼 수 없습니다.
- 사이트나 파트너사끼리 원본 데이터는 공유할 수 없지만, 함께 쓰는 모델은 개선하고 싶습니다.
- 실험 환경에서는 잘 동작하던 모델이 현장에 배포된 뒤 드리프트가 발생합니다.
- 여러 사이트의 모델을 수작업으로 업데이트하고 있어 위험 부담이 큽니다.
제공 범위
01
엣지 추론
대상 하드웨어에 맞춰 모델을 최적화(양자화, 컴파일)하고, 오프라인 설치가 가능하도록 패키징합니다.
02
다수 사이트 배포
서명된 모델·소프트웨어 업데이트를 단계적으로 배포하며, 문제가 생기면 롤백할 수 있습니다.
03
연합학습
각 사이트에서는 모델 업데이트만 밖으로 나가는 방식으로 여러 사이트에 걸쳐 학습하며, 필요하면 보안 집계(secure aggregation)를 적용합니다.
04
모니터링·드리프트 탐지
사이트별 상태, 정확도, 데이터 드리프트를 원본 데이터 수집 없이 중앙에서 확인합니다.
05
현장 시스템 연동
승인된 인터페이스를 통해 카메라, PLC, MES, 지점 시스템과 연결합니다.
06
이관
현장 팀과 중앙 팀을 위한 운영 매뉴얼(런북)과 교육을 제공합니다.
참조 아키텍처
고정된 제품이 아닌 참조 설계입니다. 기술 진단 단계에서 고객사 시스템과 제약 조건에 맞게 조정합니다.
중앙
- 모델 레지스트리
- 집계 서버
- 통합 대시보드
사이트와 중앙 사이
- 하향: 서명된 업데이트
- 상향: 모델 업데이트·지표
- 원본 데이터는 이동하지 않음
각 사이트
- 엣지 서버·디바이스
- 추론 서비스
- 로컬 학습
현장 데이터 소스
- 카메라·센서
- PLC·MES
- 지점 시스템
통제
- 코드 서명
- 단계적 배포
- 드리프트 알림
- 오프라인 모드
프로젝트는 보통 이렇게 진행됩니다
- 기술 진단2주
사이트, 하드웨어, 네트워크 연결, 데이터 관련 규정을 조사하고 엣지·중앙·연합학습 중 적합한 설계를 정합니다.
- PoC·파일럿6–8주
모델 하나를 한 곳 또는 몇 개 사이트에서 운영하며, 업데이트와 모니터링 체계를 갖춥니다.
- 전담 FDE 포드월 단위
더 많은 사이트로 확대하고, 연합학습과 전체 장비 운영으로 범위를 넓힙니다.
설계에 반영하는 제약 조건
- 제한된 네트워크 연결
- 사이트는 오프라인에서도 계속 동작하고, 연결이 가능할 때 동기화합니다.
- 원본 데이터 반출 제한
- 연합학습이나 현장 학습 방식으로, 집계된 모델 업데이트만 이동합니다.
- 산업 현장 환경
- 현장 운영망 규정, 안전성 검토, 공장의 변경 작업 허용 시간을 고려해 설계합니다.
- 하드웨어 제약
- 실험 환경이 아닌 현장 장비에 맞춰 모델 크기를 정합니다.
주요 기술 스택
- ONNX Runtime
- TensorRT
- OpenVINO
- Flower
- K3s
- MQTT
- Python
- C++
고객사가 이미 운영 중인 도구가 적합하다면 그대로 활용합니다. 표기된 이름은 참고용입니다.