Technical Document

기술문서

산업 기술 문서 백과

통신 끊김 시 센서 데이터 보존, 스토어 앤 포워드와 결측 처리 기준

요약
스토어 앤 포워드(Store-and-Forward)는 통신이 끊긴 동안 측정값을 게이트웨이나 센서 안에 저장해 두었다가 연결이 돌아오면 서버로 다시 보내는 데이터 보존 방식입니다.
네트워크 장애, 서버 점검, LTE 음영 때문에 기록이 비는 것을 막아 온도·가스 이력의 연속성을 지켜 줍니다.
이 글에서는 로컬 버퍼 재전송 구조와 버퍼 용량 계산 예시(센서 50개, 1분 주기, 7일 보존 기준 약 151MB)를 정리합니다. 그래도 남는 결측 구간을 보간할지 공란으로 둘지 데이터 무결성 관점에서 비교합니다.

새벽 2시에 공유기가 재부팅되거나 통신사 회선이 40분 끊기면 관제 화면의 그래프는 그 시간만큼 비어 있게 됩니다. 아침에 품질 담당자가 이 빈칸을 발견하면 그 사이 냉장고 온도가 기준 안에 있었는지 증명할 방법이 없어 일탈 보고서를 써야 합니다.

측정은 정상이었는데 전달 과정에서 데이터가 사라지는 경우가 생각보다 많습니다. 센서를 더 좋은 것으로 바꿔도 이 문제는 그대로 남고 통신이 끊긴 동안 데이터를 어디에 얼마나 담아 둘지 미리 설계해 두어야 해결됩니다.


1. 스토어 앤 포워드(Store-and-Forward)란?

스토어 앤 포워드는 "먼저 저장하고(Store) 나중에 전달한다(Forward)"는 뜻입니다. 산업 IoT에서는 센서 값을 받은 게이트웨이가 서버로 보내기 전에 자기 저장장치에 먼저 기록하고 서버가 받았다고 확인해 준 데이터만 지우는 방식을 말합니다.

통신이 정상일 때는 저장과 전송이 거의 동시에 일어나 사용자는 차이를 느끼지 못합니다. 통신이 끊기면 저장장치에 데이터가 쌓이고 연결이 돌아오면 쌓인 데이터를 오래된 순서대로 서버에 올립니다. 이렇게 하면 서버 쪽 기록에는 빈칸이 생기지 않습니다.

2. 통신이 끊기면 데이터는 어디서 사라질까?

센서 데이터는 센서, 게이트웨이, 네트워크, 서버를 차례로 거칩니다. 어느 구간이 끊기느냐에 따라 데이터를 지킬 수 있는 위치가 달라집니다.

끊기는 구간 흔한 원인 데이터를 지키는 위치
센서 ↔ 게이트웨이 무선 신호 약화, RS485 배선 불량, 게이트웨이 전원 차단 센서 자체 메모리 (로깅 기능이 있는 센서)
게이트웨이 ↔ 서버 공유기 재부팅, 회선 장애, LTE 음영, 방화벽 변경 게이트웨이 로컬 버퍼
서버 내부 서버 점검, DB 장애, 디스크 가득 참 게이트웨이 버퍼 (서버가 수신 확인을 못 보내면 재전송)

실제 현장에서 가장 자주 끊기는 곳은 게이트웨이와 서버 사이입니다. 건물 안 센서망은 거의 바뀌지 않지만 사내 네트워크와 인터넷 회선은 IT 부서 작업이나 통신사 사정으로 수시로 흔들립니다. 그래서 스토어 앤 포워드는 대부분 게이트웨이에 둡니다.


3. 스토어 앤 포워드 구조는 어떻게 동작할까?

온도 센서에서 게이트웨이 로컬 버퍼를 거쳐 서버로 데이터가 전달되는 구성도

그림 1. 게이트웨이는 센서 값을 로컬 버퍼에 먼저 쓰고 서버 수신 확인(ACK)을 받은 데이터만 지웁니다.

그림 1은 기본 구성입니다. 온도 센서 값은 RS485나 무선으로 게이트웨이에 들어오고 게이트웨이는 값을 로컬 버퍼에 먼저 쓴 다음 LAN이나 LTE로 서버에 보냅니다. 서버가 저장을 마치고 수신 확인(ACK)을 돌려주면 게이트웨이는 그 데이터를 "전송 완료"로 표시합니다.

3-1. 버퍼를 어디에 둘까?

게이트웨이 메모리(RAM)에만 담아 두면 정전이나 재부팅 때 함께 사라집니다. 통신 장애는 정전과 같이 오는 경우가 많으므로 버퍼는 eMMC, SD카드, SSD 같은 비휘발성 저장장치에 둡니다. 플래시 저장장치는 쓰기 횟수에 따라 수명이 줄기 때문에 산업용 등급 제품을 쓰고 값을 한 건씩 쓰기보다 몇 건씩 묶어서 쓰는 편이 낫습니다.

3-2. 재전송은 어떤 순서로 할까?

끊김 감지부터 버퍼 삭제까지 재전송 다섯 단계

그림 2. 연결이 돌아오면 실시간 값을 먼저 보내고 밀린 데이터는 오래된 순서로 나눠 올립니다.

그림 2의 순서대로 게이트웨이는 연결이 끊긴 것을 감지하면 전송을 멈추고 저장만 계속합니다. 연결이 돌아오면 지금 들어오는 실시간 값은 계속 보내면서 밀린 데이터를 오래된 순서로 나눠 올리고 서버가 수신 확인을 보낸 묶음만 버퍼에서 지웁니다. 실시간 값을 먼저 보내는 이유는 밀린 데이터를 올리는 몇십 분 동안 현재 알람이 늦게 뜨면 안 되기 때문입니다.

3-3. 시각, 중복, 순서는 어떻게 맞출까?

  • 측정 시각 : 서버가 받은 시각이 아니라 게이트웨이(또는 센서)가 측정한 시각을 데이터에 붙입니다. 받은 시각으로 저장하면 40분치 데이터가 재연결 순간 1초 안에 몰린 것처럼 기록됩니다. 게이트웨이 시계는 NTP 시간 동기화로 맞춰 둡니다.
  • 중복 제거 : 서버가 저장은 했는데 수신 확인이 도중에 사라지면 같은 데이터가 두 번 올라옵니다. 서버는 "센서 ID + 측정 시각"을 고유 키로 삼아 같은 값이 다시 와도 한 번만 저장합니다.
  • 일련번호 : 데이터마다 1씩 늘어나는 번호를 붙이면 서버가 빠진 번호를 보고 결측을 바로 찾아냅니다.
  • 재전송 표시 : 실시간으로 온 값과 나중에 채워진 값을 구분하는 표시를 남기면 감사 때 설명하기 쉽습니다.

4. 버퍼 용량은 어떻게 계산할까?

버퍼 용량은 "하루 레코드 수 × 레코드 1건 크기 × 버텨야 할 일수 × 여유율"로 구합니다. 버텨야 할 일수는 가장 긴 통신 장애를 기준으로 잡는데 연휴나 주말에 장애가 나서 월요일에야 복구되는 경우를 생각하면 최소 3~4일, 보통 7일 이상으로 잡는 경우가 많습니다.

아래는 센서 50개를 1분 간격으로 저장하고 7일을 버티도록 잡은 계산 예시입니다. 레코드 1건은 측정 시각, 센서 ID, 측정값, 상태 코드, 일련번호를 텍스트(JSON) 형태로 담아 150바이트로 가정했습니다.

단계 계산 결과
센서 1개 하루 레코드 24시간 × 60분 1,440건
전체 하루 레코드 50개 × 1,440건 72,000건
하루 용량 72,000건 × 150바이트 10,800,000바이트 (약 10.8MB)
7일 용량 10.8MB × 7일 75.6MB
여유율 2배 적용 75.6MB × 2 약 151MB

같은 내용을 24바이트 이진(binary) 형식으로 저장하면 하루 1,728,000바이트(약 1.7MB), 7일 약 12.1MB로 줄어듭니다. 요즘 게이트웨이 저장장치는 기가바이트 단위라 용량 자체가 모자라는 경우는 드뭅니다. 오히려 다시 올리는 데 걸리는 시간이 문제가 됩니다.

7일치 504,000건(72,000건 × 7일)을 초당 100건씩 올리면 5,040초, 약 84분이 걸립니다. LTE 요금제의 데이터 한도나 서버의 초당 처리량도 함께 확인하고 측정 주기를 바꾸면 이 계산도 다시 해야 합니다. 측정 주기와 서버로 보내는 주기를 따로 정하는 방법은 IoT 센서 측정주기와 전송주기 글에 정리했습니다.

4-1. 버퍼가 가득 차면?

버퍼가 가득 찼을 때 가장 오래된 데이터를 덮어쓸지, 새 데이터 저장을 멈출지 미리 정해 둡니다. 어느 쪽이든 데이터는 사라지므로 버퍼 사용량이 80% 같은 경고 수준에 닿으면 담당자에게 알림이 가도록 설정해 두는 편이 안전합니다. 경고 수준은 현장마다 정합니다.


5. MQTT QoS만으로 데이터가 지켜질까?

MQTT QoS만으로는 부족합니다. MQTT의 QoS 1(최소 한 번 전달)과 QoS 2(정확히 한 번 전달)는 이미 연결된 상태에서 보낸 메시지가 도중에 사라지지 않게 해 줄 뿐입니다. 게이트웨이가 몇 시간 동안 브로커에 접속조차 못 하는 상황까지 책임지지는 않습니다.

MQTT의 지속 세션(persistent session)도 오해가 많은 기능입니다. 지속 세션은 구독하는 쪽이 꺼져 있을 때 브로커가 메시지를 대신 보관해 주는 기능이라 데이터를 보내는 게이트웨이 쪽 장애와는 관계가 없습니다. 그래서 게이트웨이에는 MQTT와 별도로 디스크 버퍼를 두고 QoS 1을 쓸 때는 같은 메시지가 두 번 올 수 있으니 서버에서 중복을 걸러 냅니다. QoS와 세션 개념은 MQTT 브로커·토픽·QoS 글에서 자세히 다룹니다.

방법 지켜 주는 상황 못 지키는 상황
MQTT QoS 0 없음 (최대 한 번 전달) 전송 중 손실, 접속 끊김
MQTT QoS 1·2 연결 중 일시적 손실 장시간 접속 불가, 게이트웨이 재부팅
게이트웨이 디스크 버퍼 장시간 장애, 재부팅, 서버 점검 버퍼 초과, 센서와 게이트웨이 사이 끊김
센서 내장 메모리 게이트웨이 고장, 무선 끊김 센서 자체 고장, 내장 메모리 초과

6. 결측 구간, 보간할까 공란으로 둘까?

버퍼를 두어도 센서 전원이 꺼지거나 버퍼가 넘치면 결측은 생깁니다. 이때 앞뒤 값으로 빈칸을 채우는 보간(interpolation)을 할지, 빈칸 그대로 남길지가 문제가 됩니다.

6-1. 선형 보간 계산 예시

10:00에 4.2℃, 10:30에 5.0℃가 기록되고 10:10과 10:20 값이 빠졌다고 해 보겠습니다. 선형 보간은 30분 동안 0.8℃가 고르게 올랐다고 보고 10분마다 약 0.27℃씩 더합니다. 계산하면 10:10은 4.2 + 0.8 × (10/30) ≈ 4.47℃, 10:20은 4.2 + 0.8 × (20/30) ≈ 4.73℃가 됩니다.

문제는 실제 값이 이렇게 움직였다는 보장이 없다는 점입니다. 그 사이 냉장고 문이 열려 9℃까지 올랐다가 내려왔을 수도 있는데 보간한 그래프는 2~8℃ 안에서 매끈하게 이어져 이탈을 덮어 버립니다. 측정하지 않은 값을 측정값처럼 기록하면 ALCOA+ 원칙의 원본성(Original)과 정확성(Accurate)에 어긋납니다. 자세한 내용은 ALCOA+ 데이터 무결성 원칙 글을 참고하십시오.

6-2. 쓰임새에 따른 선택 기준

구분 공란으로 남기기 보간해서 채우기
원본 기록 측정한 값만 남아 무결성 유지 측정하지 않은 값이 섞임
GMP·HACCP 등 규제 기록 권장 (결측 사유와 기간을 함께 기록) 원본에 쓰지 않음
추세 그래프·화면 표시 끊긴 선으로 표시 점선 등으로 구분하면 가능
에너지·평균 같은 통계 계산 결측 비율을 함께 표시 계산용 사본에서 방법을 밝히고 사용
이탈 판정 결측 구간은 "판정 불가"로 따로 조사 쓰지 않음 (이탈을 숨길 수 있음)

정리하면 원본 데이터는 공란으로 두고, 보간이 필요한 화면이나 계산은 원본과 분리한 사본에서 보간 사실을 표시하고 씁니다. 영국 MHRA의 2018년 데이터 완전성 지침도 데이터를 제외할 때는 그 근거를 문서로 남기고 원래 데이터는 검토할 수 있게 보관하라고 요구합니다. 결측이 생겼다면 기간, 원인, 그 사이 제품 영향 평가를 기록에 남겨 두어야 나중에 설명할 수 있습니다.


7. 현장에서는 무엇을 점검할까?

스토어 앤 포워드는 설정만 해 두고 시험하지 않으면 정작 장애 때 동작하지 않는 일이 생깁니다. 설치할 때와 정기 점검 때 아래 항목을 확인합니다.

점검 항목 확인 방법
끊김 시험 게이트웨이 랜선을 30분~1시간 뽑았다 꽂은 뒤 서버 기록에 빈칸이 없는지 확인
재부팅 시험 통신을 끊은 상태에서 게이트웨이 전원을 껐다 켠 뒤 버퍼가 남아 있는지 확인
시각 확인 재전송된 데이터의 시각이 실제 측정 시각인지, 게이트웨이 시계가 맞는지 확인
중복 확인 같은 시각에 같은 센서 값이 두 줄 저장되지 않았는지 확인
통신 끊김 알람 게이트웨이가 정해진 시간 넘게 응답이 없으면 담당자에게 알림이 가는지 확인
버퍼 사용량 현재 사용량과 경고 알림 설정값 확인
전원 백업 게이트웨이와 공유기가 UPS에 연결되어 있는지 확인

버퍼가 데이터를 지켜 주더라도 통신 끊김 알람은 따로 둡니다. 데이터는 나중에 채워지지만 끊긴 동안에는 온도 이탈 알람도 오지 않기 때문입니다. 알람 대기 시간은 보관 품목이 얼마나 빨리 영향을 받는지에 맞춰 정합니다.


8. 관련 산업용어

■ 로컬 버퍼(Local Buffer)
게이트웨이나 센서 안에서 전송을 기다리는 데이터를 임시로 담아 두는 저장 공간입니다. 정전에도 남도록 비휘발성 저장장치에 둡니다.

■ 수신 확인(ACK)
받는 쪽이 데이터를 잘 받았다고 보내는 응답입니다. 게이트웨이는 이 응답을 받은 데이터만 버퍼에서 지웁니다.

■ 백필(Backfill)
통신이 복구된 뒤 밀린 데이터를 서버에 채워 넣는 작업입니다. 실시간 데이터 전송을 방해하지 않도록 나눠서 올립니다.

■ 결측(Missing Data)
정해진 주기에 있어야 할 측정값이 없는 상태입니다. 측정값 0이나 직전 값으로 채우지 않고 빈칸과 사유로 기록합니다.

■ 선형 보간(Linear Interpolation)
빈 구간 앞뒤 두 값을 직선으로 이어 중간값을 추정하는 계산입니다. 실제 측정값이 아니므로 원본 기록과 구분해서 씁니다.

9. 자주 묻는 질문

Q. 게이트웨이 통신이 끊기면 센서 데이터는 사라지나요?
로컬 버퍼가 없으면 사라집니다. 스토어 앤 포워드 기능이 있는 게이트웨이는 끊긴 동안 값을 저장해 두었다가 연결이 돌아오면 다시 보냅니다.

Q. 게이트웨이 버퍼 용량은 얼마나 필요한가요?
센서 50개를 1분 간격, 레코드 150바이트로 7일 버티려면 여유율 2배를 잡아 약 151MB입니다. 센서 수, 저장 주기, 레코드 크기, 버틸 일수를 곱해서 구합니다.

Q. MQTT QoS 1을 쓰면 버퍼가 필요 없나요?
아니요, 버퍼는 여전히 필요합니다. QoS 1은 연결된 상태의 전송 손실을 막을 뿐이고 게이트웨이가 브로커에 오래 접속하지 못하는 동안의 데이터는 따로 저장해야 합니다.

Q. 온도 기록이 빈 구간을 앞뒤 값으로 채워도 되나요?
규제 대상 원본 기록에는 채우지 않는 것이 원칙입니다. 빈 구간은 그대로 두고 기간과 원인, 제품 영향 평가를 기록하며, 보간한 값은 표시를 붙인 별도 사본에서만 씁니다.

Q. 재전송된 데이터 시각이 한꺼번에 몰려 보이는 이유는?
서버가 받은 시각으로 저장했기 때문입니다. 측정 시각을 데이터에 담아 보내고 서버는 그 시각으로 저장하도록 바꾸면 해결됩니다.

10. 마무리

통신 장애는 언젠가 반드시 생기므로 데이터는 게이트웨이의 비휘발성 버퍼에 먼저 저장하고 서버 수신 확인을 받은 뒤에 지우도록 설계합니다. 버퍼 용량은 센서 수, 저장 주기, 레코드 크기, 버틸 일수로 계산하고 재전송에 걸리는 시간도 함께 봅니다. 결측 구간은 원본에서 보간하지 말고 공란과 사유로 남기는 것이 데이터 무결성을 지키는 기본입니다. 끊김 시험과 재부팅 시험은 설치 때 한 번, 그 뒤로는 정기 점검 때마다 해 두면 실제 장애 때 당황할 일이 줄어듭니다.

참고 기준 : OASIS MQTT Version 5.0 (2019), MHRA 「'GXP' Data Integrity Guidance and Definitions」 Revision 1 (2018), PIC/S PI 041-1 「Good Practices for Data Management and Integrity in Regulated GMP/GDP Environments」 (2021), U.S. FDA 「Data Integrity and Compliance With Drug CGMP: Questions and Answers」 (2018)


태그 : 스토어앤포워드, StoreandForward, 데이터보존, 통신끊김, 게이트웨이버퍼, 로컬버퍼, 버퍼용량계산, 결측처리, 결측데이터, 선형보간, 데이터무결성, ALCOA, MQTTQoS, 백필, 온도기록, 산업IoT