Technical Document

기술문서

산업 기술 문서 백과

센서 사양서 읽는 법, ±%FS와 ±%rdg 차이와 오차 계산

요약
센서 사양서 읽는 법은 정확도(±%FS·±%rdg)·분해능·동작 범위·온도계수·장기 안정성 항목을 실제 오차값으로 바꿔 보는 방법입니다.
같은 '±1%'라도 기준이 다르면 현장에서 생기는 오차가 몇 배씩 달라지므로, 센서를 고르거나 알람 기준을 정할 때 꼭 따져 봐야 합니다.
이 글에서는 0~10 bar 압력 트랜스미터를 예로 들어, 1 bar 측정 시 ±1%FS는 ±0.1 bar, ±1%rdg는 ±0.01 bar로 10배 차이가 나는 계산을 보여 줍니다.
또한 온도계수(예: ±0.02%FS/℃)와 장기 안정성(예: ±0.1%FS/년)을 더해 설치 환경에서의 전체 오차를 어림하는 방법을 정리합니다.

두 회사의 견적서에 똑같이 "정확도 ±1%"라고 적힌 압력 센서가 있다고 해 보겠습니다. 가격은 꽤 차이가 나는데 사양은 같아 보여서 싼 쪽을 골랐더니, 낮은 압력 구간에서 값이 계속 튀어 품질 기록에 의문이 생기는 경우가 있습니다.

원인은 대개 '±1%'의 기준이 달랐기 때문입니다. 한쪽은 전체 범위(FS) 기준, 다른 쪽은 읽은 값(rdg) 기준이었고, 사양서 아래쪽의 온도계수와 장기 안정성 항목은 아무도 읽지 않았던 것입니다.

센서 사양서는 숫자 몇 개로 이루어져 있지만, 항목마다 붙은 조건을 함께 읽어야 실제 오차가 나옵니다. 이 글은 사양서의 주요 항목을 현장에서 쓰는 오차값으로 바꾸는 방법을 순서대로 설명합니다.

1. 센서 사양서란?

센서 사양서(Datasheet, Specification)는 제조사가 정한 시험 조건에서 센서가 어떤 성능을 내는지 적은 문서입니다. 측정 범위, 정확도, 분해능, 응답시간, 출력 신호, 전원, 동작 온도, 방수 등급 같은 항목이 들어갑니다.

중요한 점은 사양서의 정확도 값이 대부분 기준 조건(일정한 주위 온도, 정격 전원 등)에서 측정한 값이라는 것입니다. 산업용 트랜스미터의 성능 시험 방법은 IEC 62828 시리즈처럼 국제 규격으로 정해져 있으며, 이 규격도 정확도를 재는 기준 조건과 주변 영향(온도·전원 등)을 평가하는 조건을 나누어 다룹니다. 따라서 사양서를 읽을 때는 "이 값이 어떤 조건에서 나온 값인가"를 먼저 확인해야 합니다.

2. ±%FS와 ±%rdg는 무엇이 다를까?

2-1. ±%FS (Full Scale, 전체 범위 기준)

±%FS는 센서의 전체 측정 범위를 기준으로 오차를 정하는 방식입니다. 0~10 bar 센서가 ±1%FS라면 허용 오차는 10 bar × 1% = ±0.1 bar이고, 이 값은 0.5 bar를 재든 9 bar를 재든 똑같습니다. 그래서 측정값이 작을수록 측정값 대비 오차 비율이 커집니다.

제조사에 따라 FS를 '범위 상한값'으로 보기도 하고, '스팬(Span, 상한값 − 하한값)'으로 보기도 합니다. -20~80℃ 센서라면 상한값 기준 FS는 80℃, 스팬 기준은 100℃이므로 ±0.5%FS가 ±0.4℃인지 ±0.5℃인지 달라집니다. 사양서에 %span 또는 %FSO(Full Scale Output)처럼 따로 적혀 있는지 확인하는 것이 좋습니다.

2-2. ±%rdg (Reading, 읽은 값 기준)

±%rdg는 그 순간 센서가 읽은 값을 기준으로 오차를 정하는 방식입니다. ±1%rdg 센서가 1 bar를 읽으면 ±0.01 bar, 10 bar를 읽으면 ±0.1 bar입니다. 측정값에 비례해 오차가 줄어들기 때문에 낮은 구간에서 유리합니다. %of reading, %RD, %MV(Measured Value)라고 쓰기도 합니다.

2-3. 두 방식을 섞은 표기

실제 사양서에는 "±(0.5%rdg + 0.1%FS)", "±(1%rdg + 2 digit)"처럼 두 성분을 더한 표기가 많습니다. 읽은 값에 비례하는 오차와, 값이 0이어도 남는 고정 오차를 함께 적은 것입니다. digit은 표시기 맨 끝자리 몇 칸을 뜻하며, 표시 단위가 0.01 bar라면 2 digit = 0.02 bar입니다.

표기 기준 오차의 모양 유리한 구간
±%FS 전체 범위(또는 스팬) 어느 값에서나 일정한 절대 오차 범위 상단 근처에서 쓸 때
±%rdg 그 순간의 측정값 측정값에 비례해 커지는 오차 범위 하단·넓은 범위를 고루 쓸 때
±(%rdg + %FS) 두 성분의 합 고정 오차 + 비례 오차 두 성분을 모두 계산해야 판단 가능
±(%rdg + n digit) 측정값 + 표시 끝자리 비례 오차 + 표시 단위 오차 표시기·휴대용 계측기에서 흔함

3. 같은 ±1%라도 오차는 얼마나 다를까?

0~10 bar 압력 트랜스미터 두 개를 비교해 보겠습니다. A는 ±1%FS, B는 ±1%rdg입니다. A의 허용 오차는 언제나 10 × 0.01 = ±0.1 bar이고, B는 측정값 × 0.01입니다.

측정값 A: ±1%FS 오차 A의 측정값 대비 비율 B: ±1%rdg 오차
1 bar ±0.1 bar ±10% ±0.01 bar
2 bar ±0.1 bar ±5% ±0.02 bar
5 bar ±0.1 bar ±2% ±0.05 bar
10 bar ±0.1 bar ±1% ±0.1 bar

1 bar에서는 A의 오차가 B보다 10배 크고, 범위 끝인 10 bar에서야 둘이 같아집니다. 평소 1~2 bar로 운전하는 배관에 0~10 bar, ±1%FS 센서를 달면 측정값의 5~10%가 오차 범위에 들어간다는 뜻입니다. 이런 경우에는 범위를 0~4 bar처럼 운전값에 맞게 줄이거나 %rdg 사양을 고르는 것이 낫습니다.

혼합 표기도 같은 방법으로 계산합니다. ±(0.5%rdg + 0.1%FS)인 0~10 bar 센서가 2 bar를 읽으면 2 × 0.005 + 10 × 0.001 = 0.01 + 0.01 = ±0.02 bar입니다. 4-20mA 출력이라면 0~10 bar가 16 mA에 대응하므로, ±0.1 bar(±1%FS)는 전류로 ±0.16 mA에 해당합니다. 전류 신호 구조는 4-20mA 전류 루프 전송 표준 글에 정리되어 있습니다.

4. 분해능과 정확도는 어떻게 다를까?

분해능(Resolution)은 센서나 표시기가 알아챌 수 있는 가장 작은 변화량입니다. 국제 계량 용어집(VIM, JCGM 200:2012)은 분해능을 "지시값에 인지할 수 있는 변화를 일으키는 측정량의 최소 변화"로 정의하며, 노이즈나 마찰 등에 따라 달라질 수 있다고 설명합니다.

분해능이 0.01℃라도 정확도가 ±0.5℃라면, 값이 0.01℃ 단위로 움직이는 것을 볼 수 있을 뿐 참값에 0.01℃까지 가깝다는 뜻은 아닙니다. 반대로 정확도가 좋아도 분해능이 거칠면 작은 변화를 놓칩니다. 예를 들어 범위 100℃를 12비트(4,096단계)로 바꾸면 한 단계가 100 ÷ 4,096 ≈ 0.024℃이고, 표시가 0.1℃ 단위라면 실제 화면 분해능은 0.1℃입니다.

정확도·정밀도·분해능의 개념 차이는 산업용 센서 정확도 / 정밀도 / 분해능 차이와 의미 글에서 더 자세히 다룹니다.

5. 측정 범위·동작 범위·보상 범위는 어떻게 다를까?

사양서에는 '범위'가 여러 번 나옵니다. 이름이 비슷해 혼동하기 쉬운데, 각각 보장하는 내용이 다릅니다. 정확도 값은 보통 이 중 가장 좁은 범위 안에서만 유효합니다.

항목 뜻 읽을 때 주의점
측정 범위 (Measuring Range) 센서가 값을 내보내는 측정량의 범위 %FS 계산의 기준이 되는 값
정확도 보증 범위 명시된 정확도가 성립하는 측정 구간 예) 습도 10~90%RH에서만 ±2%RH, 그 밖은 더 큰 오차
보상 온도 범위 (Compensated Range) 온도 영향을 보정해 성능을 보장하는 주위 온도 구간 이 범위 밖에서는 온도계수 값도 보장되지 않을 수 있음
동작 온도 범위 (Operating Range) 고장 없이 작동하는 주위 온도 구간 '작동한다'는 뜻일 뿐 정확도 보장은 아님
보관 온도 범위 (Storage Range) 전원 없이 보관해도 손상되지 않는 구간 운전 조건과 혼동하지 않기
과부하·내압 (Overload, Proof Pressure) 순간적으로 견디는 최대값 견딘 뒤 재교정이 필요한지 함께 확인

습도 센서의 ±2%RH는 %rdg가 아니라 상대습도 '포인트' 단위의 절대 오차입니다. 50%RH에서 ±2%RH면 48~52%RH이지, 50의 2%인 ±1%RH가 아닙니다. 단위가 %로 같아 보여도 기준을 꼭 구분해야 합니다.

6. 온도계수와 장기 안정성은 어떻게 읽을까?

6-1. 온도계수 (Temperature Coefficient)

온도계수는 센서 주위 온도가 기준 온도에서 벗어날 때 추가로 생기는 오차입니다. "±0.02%FS/℃", "±0.2%FS/10K"처럼 온도 1℃ 또는 10K당 오차로 적습니다. 기준 온도(예: 20℃, 23℃, 25℃)는 제조사마다 다르므로 사양서의 기준 조건을 함께 확인합니다.

계산 예시: 0~10 bar, 기준 정확도 ±0.25%FS, 온도계수 ±0.02%FS/℃, 기준 온도 23℃인 센서를 5℃ 냉장 창고에 설치했습니다. 온도 차는 18℃이므로 온도 오차는 18 × 0.02% = ±0.36%FS = ±0.036 bar입니다. 기준 정확도 ±0.025 bar보다 온도 오차가 더 큽니다. 냉장·냉동 창고나 여름철 옥외처럼 기준 온도와 차이가 큰 곳일수록 이 항목이 결과를 좌우합니다.

6-2. 장기 안정성 (Long-term Stability)

장기 안정성은 시간이 지나면서 값이 조금씩 벗어나는 정도, 즉 드리프트의 크기를 적은 항목입니다. "±0.1%FS/년"이라면 0~10 bar 센서는 1년에 최대 ±0.01 bar, 교정 없이 2년을 쓰면 ±0.02 bar까지 벗어날 수 있다고 봅니다. 가스 센서처럼 소모성 감지부가 있는 제품은 "월 ○% 이하"처럼 더 짧은 단위로 적기도 합니다.

이 값은 교정 주기를 정하는 근거가 됩니다. 허용 오차에서 기준 정확도와 온도 오차를 뺀 여유를 장기 안정성 값으로 나누면, 대략 몇 년 안에 재교정해야 하는지 어림할 수 있습니다. 드리프트의 원인은 산업용 센서 Drift(드리프트) 현상과 원인 글을 참고하십시오.

6-3. 항목을 합쳐 전체 오차 어림하기

여러 오차를 합치는 방법은 두 가지가 흔히 쓰입니다. 모두 같은 방향으로 겹친다고 보는 단순 합(최악의 경우)과, 서로 독립이라고 보고 제곱합의 제곱근(RSS)을 구하는 방법입니다. 6-1·6-2의 예시 센서를 설치 1년 뒤 5℃ 창고에서 쓰는 경우를 계산하면 아래와 같습니다.

오차 성분 사양 0~10 bar에서의 값
기준 정확도 ±0.25%FS ±0.025 bar
온도 영향 (23℃ → 5℃) ±0.02%FS/℃ × 18℃ ±0.036 bar
장기 안정성 (1년) ±0.1%FS/년 ±0.010 bar
단순 합 (최악) 0.025 + 0.036 + 0.010 ±0.071 bar
제곱합 제곱근 (RSS) √(0.025² + 0.036² + 0.010²) 약 ±0.045 bar

사양서 첫 줄의 ±0.25%FS(±0.025 bar)만 보면 놓치는 오차가, 실제 설치 환경에서는 두 배 가까이 커질 수 있다는 것을 알 수 있습니다. 품질 기록이나 알람 기준에 쓸 때는 보수적으로 단순 합을 기준으로 잡는 경우가 많습니다.

7. 현장에서 센서 사양서를 비교할 때 점검표

견적서의 센서 여러 개를 비교할 때는 아래 순서로 항목을 하나씩 같은 기준으로 바꿔 적으면 판단이 쉬워집니다. 핵심은 모든 오차를 '실제 운전값에서의 절대값'으로 바꿔 비교하는 것입니다.

순서 확인 항목 확인 방법
1 평소 운전값과 알람 기준값 측정 범위 안 어디쯤인지 비율로 확인 (범위 하단이면 %FS 불리)
2 정확도 표기 기준 %FS·%span·%rdg·digit 구분 후 운전값에서 절대 오차 계산
3 정확도 보증 범위·기준 조건 운전값과 설치 온도가 그 범위 안에 있는지 확인
4 온도계수 (설치 장소 최저·최고 온도 − 기준 온도) × 온도계수
5 장기 안정성 계획한 교정 주기 동안의 드리프트 합산
6 분해능·출력 신호 기록 시스템 표시 단위와 변환 단계까지 포함해 확인
7 교정 성적서 교정 지점이 운전값 근처를 포함하는지 확인

온도 센서라면 감지 소자 자체의 허용 오차도 따로 봐야 합니다. 예를 들어 IEC 60751의 Class A 측온저항체는 ±(0.15 + 0.002|t|)℃이므로 100℃에서 ±0.35℃입니다. 여기에 변환기·트랜스미터 오차가 더해집니다. 저항값과 등급은 PT100 저항표와 온도 환산 방법 글에서 확인할 수 있습니다.

8. 관련 산업용어

■ FS (Full Scale)
센서 측정 범위의 최대값 또는 전체 폭입니다. %FS 오차를 계산하는 기준이 됩니다.

■ 스팬 (Span)
측정 범위 상한값에서 하한값을 뺀 폭입니다. -20~80℃ 센서의 스팬은 100℃입니다.

■ 온도계수 (Temperature Coefficient)
주위 온도가 기준 온도에서 1℃(또는 10K) 벗어날 때 추가되는 오차입니다.

■ 장기 안정성 (Long-term Stability)
일정 기간(보통 1년) 동안 출력이 벗어날 수 있는 최대 크기입니다. 교정 주기를 정하는 근거로 씁니다.

■ 기준 조건 (Reference Conditions)
정확도를 시험할 때 고정해 두는 주위 온도·습도·전원 등의 조건입니다. 사양서 정확도는 이 조건에서의 값입니다.

9. 자주 묻는 질문

Q. ±1%FS와 ±1%rdg 중 어느 쪽이 더 정확한가요?
측정값이 범위 끝보다 작다면 ±1%rdg가 더 정확합니다. 범위 끝에서만 두 값이 같아지고, 측정값이 범위의 10%라면 ±1%FS의 오차가 10배 큽니다.

Q. 분해능이 0.01이면 정확도도 0.01인가요?
아닙니다. 분해능은 알아챌 수 있는 최소 변화량이고, 정확도는 참값과의 차이입니다. 정확도는 사양서의 정확도 항목으로 따로 확인해야 합니다.

Q. 동작 온도 범위 안이면 사양서 정확도가 보장되나요?
보장되지 않습니다. 동작 온도 범위는 고장 없이 작동하는 범위이고, 정확도는 기준 조건 또는 보상 온도 범위에서 온도계수를 더해 계산해야 합니다.

Q. 습도 센서 ±2%RH는 측정값의 2%인가요?
아닙니다. 상대습도 2 포인트의 절대 오차입니다. 60%RH를 읽으면 58~62%RH 범위로 봅니다.

Q. 장기 안정성 ±0.1%FS/년이면 교정은 몇 년마다 해야 하나요?
허용 오차의 여유에 따라 다릅니다. 허용 오차에서 기준 정확도와 온도 오차를 뺀 남은 폭을 연간 드리프트로 나누면 대략적인 주기가 나오며, 품질 규정이 있는 현장은 보통 1년 주기 교정을 기본으로 정합니다.

10. 마무리

센서 사양서의 정확도 숫자는 기준(FS·rdg)과 조건(기준 온도·보증 범위)을 붙여 읽어야 의미가 생깁니다. 같은 ±1%라도 %FS는 범위 하단에서 오차 비율이 크게 늘고, %rdg는 측정값에 비례해 줄어듭니다. 여기에 온도계수와 장기 안정성을 더하면 실제 설치 환경의 오차는 첫 줄 정확도의 두 배 가까이 될 수 있습니다. 꼭 기억할 점은 모든 오차를 '평소 운전값·설치 온도·교정 주기'에서의 절대값으로 바꿔 비교하는 것입니다. 교정 결과를 확인하는 방법은 KOLAS 성적서 읽는 법 글이 도움이 됩니다.

참고 기준 : JCGM 200:2012 국제 계량 용어집(VIM) 4.14 분해능, IEC 62828-1 산업·공정 측정 트랜스미터 시험 기준 조건과 절차, IEC 61298 시리즈 공정 계측 기기 성능 평가 방법, IEC 60751:2022 산업용 백금 측온저항체

태그 : 센서사양서, 정확도, %FS, %rdg, 풀스케일, 분해능, 측정범위, 동작온도범위, 온도계수, 장기안정성, 드리프트, 오차계산, 압력트랜스미터, 교정주기, 센서선정