엑셀(EXCEL) FIXED 함수로 반올림을 해서 자리수를 맞추고 유효숫자의 개수를 일정하게 하는 법( + 유효숫자의 중요성)

목차

1. 유효숫자의 정의와 사용

2. FIXED 함수로 반올림하기

3. FIXED 함수로 유효숫자 갯수 맞추기

4. 설계할 때 신경써야 하는 유효숫자

1. 유효숫자의 정의와 사용

측정값에서 유효하다가고 판단되는 숫자로 많은 수록 정밀하다고 판단됩니다.

예를 들어 220 ㎖ = 0.22 ℓ는 유효숫자가 2개, 12.3 ㎖ = 0.0123 ℓ는 유효숫자를 3개라고 합니다.

소수점을 표기 할 때 "0.0"은 계측값에 포함되지 않아 유효숫자에 들어가지 않습니다.

유효숫자를 설정할 때는 반올림을 사용하는 것이 기본입니다.

유효숫자를 맞출때는 보통 자리수를 기준으로 하지만 갯수를 기준으로 할 수도 있습니다.

아래와 같이 차이가 납니다.

• 유효숫자를 소수점 두째자리로 맞추시오.
  숫자 12.345와 555 → 12.35, 555.00
• 유효숫자의 갯수를 4개로 맞추시오.
  숫자 12.345와 555 → 12.35, 555.0(자리수가 달라짐)

신뢰도가 높은 제품에서는 유효숫자를 여러개 가지고 가서 통계적인 정밀도를 높이고 싶어 합니다.

도면을 작성할때 이 유효숫자의 갯수를 맞추는 것은 어렵습니다.

예를 들어 15.0 ± 0.1과 1.00 ± 0.05는 둘다 유효숫자 3개입니다.

15.0과 1.00 쪽은 소수점 자리수가 달라 측정 정밀도가 다릅니다.

즉 정밀도가 높은 계측기를 써야 합니다.

2. FIXED 함수로 반올림하기

FIXED(number, [decimals], [no_commas]) : 숫자를 지정된 자리수로 반올림해서 맞춥니다.

• number : 반올림하여 텍스트로 변환할 숫자입니다.
• [decimals] : 출력할 자리수로 양수는 소수점 이하의 자릿수이며, 음수는 이상의 자리수입니다.
• [No_commas] : 논리값으로 TRUE이면 텍스트에 쉼표(,)가 반환하지 않습니다. 기본적으로 입력하지 않으면 False가 들어가 있어서 쉼표(,)를 반영합니다.
• 숫자로 입력하지만 이 함수는 텍스트를 반환합니다.

양수는 소수점 아래, 음수는 소수점위의 자리가 됩니다.

아래예시를 보시면 어려운 함수는 아니죠.

3. FIXED 함수로 유효숫자 갯수 맞추기

숫자의 갯수를 맞추려면 좀 조합을 해야 합니다.

=FIXED(숫자,자리수-(1+INT(LOG10(ABS(숫자)))))

LOG10을 정수에 적용하게 되면 자리수를 반환합니다.

int는 소수점 윗자리만 출력하니 int(LOG10 (숫자))는 지금 수의 자리수가 됩니다.

다만 이때 음수를 넣으면 오류가 나니까 절대값 ABS를 취해주게 됩니다.

4. 설계할 때 신경써야 하는 유효숫자

유효숫자는 제품에 영향이 없다고 생각하여 설계자들이 잘 하는 실수가 많습니다.

진짜 정밀하고 메이저 제품을 다루는 사람일 수록 이런 부분을 디테일하게 신경씁니다.

• 기준값과 공차의 유효숫자는 같아야 합니다.
  예) 1.00이라고 도면에 표기될 경우 측정값을 "1.10"이라고 표시해야 합니다.
  
  
• 측정할 때는 유효숫자보다 한자리 아래까지 측정한다.
  예) 도면에 1.00 ± 0.05라고 되어 있는 경우 0.998(소수점 3째자리)까지 측정하고, 반올림해야 합니다.
  
  따라서 0.05의 공차를 줄때는 소수점 3째자리(0.000) 까지 측정하는 계측기를 확인해야 합니다.
  이런 부분을 신경쓰지 않으면 결국 도면 미준수로 이어지고 누적되는 공차가 고장을 만들 수도 있습니다.
  그래서 1.00 ± 0.05가 측정이 불가할 경우에는 미리 협의하고 내용을 기입하거나 표시를 해야 합니다.
  
  
• 계측기 오차를 공차에 반영해야 한다.
  일반적인 자로 재는 경우 오차를 최소자리보다 한자리 아래서 ± .5가 발생한다고 합니다.
  하지만 전자제품이 많은 요즘은 전자기, 광학적인 계측기가 많습니다.
  계측기마다 오차가 다양하고, 정밀한 것은 비용문제도 있습니다.
  이런 부분을 잘 모를 경우 계측기 회사와 문의하고 실험 데이터를 참고해야 합니다.
  (모르는건 부끄러운게 아닙니다. 넘어가지 말고 계측기 제조사나 검교정 업체에 문의 합시다.)
  
  
• 통계적인 유효성을 반영해야 합니다.
  예를 들어 제품의 공차가 0.003 ~ 0.005 ㎖에 구성되는 경우 나중에 값들의 숫자가
  0.003, 0.004, 0.005 딱 이렇게 3개 있을 수 있습니다.
  이 숫자들로 통계 툴을 돌려서 값을 얻는건 크게 유효하지 않습니다.
  현실적으로 어쩔 수 없어서 계측을 못하는 경우 통계값도 같이 무의미해짐을 알고 있어야합니다.
  이런 통계로 의사결정할 경우 크게 잘못될 수도 있습니다.
  (다음 모델의 공차를 결정한다던가 하는 오류를 피해야 합니다.)

이거 말고도 중요성이 아주 높습니다. 디테일이 최고를 만듭니다.

항상 신경써야 하는 부분입니다.