유효숫자 (significant figure)

직사각형 길의 너비가 32.30m이고 길이가 210m이다.

길이보다 너비가 더 정밀하게 측정되었다.

유효숫자를 고려하여 넓이를 구하라.

 

Q: '길이보다 너비가 더 정밀하게 측정되었다' 이 말은 문제 풀 때 신경 안 써도 되나요?

A: 신경 안써도 됩니다.

 

이유:

'더 정밀하게 측정되었다' = 유효숫자가 더 많다.

문제에서도 더 정밀하게 측정한 너비의 값이 32.30으로 유효 숫자가 4개죠?

반대로 길이는 너비보다 정밀하지 않아서 210으로 유효 숫자가 2개 아니면 3개겠죠?

(0이 유효숫자인지 아닌지 알 수가 없어요)

 

같은 1m를 측정한다고 했을 때 1m보다는 1.0m가 더 정밀하게 측정되었다는 뜻입니다.

그리고 1.0m보다는 1.00m가 더 정밀하게 측정된 것이겠죠?

 

따라서 더 정밀하게 측정했다고 하면 유효숫자가 더 많구나 하고 넘어가면 됩니다.

 

문제 답: 6783 m^2

(답지를 보지 않아서 모르겠는데 답지에 나온 값이 정답입니다.

계산할 때는 상수라서 유효숫자에서 제외했습니다.

머리가 어지러울 수 있는데 밑에서 설명해보겠습니다.)

 

 

---

 

 

250000마일(mile)을 패덤(fathom)으로 나타내어라

 

Q: \( 250000mile \times \left(\cfrac{1609m}{1mile}\right) \times \left(\cfrac{1ft}{0.3048m}\right) \times \left(\cfrac{1fathom}{6ft}\right) \) 에서 6은 유효숫자로 취급하나요?

A: 취급 안합니다.

 

이유: 

위의 식 중 괄호 안에 있는 친구들은 '환산 인자'라고 부릅니다.

말 그대로 단위를 바꿔주기 위해서 사용하는 친구들입니다.

 

예를 들면 1m = 100cm라고 정의를 해줍니다.

1m는 100cm로 바꿀 수 있다고 약속을 하는 겁니다.

측정하는 값이 아닙니다.

 

따라서 이 녀석들은 유효숫자 계산할 때 제외합니다.

측정한 값이 아니라 정의한 값들이기 때문입니다.

 

문제 답: \( 250000mile \times \left(\cfrac{880fathom}{1mile}\right) = 2.2\times10^8 \)

*250000마일만 측정값이고 나머지는 전부다 단위를 바꿔주는 값들이라서 유효숫자 취급 안 합니다.

따라서 유효숫자는 2랑 5 총 2개입니다.

---

Q: \(4\Pi \times \left(6.81^2\right) \) 에서 4는 유효숫자가 아닌가요?

A: 네 아닙니다. (솔직히 좀 헷갈립니다)

 

이유:

4는 상수라서 계산할 때에는 유효숫자로 취급하지 않습니다.

 

4라는 숫자는 유효숫자는 1개입니다. (계산을 하지 않을 때)

하지만 계산을 할 때는 4는 정수라서 포함하지 않습니다.

 

위의 값들을 계산한다면 582.77926024858244082506958322923 이런 식으로 나올 텐데,

4를 유효숫자로 취급해버리면 바로 600이 나오겠죠?

 

직감적으로 이상하다는 생각이 들겁니다.

그래서 아마도 질문을 한 거겠죠?

 

예를 들어, \( P = \cfrac{500K\times0.08206Latm/Kmol\times1.0mol}{150cm^3} \) 이런 계산을 한다고 해봅시다.

단위를 좀 환산하고 계산기 돌리면 273.53333333333333333333333333333 atm 이렇게 나옵니다.

그런데 500K을 보고 유효숫자가 1개니까 300! 이러면 틀리는 겁니다.

보통 이럴 때에는 소수점이 있는 녀석들만 보면 됩니다.

그중에서 유효숫자가 가장 작은 녀석이 1.0 mol이죠?

따라서 결괏값을 유효숫자 2개로 취급해서 반올림하면 270 atm이 나옵니다.

 

500K은 숫자 자체로만 보면 유효숫자가 1개이지만 계산할 때는 정수니까 반영하면 안 되겠다.

이 정도로만 생각하고 넘어가는 게 좋습니다.

 

---

최대한 알아들을 수 있게 설명하려 했습니다.

 

 

 

PS)

 

사실 위에서 250000마일 문제의 답은 \( 2\times10^8 \) 이라고 합니다.

답지에 그렇게 적혀있다고 합니다.

 

왜 그런가 생각해봤는데 패덤이 어림값 같다는 생각이 드네요.

그러니까 조선시대 때 사용하던 '10리'같은 단위랑 같습니다.

10리는 약 몇 미터다. 

이렇게 어림하는 겁니다.

그래서 이때는 유효숫자를 따져야 합니다.

패덤이 약 6피트이기 때문에 유효숫자를 1개로 계산해야 합니다.

 

하지만 위의 내용을 따로 수정하지 않았습니다.

잘은 모르지만, 경험상 SI 단위로 환산을 많이 하지 패덤 같은 단위로는 환산을 하는 경우가 잘 없습니다.

유효숫자 연습하라고 만든 부분이라서 어림값을 넣어놓은 듯합니다.

여기까지 생각하면 머리 터집니다. ㅎㅎ;;

 

양해 부탁드리겠습니다.