<p>엑셀에서 소수점 몇 자리 이하의 계산에서는 값이 서로 달라지는 경우가 있나요?</p><p>예를 들어 소수 몇째자리 이하는 버리고 계산 한다든가... </p><p><br></p><p>합이 같아야 하는 표를 만들고 나서 검산을 위해 차이를 구해보니 소수점 열 몇째(17자리정도?)자리 넘어가서 차이가 발생하더라고요.</p><p>그래서 혹시 엑셀에서 소수점 몇 자리 이하는 피해야 하는 그런 것이 있는 지 궁금합니다.<br></p>
<!-- -->
10진수를 2진수로 표시하다 보면 어쩔 수 없이 생기는 에러도 있고, 또 소숫점 반올림에 의한 에러도 있습니다. 이 에러 때문에 나비효과가 나타나기도 하였습니다. 1/3 = 0.33333... 0.33333...*3=0.999999... <> 1/3*3=1 그래서 필요한 소수점의 자리수는 자기가 필요로 하는 정확도에 따라서 결정하면 됩니다.
삭제된 댓글 입니다.
답글 감사합니다. 제가 이해하기 다소 어려운 부분들도 많지만... 아무튼 답변 감사 드립니다.
10진수를 2진수로 표시하다 보면 어쩔 수 없이 생기는 에러도 있고,
또 소숫점 반올림에 의한 에러도 있습니다.
이 에러 때문에 나비효과가 나타나기도 하였습니다.
1/3 = 0.33333... 0.33333...*3=0.999999... <> 1/3*3=1
그래서 필요한 소수점의 자리수는 자기가 필요로 하는 정확도에 따라서 결정하면 됩니다.