<![CDATA[
<p><span style="color: rgb(0, 0, 0); font-family: 나눔고딕, NanumGothic, "맑은 고딕", "Malgun Gothic", 돋움, Dotum, Helvetica, "Apple SD Gothic Neo", sans-serif;">float temp;</span><br style="margin: 0px; padding: 0px; color: rgb(0, 0, 0); font-family: 나눔고딕, NanumGothic, "맑은 고딕", "Malgun Gothic", 돋움, Dotum, Helvetica, "Apple SD Gothic Neo", sans-serif;"><span style="color: rgb(0, 0, 0); font-family: 나눔고딕, NanumGothic, "맑은 고딕", "Malgun Gothic", 돋움, Dotum, Helvetica, "Apple SD Gothic Neo", sans-serif;">float a = 0.001;</span><br style="margin: 0px; padding: 0px; color: rgb(0, 0, 0); font-family: 나눔고딕, NanumGothic, "맑은 고딕", "Malgun Gothic", 돋움, Dotum, Helvetica, "Apple SD Gothic Neo", sans-serif;"><span style="color: rgb(0, 0, 0); font-family: 나눔고딕, NanumGothic, "맑은 고딕", "Malgun Gothic", 돋움, Dotum, Helvetica, "Apple SD Gothic Neo", sans-serif;">short b = 13200;</span><br style="margin: 0px; padding: 0px; color: rgb(0, 0, 0); font-family: 나눔고딕, NanumGothic, "맑은 고딕", "Malgun Gothic", 돋움, Dotum, Helvetica, "Apple SD Gothic Neo", sans-serif;"><span style="color: rgb(0, 0, 0); font-family: 나눔고딕, NanumGothic, "맑은 고딕", "Malgun Gothic", 돋움, Dotum, Helvetica, "Apple SD Gothic Neo", sans-serif;">일 때 temp = b * a; 을 하면 값이 13.2가 나오는 것이 아니라 소수점 뒤에 값이 나옵니다.</span><br></p><p><span style="color: rgb(0, 0, 0); font-family: 나눔고딕, NanumGothic, "맑은 고딕", "Malgun Gothic", 돋움, Dotum, Helvetica, "Apple SD Gothic Neo", sans-serif;"><br></span></p><p><font color="#000000" face="나눔고딕, NanumGothic, 맑은 고딕, Malgun Gothic, 돋움, Dotum, Helvetica, Apple SD Gothic Neo, sans-serif">답 : 0.001을 float로 저장하는 과정에서 저장 오차(반올림)이 발생합니다.</font></p><p><font color="#000000" face="나눔고딕, NanumGothic, 맑은 고딕, Malgun Gothic, 돋움, Dotum, Helvetica, Apple SD Gothic Neo, sans-serif"><br></font></p><p><iframe id="v6f8clbxbgAgtytJtxssOP1@my" width="640" height="360" src="https://kakaotv.daum.net/embed/player/cliplink/v6f8clbxbgAgtytJtxssOP1@my?service=daum_cafe&ptoken=v2_2143d7976b4037fba9214b587fad81283756820b56cc5fa1f690a9e0017fd39fca9b5d2ebc893d177b538b0c5540eaf991f59a407960b889b709cb89e4" frameborder="0" scrolling="no" allowfullscreen></iframe></p><p><br></p>
<!-- -->
]]>
카페 게시글
C 프로그래밍
0.001을 float 상수로 저장할 때 발생하는 오차
별은빛나고
추천 0
조회 377
18.05.09 09:59
댓글 1
다음검색
첫댓글 진심으로 답변 감사드립니다.
정확히 이해하였으며, 답변 주신대로 double 형으로 변경하여 수정하였습니다.
정말 감사드립니다^^