부동소수점 오류인것 같습니다.
MS사의 기술문서를 보면
Microsoft Excel은 IEEE 754 규정에 따라 부동 소수점 숫자의 저장과 계산이 설계되었습니다. IEEE는 Institute of Electrical and Electronics Engineers의 약어로, 컴퓨터 소프트웨어와 하드웨어의 표준을 결정하는 국제 기구입니다. 754 규정은 부동 소수점 숫자를 이진 컴퓨터에 저장하는 방법을 설명하는 널리 사용되는 규정입니다. 이 규정은 부동 소수점 숫자를 적절한 크기의 공간에 저장하고 상대적으로 빠르게 계산할 수 있기 때문에 많이 사용됩니다. 754 표준은 Intel, Motorola, Sun 및 MIPS 프로세서를 포함하여 부동 소수점 연산을 구현하는 현재의 거의 모든 PC 기반 마이크로프로세서의 부동 소수점 단위와 수치 데이터 프로세서에서 사용됩니다.
숫자를 저장할 때 해당 이진수는 모든 수 또는 분수를 표현할 수 있습니다. 예를 들어, 분수 1/10을 10진수로는 0.1로 표현할 수 있습니다. 그러나 0.1을 이진 형식으로 표현하면 순환 이진 소수가 됩니다.
0001100110011100110011 (계속)
그리고 무한히 반복될 수 있습니다. 이 숫자를 유한한(제한된) 공간에서는 표현할 수 없습니다. 따라서 이 숫자는 저장할 때 약 -2.8E-17로 반올림됩니다.
더 자세한 내용을 보시려면
http://support.microsoft.com/default.aspx?scid=kb;ko;78113&Product=xlwkor
어쨋든 엑셀자체의 아니 컴퓨터자체의 오류이므로
적당한 자리수에서 반올림을 강제로 해주시면 해결될것 같습니다.
첨부파일을 열어서 확인해보세요.
부동소수점오류.xlsx