부동소수점1 파이썬 함정카드, round() 알아보기 엑셀 데이터를 읽어서 특정 동작을 하는 외주 프로그램에서 문제가 발생했다. 당연하게도 읽은 값을 입력하면 서로 동일해야 하지만 딱 하나가 읽을 땐 2.3의 값이 2.2로 입력되었다. 결론부터 말하자면, 부동소수점으로 인해 예상되는 동작과 실제 동작이 다른 round 메서드 때문이었다 파이썬의 내장 메서드인 round는 모두가 예상하듯이 소수점을 반올림하는 함수이고 깊게 알아볼 이유도 없어 보인다 구글의 최상단에 뜨는 블로그를 들어가도 '반올림에 사용된다' 정도만 언급되어 있고 chatGPT도 반올림 함수의 예시로 round를 알려준다 하지만 round메서드는 우리가 일반적으로 의미하는 반올림과 다른 반올림을 사용한다 우리가 생각하는 반올림이면 round(2.5) = 3이 나와야 할 텐데? round의 올.. 2024. 1. 30. 이전 1 다음
