item 60 JungHyunLyoo - JAVA-JIKIMI/EFFECTIVE-JAVA3 GitHub Wiki

실수의 표현 방식

컴퓨터에서 실수를 표현하는 방법은 정수에 비해 훨씬 복잡하다.

왜냐하면, 컴퓨터에서는 실수를 정수와 마찬가지로 2진수로만 표현해야 하기 때문.

아래의 2가지 실수 표현 방식이 있다.

1. 고정 소수점(fixed point) 방식

2. 부동 소수점(floating point) 방식

고정 소수점 방식에 비해 부동 소수점 방식은 표현할 수 있는 범위가 훨씬 크다.

대부분의 시스템에서 부동 소수점 방식을 사용중이다.

그리고 현재 사용되고 있는 부동 소수점 방식은 대부분 IEEE 754 표준을 따르고 있다.

float와 double 변수도 이 부동 소수점 방식을 사용중이다.

부동 소수점 방식의 단점

부정확하다

IEEE 754의 값을 계산하는 고유한 수식(±(1.가수부)×2^지수부-127)때문에

float(32 bit)는 소수 9번째 자리, double(64 bit)는 소수 15번째 자리까지만

정확히 표현할 수 있고 그 이후는 부정확하다.

System.out.println(1.03 - 0.42);
//0.6100000000000001

System.out.println((1.00 - 9 * 0.10));
//0.09999999999999998

대안 : BigDecimal, int, long 사용

• BigDecimal

public static void main(String[] args) {
    final BigDecimal TEN_CENTS = new BigDecimal(".10");

    int itemsBought = 0;
    BigDecimal funds = new BigDecimal("1.00");
    for (BigDecimal price = TEN_CENTS;
        funds.compareTo(price) >= 0;
        price = price.add(TEN_CENTS)) {
        funds = funds.subtract(price);
        itemsBought++;
    }
    System.out.println(itemsBought + "개 구입");
    System.out.println("잔돈(달러): " + funds);
}

참고로 BigDecimal은 내부적으로 char 배열을 사용하여 값을 처리한다

public BigDecimal(char[] in, int offset, int len, MathContext mc)

• int

public static void main(String[] args) {
    int itemsBought = 0;
    int funds = 100;
    for (int price = 10; funds >= price; price += 10) {
        funds -= price;
        itemsBought++;
    }
    System.out.println(itemsBought + "개 구입");
    System.out.println("잔돈(센트): " + funds);
}

BigDecimal은 사용하기 불편하고 느리다는 단점이 있다.

그리고 int와 long은 값의 크기가 제한되고 소수점을 직접 관리해야 한다는 단점이 있다.

상황에 알맞은 타입을 잘 골라서 쓰면 되겠다!