wait와 notify 보다는 동시성 유틸리티를 애용하라

쓰레드의 실행순서의 동기화

쓰레드의 실행순서는 소스코드가 나열된 순서와 다를 수 있다.

• wait() : 어떤 객체에 대해 쓰레드를 대기하게 만든다.
• notify() : 객체에 대해 대기중인 쓰레드가 있을 경우 우선순위가 높은 쓰레드 하나만을 깨운다.
• notifyAll() : 대기중인 쓰레드 모두 깨운다.

wait와 notifyAll(notify) 메서드는 동기화 처리를 해서, 한 순간에 하나의 쓰레드만 호출이 가능하도록 해야한다.

wait메서드는 연이은 호출이 가능하다. = 다른 쓰레드에 의해 또 다시 호출이 가능하다.

지금은 wait와 notify를 사용해야 할 이유가 많이 줄었다.

• 자바 5에서 도입된 고수준의 동시성 유틸리티가 이전이라면 wait와 notify로 하드코딩해야 했던 전형적인 일들을 대신 처리해주기 때문이다.
• wait와 notify는 올바르게 사용하기가 아주 까다로우니 고수준 동시성 유틸리티를 사용하자.

java.util.concurrent의 고수준 유틸리티는 세 범주로 나눌 수 있다.

바로 Excutor framework, 동시성 컬렉션, 동기화 장치(synchronizer)다.

• 동시성 컬렉션은 List, Queue, Map 같은 표준 컬렉션 인터페이스에 동시성을 가미해 구현한 고성능 컬렉션이다. 높은 동시성에 도달하기 위해 동기화를 각자의 내부에서 수행한다. (아이템 79).
• 따라서 동시성 컬렉션에서 동시성을 무력화하는 건 불가능하며 외부에서 락을 추가로 사용하면 오히려 속도가 느려진다.
• 동시성 컬렉션에서 동시성을 무력화하지 못하므로 여러 메서드를 원자적으로 묶어 호출하는 일 역시 불가능하다.

그래서 여러 기본 동작을 하나의 원자적 동작으로 묶는 상태 의존적 수정 메서드들이 추가되었다. 이 메서드들은 아주 유용해서 자바 8에서는 일반 컬렉션 인터페이스에도 디폴트 메서드(아이템 21) 형태로 추가되었다.

• 예를 들어 Map의 putIfAbset(key, value) 메서드는 주어진 키에 매핑된 값이 아직 없을 때만 새 값을 집어넣는다. 그리고 기존 값이 있었다면 그 값을 반환하고 없었다면 null을 반환한다. 이 메서드 덕에 스레드 안전한 정규화 맵(canonicalizing map)을 쉽게 구현할 수 있다.

// ConcurrentMap으로 구현한 동시성 정규화 맵
public class Intern {
    // 코드 81-1 ConcurrentMap으로 구현한 동시성 정규화 맵 - 최적은 아니다. (432쪽)
    private static final ConcurrentMap<String, String> map = new ConcurrentHashMap<>();

    public static String intern(String s) {
        String previousValue = map.putIfAbsent(s, s);
               return previousValue == null ? s : previousValue;
    }
}

• CuncurrentHashMap은 get 같은 검색 기능에 최적화 되었다.
• 따라서 get을 먼저 호출하여 필요할 때만 putIfAbsent를 호출하면 더 빠르다.

public class Intern {
     private static final ConcurrentMap<String, String> map = new ConcurrentHashMap<>();

    // 코드 81-2 ConcurrentMap으로 구현한 동시성 정규화 맵 - 더 빠르다! (432쪽)
    public static String intern(String s) {
        String result = map.get(s);        
        if (result == null) {
            result = map.putIfAbsent(s, s);
            if (result == null)
                result = s;
        }
        return result;
    }
}

• CuncurrentHashMap은 동시성이 뛰어나며 속도도 무척 빠르다. String.intern보다 6배나 빠르다.
• 동시성 컬렉션은 동기화한 컬렉션을 낡은 유산으로 만들어버렸다. 대표적인 예로 이제는 Collections.synchronizedMap 보다는 ConcurrentHashMap을 사용하는 게 훨씬 좋다.
• 동기화된 맵을 동시성 맵으로 교체하는 것만으로 동시성 애플리케이션의 성능은 극적으로 개선된다.
• 컬렉션 인터페이스중 일부는 작업이 성공적으로 완료될 때까지 기다리도록 (즉, 차단되도록) 확장되었다.

1. Queue를 확장한 BlockingQueue에 추가된 메서드 중 take는 큐의 첫 원소를 꺼낸다.
2. 이때 만약 큐가 비어있다면 새로운 원소가 추가될 때까지 기다린다. 이런 특성 덕에 BlockingQueue는 작업 큐(생산자-소비자 큐)로 쓰기에 적합하다.
3. 작업 큐는 하나 이상의 생산자(producer) 스레드가 작업(work)을 큐에 추가하고, 하나 이상의 소비자(consumer) 스레드가 큐에 있는 작업을 꺼내 처리하는 형태다.

ThreadPoolExecutor를 포함한 대부분의 Excutor Service 구현체에서 BlockingQueue를 사용한다.

동기화 장치는 스레드가 다른 스레드를 기다릴 수 있게하여, 서로 작업을 조율할 수 있게 해준다.

• 가장 자주 쓰이는 CountDownLatch와 Semaphore
• CyclicBarrier 와 Exchanger는 그보다 덜 쓰인다.
• 가장 강력한 동기화 장치는 Phaser다.
• 카운트다운 래치는 일회성 장벽으로 하나 이상의 스레드가 또 다른 하나 이상의 스레드 작업이 끝날 때까지 기다리게 한다.
• CountDownLatch의 유일한 생성자는 int 값을 받으며, 이 값이 래치의 countDown 메서드를 몇번 호출해야 대기중인 스레드들을 깨우는지를 결정한다.

어떤 동작들을 동시에 시작해 모두 완료하기까지의 시간을 재는 간단한 프레임워크를 구축한다고 해보자.

• 카운트다운 래치 3개 사용

1. ready Latch : 작업자 스레드들이 준비가 완료되었음을 타이머 스레드에 통지할 때 사용한다.

2. 통지를 끝낸 작업자 스레드들은 두 번째 래치인 start가 열리기를 기다린다.

3. 마지막 작업자 스레드가 ready.countDown을 호출하면 타이머 스레드가 시작 시각을 기록하고 start.countDown을 호출하면 타이머 스레드가 시작 시각을 기록하고 start.countDown을 호출하여 기다리던 작업자 스레드들을 깨운다.

4. 그 직후 타이머 스레드는 세번째 래치인 done이 열리기를 기다린다.

5. done 래치는 마지막 남은 작업자 스레드가 동작을 마치고 done.countDown을 호출하면 열린다.

6. 타이머 스레드는 done 래치가 열리자마자 깨어나 종료 시각을 기록한다.

// 코드 81-3 동시 실행 시간을 재는 간단한 프레임워크 (433-434쪽)
public class ConcurrentTimer {
     //이 동작을 실행할 excutor와 몇 개나 동시에 수행할 수 있는지를 뜻하는 동시성 수준 등) 
    public static long time(Executor executor, int concurrency, Runnable action) throws InterruptedException {
        CountDownLatch ready = new CountDownLatch(concurrency);  
        CountDownLatch start = new CountDownLatch(1);
        CountDownLatch done  = new CountDownLatch(concurrency);

        for (int i = 0; i < concurrency; i++) {
            executor.execute(() -> {
                ready.countDown(); // 타이머에게 준비를 마쳤음을 알린다.
                try {
                    start.await(); // 모든 작업자 스레드가 준비될 때까지 기다린다.
                    action.run();
                } catch (InterruptedException e) {
                    Thread.currentThread().interrupt();
                } finally {
                    done.countDown();  // 타이머에게 작업을 마쳤음을 알린다.
                }
            });
        }

        ready.await();     // 모든 작업자가 준비될 때까지 기다린다.
        long startNanos = System.nanoTime();
        start.countDown(); // 작업자들을 깨운다.
        done.await();      // 모든 작업자가 일을 끝마치기를 기다린다.
        return System.nanoTime() - startNanos;
    }
}

핵심 정리

• 새로운 코드라면 언제나 wait와 notify가 아닌 동시성 유틸리티를 써야한다.

• wait 메서드는 스레드가 어떤 조건이 충족되기를 기다리게 할 때 사용한다.

• 락 객체인 wait 메서드는 반드시 그 객체를 잠든 동기화 영역 안에서 호출해야 한다.

• wait와 notify를 직접 사용하는 것을 동시성 '어셈블리 언어'로 프로그래밍하는 것에 비유할 수 있다.

• 반면 java.util.concurrent는 고수준 언어에 비유할 수 있다.

• 코드를 새로 작성한다면 wait와 notify를 쓸 이유가 거의(어쩌면 전혀) 없다.

• wait를 사용하는 레거시 코드를 유지보수해야 한다면 wait는 항상 표준 관용구에 따라 while문 안에서 호출하도록 하자.