Custom Stencil Buffer

이전에 만든 메시와 겹치는 부분만 밝게 렌더링하려면 Post Process(이미 렌더링된 화면에 후처리를 추가함)를 이용하면 된다.
그런데 렌더링된 화면은 2D이고 픽셀의 색상정보만 가지고 있기 때문에 어디까지가 메쉬인지 알아내기 어렵다.

그래서 Stencil Buffer라는 곳에 메시를 따로 렌더링해서 메시의 범위를 파악해야 한다.

먼저 Project Settings -> Rendering -> Postprocessing의 Custom Depth-Stencil Pass를 Enabled with Stencil로 변경한다.
이제 Details 패널의 Rendering -> Render CustomDepth Pass를 체크하고 CustomDepth Stencil Value에 값을 주는 것으로 Stencil Buffer에 오브젝트를 그릴 수 있다.

(0은 초기값과 같으므로 사용하지 않는다)

Viewport의 View Mode를 Buffer Visualization -> Custom Stencil로 바꾸면 Stencil Buffer를 확인할 수 있다.

Stencil Buffer는 8개 비트를 가지고 있고, Custom Depth Stencil Write Mask와 CustomDepth Stencil Value를 조절하는 것으로 오브젝트가 겹치는 경우 어떻게 그릴지 정할 수 있다.

아래는 각 Write Mask별로 동작을 설명하고, 왼쪽 큐브는 항상 오른쪽 큐브보다 물리적으로 뒤에 위치해 있다.

Default : 카메라와의 거리가 가까운 오브젝트의 스텐실값이 우선순위를 가진다.

All bits (255), ignore depth : 해당 오브젝트를 그릴 때, 버퍼의 값을 스텐실 값의 모든 비트로 덮어씌운다. ignore depth는 카메라와의 거리를 무시한다는 뜻이다.
즉 나중에 그려진 오브젝트의 스텐실 값이 우선순위를 가진다.

위 그림에선 오른쪽 큐브가 먼저 그려졌고, 0000 0010 (2)로 채워진 버퍼가 왼쪽 큐브를 그리면서 0000 0100 (4)로 대체되었다.

First bit (1), ignore depth ~ Eighth bit (128), ignore depth : 스탠실 값을 버퍼에 쓸 때 지정된 비트만 사용한다.
즉 Fourth bit 인 경우 오른쪽에서 4번째 비트만 사용한다는 뜻이다. 그러므로 0010 1011 (43)을 입력하면 8이 버퍼에 쓰인다.

지정된 비트만 사용하므로 오브젝트가 겹쳐진 경우 OR 연산한 결과를 얻을 수 있다.

왼쪽 큐브는 0001 0000 (16), 오른쪽 큐브는 0000 1000 (8)값을 가지고 있으므로 큐브가 겹치는 가운데 부분은 0001 1000 (24)값이 버퍼에 쓰였다.