레이 트레이싱

목차

1. 개념과 발전 흐름
2. 핵심 원리: 광선 발사, 교차, 셰이딩, 2차 광선
3. 알고리즘 분류: Whitted 레이 트레이싱과 패스 트레이싱
4. 주요 특징 및 시각 효과: 반사·굴절·그림자·간접광
5. 사용 및 성능: 실시간 레이 트레이싱(DXR), 가속 구조, 디노이징

개념과 발전 흐름

레이 트레이싱은 장면을 화면에 “투영”해 빠르게 그리는 전통적 래스터화(rasterization) 방식과 달리,
광선의 진행과 표면 상호작용을 중심으로 픽셀 값을 결정한다. 이 접근은 광학적으로 자연스러운 결과를 얻는 데 유리하지만,
장면 내 물체와 광선의 교차 테스트가 대량으로 발생하므로 계산 비용이 크다. 이러한 계산 부담 때문에 오랫동안 영화 VFX와 같은
오프라인 렌더링에서 주로 활용되었고, 이후 API 표준화와 하드웨어 가속의 발전으로 실시간 적용이 확대되었다.

핵심 원리: 광선 발사, 교차, 셰이딩, 2차 광선

레이 트레이싱의 기본 흐름은 (1) 카메라에서 픽셀 방향으로 1차 광선(primary ray)을 발사하고,
(2) 장면의 기하(삼각형, 곡면 등)와 광선의 교차(intersection)를 계산해 가장 가까운 충돌 지점을 찾은 뒤,
(3) 해당 지점의 재질(material)과 조명(light) 정보를 이용해 셰이딩(shading)을 수행하는 방식으로 구성된다.
현실감의 핵심은 여기서 멈추지 않고 (4) 필요에 따라 2차 광선(secondary rays)을 추가로 발사하는 데 있다.

• 그림자 광선(shadow ray):
  표면 지점에서 광원 방향으로 광선을 쏴서 중간에 가림(occlusion)이 있는지 확인함으로써 정확한 그림자를 계산한다.
• 반사 광선(reflection ray):
  표면의 법선과 입사 방향에 따라 반사 방향을 계산해 광선을 발사하고, 반사되는 환경의 기여도를 누적한다.
• 굴절/투과 광선(refraction/transmission ray):
  투명 재질에서 스넬의 법칙(Snell’s law) 등 굴절 모델을 적용해 내부로 진행하는 광선을 추적하여 유리, 물 등의 효과를 만든다.
• 간접광(Indirect lighting):
  직접 조명(광원에서 바로 오는 빛) 외에, 다른 표면에서 여러 번 반사되어 도달하는 빛의 기여를 근사 또는 샘플링으로 포함한다.

2차 광선의 “반복(bounce)” 횟수가 늘어날수록 현실감은 높아지지만, 계산량이 급증한다.
따라서 실제 구현에서는 최대 반사 횟수 제한, 기여도가 낮은 경로의 조기 종료(termination) 같은 제어가 필수적이다.

알고리즘 분류: Whitted 레이 트레이싱과 패스 트레이싱

레이 트레이싱은 목적과 샘플링 방식에 따라 여러 변형이 존재한다. 대표적으로,
반사·굴절·그림자 같은 “거울반사/투과” 효과를 재귀적으로 계산하는 Whitted 스타일 레이 트레이싱과,
다중 반사에 의한 전역 조명(global illumination)을 몬테카를로(Monte Carlo) 샘플링으로 근사하는 패스 트레이싱(path tracing)이 구분된다.

패스 트레이싱은 물리 기반 렌더링(PBR)과 결합해 간접광, 색 번짐(color bleeding), 부드러운 그림자 등
광 수송(light transport)을 폭넓게 재현할 수 있으나, 노이즈가 발생하기 쉬워 충분한 샘플 수가 필요하다.
영화용 렌더러는 다중 반사 전역 조명 및 다양한 산란 효과를 고품질로 처리하는 경향이 있으며,
실시간 영역에서는 제한된 샘플 수를 디노이징(denoising)과 업스케일링 등으로 보완하는 접근이 일반적이다.

주요 특징 및 시각 효과: 반사·굴절·그림자·간접광

레이 트레이싱이 제공하는 핵심 가치는 “광학 현상의 직접적 모델링”에 있다. 래스터화 기반의 스크린 공간 반사(SSR),
큐브맵 반사 같은 근사 기법으로는 처리하기 어려운 장면 의존적 현상을 보다 일관되게 재현할 수 있다.

• 정확한 반사:
  화면 밖의 물체나 복잡한 기하도 반사에 포함될 수 있으며, 거울·금속 재질에서 특히 효과가 크다.
• 굴절 및 투명체 표현:
  유리, 물, 렌즈 같은 투명 재질에서 굴절, 내부 반사, 감쇠 등을 결합해 설득력 있는 결과를 만든다.
• 자연스러운 그림자:
  광원 크기와 차폐 관계를 반영한 부드러운 그림자(soft shadows)와 복잡한 가림 현상이 구현 가능하다.
• 간접광 및 전역 조명:
  다중 반사로 인한 조도 분포, 색 번짐, 공간감이 개선되어 장면의 현실감이 상승한다.
• 추가 광학 효과:
  산란(scattering), 심도(depth of field), 모션 블러, 카스틱스(caustics) 등도 원리적으로는 광선 기반 접근과 잘 결합된다.

이러한 효과는 게임에서는 “현실감 강화”와 “조명 기반 분위기 연출”에, 영화/VFX에서는 “고품질 포토리얼리즘”과
“복잡한 재질/조명 세팅의 안정적 재현”에 활용된다.

사용 및 성능: 실시간 레이 트레이싱(DXR), 가속 구조, 디노이징

실시간 레이 트레이싱은 한 프레임 안에 제한된 시간(예: 16.7ms 내외)으로 계산을 끝내야 하므로,
알고리즘과 하드웨어, API 수준의 최적화가 결합된다. 현대 GPU 파이프라인에서는 레이 트레이싱을 래스터화와 동급의
1차 시민으로 취급하는 API(예: DirectX Raytracing, DXR)가 제공되며, 애플리케이션은 가속 구조와 셰이더 프로그램을 통해
레이 생성, 교차, 히트 처리 과정을 구성한다.

가속 구조(Acceleration Structure)와 교차 비용

성능 병목의 중심은 “광선-기하 교차 테스트”다. 모든 프리미티브와 일일이 교차 테스트를 수행하면 비용이 과도하므로,
실무에서는 계층적 공간 분할 구조(대표적으로 BVH 계열)를 사용해 후보를 빠르게 줄인다.
DXR도 장면을 효율적으로 탐색하기 위한 가속 구조 개념을 핵심 구성요소로 포함한다.

하이브리드 렌더링과 품질 설정

게임 엔진에서는 흔히 래스터화로 기본 가시성 및 1차 셰이딩을 처리하고,
특정 효과(반사, 그림자, 앰비언트 오클루전, 전역 조명 등)에만 레이 트레이싱을 선택적으로 적용하는 하이브리드 구성이 사용된다.
이때 품질과 성능을 좌우하는 주요 파라미터는 다음과 같다.

• 레이트레이싱 적용 범위: 반사만 적용할지, 그림자/전역 조명까지 확장할지에 따라 비용이 크게 변한다.
• 샘플 수 및 반사 횟수: 픽셀당 레이 수, 최대 바운스 수는 노이즈와 사실감을 개선하지만 비용을 증가시킨다.
• 해상도 및 업스케일링: 레이 트레이싱 패스를 낮은 해상도로 실행한 뒤 업스케일링을 결합하는 전략이 흔하다.
• 동적 객체와 업데이트 비용: 움직이는 물체가 많을수록 가속 구조 업데이트 비용이 커질 수 있다.

디노이징과 실시간 품질 안정화

실시간 환경은 샘플 수가 제한되므로 결과에 노이즈가 생기기 쉽다. 이를 완화하기 위해 시공간적 필터링,
노이즈 제거(디노이징), 초해상도 기법이 결합되어 “적은 샘플로도 안정적인 화질”을 달성한다.
결과적으로 실시간 레이 트레이싱은 단독 기술이라기보다, 레이 기반 조명 계산과 후처리/업스케일링을 포함한
통합 렌더링 파이프라인으로 이해하는 것이 적절하다.

출처

• Microsoft DirectX-Specs: DirectX Raytracing (DXR) Functional Spec
• NVIDIA Developer: Real-Time Ray Tracing (RTX)
• NVIDIA Developer: Ray Tracing 소개
• Scratchapixel: Light Transport Algorithms and Ray-Tracing (Whitted)
• Pixar RenderMan: Product Overview (ray traced global illumination 등)
• Pixar Graphics: An Advanced Path Tracing Architecture for Movie Rendering (PDF)
• Wikipedia: Ray tracing (graphics)