Anti-Aliasing (AA) 및 DLSS 가이드¶
NiloToon에서의 Anti-Aliasing 선택 가이드와 DLSS 설정 방법을 설명해요.
요약 - 최적의 AA 선택¶
| 조건 | 권장 AA |
|---|---|
| RenderScale <= 1 + NVIDIA RTX GPU | DLSS |
| RenderScale <= 1 + Non-NVIDIA GPU (AMD / 콘솔) | FSR3 |
| RenderScale > 1 + TAA Ghosting/Blur 수용 가능 | TAA |
| RenderScale > 1 + TAA Ghosting/Blur 수용 불가 | MSAA* |
참고
위 목록에서 Unity6 STP와 Intel XeSS2는 제외되었어요. 나쁘기 때문이 아니라(실제로 FSR3과 유사하거나 더 나을 수 있음), 충분히 사용하지 않아 결론을 내리기 어렵기 때문이에요. MSAA*는 MSAA + FXAA/SMAA/Off를 의미해요.
전체 그래픽 품질 기준 AA 순위¶
| RenderScale | 순위 |
|---|---|
| <= 1 | [Best] DLSS >> FSR3 > TAA >>> MSAA* [Worst] |
| > 1 | [Best] TAA >>> MSAA* [Worst] |
Classic Outline 전용 AA 순위¶
| RenderScale | 순위 |
|---|---|
| <= 1 | [Sharpest] MSAA >> DLSS > FSR3 >>>>> TAA* [Blurriest] |
| > 1 | [Sharpest] MSAA >>>>>>>> TAA* [Blurriest] |
제한 사항
DLSS와 FSR3은 RenderScale > 1일 때 사용할 수 없어요.
권장 AA 선택 과정¶
실제 프로젝트(주로 VTuber 3D Live/콘서트 PC 프로젝트)에서 시각 품질에 집중하고 하이엔드 PC에서 60fps를 목표로 할 때, 다음 순서로 AA를 선택해요.
1단계: MSAA (기본 선택)¶
MSAA = 4x, RenderScale = 2, Camera AA = off
MSAA는 Ghosting/Blur를 절대 발생시키지 않으며, 모든 Opaque Shader에 올바른 Depth 및 Motion Vector Pass가 필요하지 않아요. FXAA/SMAA를 추가로 활성화하면 2D Rim Light의 AA가 개선될 수 있어요.
2단계: TAA (Shading Aliasing 발생 시)¶
캐릭터의 Rim Light, Screen Space Outline, PBR Specular 또는 작은 오브젝트에 Shading Aliasing이 있거나, MSAA로 인해 VRAM이 부족한 경우 TAA로 전환해 주세요.
MSAA = off, RenderScale = 2, Camera AA = TAA
거의 모든 종류의 Aliasing을 제거하고 동시에 성능을 향상시키지만, TAA의 본질적인 특성으로 인해 Ghosting과 Blur가 발생해요.
3단계: DLSS (성능이 부족한 경우)¶
위 방법들이 4K/8K 렌더링에서 RenderScale = 2로 인해 충분한 성능(fps)을 제공하지 못하는 경우 DLSS로 전환해 주세요.
DLSS NativeAA (MSAA = off, RenderScale = 1, Camera AA = off)
RenderScale이 <= 1이므로 훨씬 나은 성능을 제공하지만, RenderScale을 2로 설정하여 품질/선명도를 높일 수 없게 돼요.
AA에 영향을 주는 설정¶
NiloToon Shader 기능의 품질과 AA를 개선하려면 다음 설정 값을 높일 수 있지만, GPU 렌더링 성능이 느려져요.
| 설정 | 영향 |
|---|---|
| Game 해상도 | Outline 및 Rim Light 품질 |
| Render Scale | Outline 및 Rim Light 품질 |
| Camera AA (FXAA/SMAA/TAA) | Outline 및 Rim Light 품질 |
| DLSS / FSR3 품질 | Outline 및 Rim Light 품질 |
| MSAA | Classic Outline 품질만 (Screen Space Outline / Rim Light / Specular Aliasing 등은 개선 안 됨) |
| NiloToon Self Shadow Map 해상도 및 Soft Shadow 품질 | NiloToon Self Shadow Map 품질만 |
MSAA + FXAA/SMAA 조합¶
Unity URP에서 FXAA/SMAA는 MSAA on/off에 관계없이 사용할 수 있으므로 조합이 가능해요.
| AA 종류 | 특징 |
|---|---|
| MSAA | 지오메트리 Edge(Classic Outline AA)에 최적. 전체 이미지 Blur 없음. 하지만 고해상도에서 GPU 리소스 집약적. Rim Light, Screen Space Outline, Specular Highlight에는 개선 없음 |
| FXAA | 가장 빠른 AA. 전체적으로 SMAA/MSAA보다 Blur |
| SMAA | FXAA보다 느리지만 더 선명. Outline AA에는 크게 도움되지 않음 |
Classic Outline AA
Classic Outline의 AA를 주로 개선하려면 MSAA/FXAA/SMAA 중 MSAA만 유용해요.
TAA vs MSAA¶
Unity URP에서 TAA는 MSAA가 off일 때만 사용 가능해요.
| 비교 항목 | TAA | MSAA |
|---|---|---|
| 전체 이미지 AA | 더 좋음 (모든 Aliasing 처리) | 지오메트리 Edge만 |
| Classic Outline AA | 빠른 움직임에서 실패 | 최고 |
| Screen Space Outline AA | 더 좋음 | 개선 불가 |
| Rim Light AA | 더 좋음 | 개선 불가 |
| Specular AA | 더 좋음 | 개선 불가 |
| 성능 | 더 좋음 | - |
| 선명도 | Blur 발생 | Blur 없음 |
| Ghosting | 빠른 움직임에서 발생 가능 | 없음 |
| Shadow AA | 약간 개선 | 개선 불가 |
| Shader 요구 사항 | 모든 Opaque Material에 Depth/Motion Vector Pass 필요 | 불필요 |
| Editor 버전 | Unity2022 이상 | 모든 URP 버전 |
TAA 사용 방법¶
- Camera를 선택하고 Inspector에서 확인
- Rendering > Anti-aliasing에서 Temporal Anti-aliasing (TAA) 선택
- Output > MSAA에서 Off 선택
TAA와 호환되지 않는 기능
- Multisample Anti-aliasing (MSAA)
- Camera Stacking
- Dynamic Resolution
TAA Ghosting 문제¶
모든 Opaque Shader에 올바른 Depth 및 Motion Vector Pass가 있어도 TAA Ghosting이 존재할 수 있어요.
예: 배경이 밝기 변화가 큰 고주파 디테일을 표시하고(예: 3D Live 콘서트의 큰 TV 스크린, 많은 검은 원 마스크 패턴이 있는 밝은 스크린), 전면 캐릭터가 빠르게 움직이면 TAA Ghosting이 나타나요.
AA/품질 프리셋¶
Editor Recorder (최대 품질)¶
Recorder로 비디오를 만들 때 (오프라인 녹화 MV, 트레일러 등):
| 설정 | (1) 4K (TAA) | (2) 8K (TAA) | (3) 4K (DLSS) | (4) 8K (DLSS) |
|---|---|---|---|---|
| Game Window 해상도 | 2160p(4K) | 4320p(8K) | 4320p(8K) | 4320p(8K) |
| RenderScale | 2 | 1 | 1(DLSS 잠금) | 1(DLSS 잠금) |
| Camera AA | TAA(Very High) | TAA(Very High) | None | None |
| MSAA | None | None | None | None |
| Self Shadow 해상도 | >= 8192 | >= 8192 | >= 8192 | >= 8192 |
| Soft Shadow 품질 | High | High | High | High |
| DLSS 품질 | N/A | N/A | NativeAA | NativeAA |
참고
(1)이 가장 자주 사용돼요. SSD 공간이 가장 적게 필요하고 설정이 매우 간단해요. 모든 설정은 최소 16GB VRAM의 GPU(예: RTX4070 Ti 이상)를 기준으로 해요.
PC/콘솔 (매우 높음)¶
- Game Window 해상도 = 1440p~2160p(4K)
- RenderScale = 1~2
- Camera AA = TAA(Very High)
- MSAA = Off
- Self Shadow 해상도 = 4096~8192
- Soft Shadow 품질 = Medium / High
PC/콘솔 (높음)¶
- Game Window = 1080p~1440p
- RenderScale = 1
- Camera AA = SMAA
- MSAA = 4x
- Self Shadow 해상도 = 4096
- Soft Shadow 품질 = Medium
모바일 (매우 높음)¶
- Game Window = 1080p (Screen.SetResolution 사용)
- RenderScale = 0.8~0.9 (실제 3D 렌더링 864p~972p)
- Camera AA = None
- MSAA = 2x~4x
모바일 (높음)¶
- Game Window = 1080p
- RenderScale = 0.7~0.8 (실제 3D 렌더링 756p~864p)
- Camera AA = None
- MSAA = 2x~4x
모바일 (중간)¶
- Game Window = 960p
- RenderScale = 0.68~0.78 (실제 3D 렌더링 648p~756p)
- Camera AA = None
- MSAA = 2x~4x
모바일 (낮음)¶
- Game Window = 840p
- RenderScale = 0.64~0.77 (실제 3D 렌더링 540p~648p)
- Camera AA = None
- MSAA = 2x~4x
모바일 최대 해상도 권장
대부분의 모바일 게임은 최고 그래픽 설정에서도 720p~864p가 실제 3D 렌더링 해상도의 최대값이에요 (예: Genshin Impact / Honkai StarRail / Wuthering Waves / Infinity Nikki). 720p~864p를 모바일 최대 3D 렌더링 해상도로 사용하는 것을 강력히 권장해요.
최소 설정에서도 유지해야 할 것¶
게임의 그래픽 설정 UI에서 다음 두 가지 기능은 비활성화 시 캐릭터 렌더링에 큰 영향을 미쳐요.
- AA (MSAA / TAA / DLSS / FSR3 / XeSS2 / SGSR2)
- Bloom (URP Bloom / NiloToon Bloom)
중요
가장 낮은 그래픽 품질 프리셋에서도 최소한 AA와 Bloom을 유지하는 것을 강력히 권장해요. AA와 Bloom을 유지하면 캐릭터의 렌더링 품질(Classic Outline 및 전체 색상)을 보존할 수 있어요.
Color Banding¶
색상 그라디언트 영역(예: Volumetric Light Beam의 색상 페이드아웃)에서 Color Banding이 보이면 다음을 시도해 보세요:
- Camera의 Dither를 활성화해 주세요
- FXAA를 사용하지 마세요
DLSS (최적의 AA 및 FPS)¶
왜 DLSS를 사용하나요?¶
DLSS4.5는 최고의 Anti-Aliasing(AA) 및 Upscaling 도구이며, RenderScale <= 1일 때 NVIDIA RTX GPU에서 URP의 TAA/STP를 대체할 수 있어요.
다음 상황에서 DLSS가 유용해요:
- 고해상도 또는 높은 RenderScale로 인한 GPU Bound
- RenderScale <= 1일 때 TAA의 Ghosting과 Blur 때문에 최적의 AA 도구로 대체하고 싶은 경우
DLSS4.5는 Unity Asset Store에서 구매하여 사용할 수 있어요.
버전 주의
이전 DLSS3 Asset을 사용하지 마세요. DLSS4.5만 사용해야 해요. DLSS4.5만 Transformer Model (M)을 지원해요. RTX 40xx 이상에서는 Preset M, 그 외에는 Preset K를 권장해요.
위 이미지에서 AA 차이를 보려면 이미지를 확대해야 해요. Outline과 2D Rim Light Aliasing에 집중하여 AA 품질 차이를 확인해 보세요.
DLSS vs TAA/STP¶
DLAA(DLSS의 NativeAA)는 "Upscaling 없는 DLSS"로, RenderScale = 1에서 URP의 TAA/STP보다 훨씬 뛰어난 AA 방법이에요.
4K에서 RenderScale이 1일 때:
| 항목 | DLAA vs TAA/STP |
|---|---|
| 선명도 | DLAA가 훨씬 선명 |
| Ghosting | DLAA가 훨씬 적음 |
| 픽셀 Jitter | DLAA는 거의 보이지 않음, TAA/STP는 쉽게 보임 |
| Specular Aliasing 처리 | DLAA가 더 안정적 |
| 전체 AA 결과 | DLAA가 최고 |
| GPU 속도 | DLAA가 TAA/STP보다 느림 |
| RenderScale 제한 | DLAA는 <= 1 강제, TAA는 > 1(최대 2)로 Super Sampling 가능 |
언제 DLSS를 사용하나요?¶
일반적으로 4K Game Window 이상을 타겟으로 할 때 사용해요. 1080p/1440p에서는 먼저 RenderScale = 2 + TAA를 시도한 후, GPU 부하가 무거우면 DLSS NativeAA로 전환해 주세요.
최소 품질 - 해상도¶
좋은 DLSS 결과를 위해 내부 해상도가 최소 >= 1440p를 권장해요.
| Game Window 해상도 | 최소 품질 프리셋 |
|---|---|
| 8K (4320p) | Ultra Performance (RenderScale = 0.333) (= 내부 1440p) |
| 4K (2160p) | Quality (RenderScale = 0.666) (= 내부 1440p) |
| 1440p | Native AA (RenderScale = 1) (= 내부 1440p) |
| 1080p | Native AA (RenderScale = 1) (= 내부 1080p)* |
1080p 제한
1080p는 Native AA를 사용하더라도 DLSS가 좋은 결과를 내기에 너무 낮을 수 있어요. Classic Outline Aliasing이 보일 수 있어요.
DLSS 설정 및 사용¶
- Asset Store에서 DLSS4 구매
- Package Manager > My Assets에서 패키지 임포트
- 3D Main Camera에 TND Upscaler 스크립트 연결:
- Upscalers = DLSS4.5
- Quality Mode = Native AA (GPU Bound 시 낮추기)
- 모든 Render Preset을 Preset M 설정 (RTX 20xx/30xx는 Preset K 권장)
- Main Camera의 Camera AA (FXAA/SMAA/TAA) 끄기
- TND Upscaler 스크립트 내의 모든 에러와 경고 수정
- Play Mode 진입
필수 사항
DLSS 사용 시 반드시 모든 Camera AA(FXAA/SMAA/TAA)를 꺼 주세요.
DLSS를 사용하지 않을 때¶
1080p/1440p에서는 GPU가 RenderScale = 2 + TAA를 처리할 수 있는 경우가 많아요. 이 설정은 일반적으로 RenderScale = 1 + DLAA보다 더 나은 이미지 품질을 제공해요 (Brute Force Super Sampling AA이므로 Ground Truth 품질에 더 가까워요).
Recorder를 사용한 오프라인 비디오 제작에서는 RenderScale = 2 + TAA가 일반적으로 최선의 옵션이에요. FPS는 중요하지 않고 시각 품질만 중요하기 때문이에요.
게임용 DLSS 설정¶
PC 게임에서 DLSS(및 FSR4/FSR3/XeSS2)를 사용할 때, 플레이어마다 다른 GPU를 가지고 있으므로 다음 Fallback 순서로 모든 Upscaler를 사용하는 것이 좋아요.
- DLSS 4.5
- FSR 4
- XeSS 2
- FSR 3
- SGSR 2 (선택: Non-PC 플랫폼용 안전 Fallback)
게임의 그래픽 설정 페이지에 Upscaler 품질 Dropdown을 노출해 주세요.
| 품질 모드 | 스케일링 | RenderScale |
|---|---|---|
| Native AA | 1.0x | 1 |
| Ultra Quality | 1.2x | 0.833 |
| Quality | 1.5x | 0.666 |
| Balanced | 1.7x | 0.588 |
| Performance | 2.0x | 0.5 |
| Ultra Performance | 3.0x | 0.333 |
VRAM 비용¶
RTX 30/20 시리즈
Preset L/M은 RTX 30/20 시리즈에서 훨씬 높은 VRAM 비용이 발생해요. VRAM 사용량이 중요하다면 RTX 30/20 시리즈에서는 항상 Preset K를 사용해 주세요.
성능 비용¶
Preset 선택 가이드
- RTX 30/20 시리즈: GPU 성능이 중요하면 항상 Preset K 사용
- RTX 40/50 시리즈: 비교적 낮은 추가 성능 비용으로 더 나은 시각 품질을 위해 Preset M 권장