Fenris Creations, 오픈 소스 CORTAO 렌더링 기법 공개

Fenris Creations은 2026년 11월 12일 실시간 게임용 오픈 소스 화면 공간 앰비언트 오클루전(SSAO) 기법인 CORTAO를 공개했다. 수석 렌더링 엔지니어 Daniel Isheden이 개발한 이 기법은 Carbon 엔진 프레임워크를 통해 제공되며, 개발 중인 우주 생존 MMO EVE Frontier에서 최적화와 테스트를 거쳤다.

CORTAO는 Circular Occluder Ray-Traced Ambient Occlusion의 약자다. 앰비언트 오클루전은 주변의 기하 구조가 환경광을 가리는 곳을 은은하게 어둡게 만들어 사물이 장면에 자연스럽게 자리 잡도록 하고, 복잡한 장면의 형태와 세부 요소를 더 쉽게 파악하게 해준다. Fenris에 따르면 이 기법은 렌더링 비용을 낮게 유지하면서 효과의 정확도와 안정성을 높이고, 카메라가 움직일 때 발생하는 짙은 후광과 음영 변화를 줄인다.

이 기법은 미리 구워 둔 장면 데이터가 필요하지 않아 플레이어가 계속 만들고 바꾸는 환경에 대응할 수 있다. Carbon 구현은 EVE Frontier의 탁 트인 우주 공간, 온라인 전투, 거대 구조물과 밀폐된 실내 공간을 대상으로 개선됐다. 이 프로젝트는 Isheden의 독립 연구로 시작됐으며, 이후 Fenris가 대규모 테스트와 개발에 사용할 프로덕션 환경을 제공했다.

Isheden은 연구의 계기가 된 시각적 문제를 설명했다. “음영의 작은 오류도 그럴듯한 장면을 어색하게 만들 수 있습니다. 특히 카메라가 움직일 때 오류가 눈에 띄면 더욱 그렇습니다.”라고 그는 말했다. 그의 목표는 게임에서 사용할 수 있는 렌더링 예산 안에서 정확도를 높이는 것이었다.

CORTAO의 앰비언트 오클루전 구현 방식

EVE Frontier의 기술 분석에서는 수평선 기반 SSAO와의 차이를 설명한다. CORTAO는 주변의 깊이 정보를 샘플링하고, 잠재적 차폐 영역을 벗어난 샘플을 제외한 뒤, 나머지 샘플을 원형 프록시 차폐체로 변환해 픽셀 주변의 국소적인 3D 공간을 근사한다. 미리 계산된 룩업 테이블은 이 프록시와 광선의 교차 여부를 평가하며, 차폐되지 않은 광선의 비율에 따라 주변광의 세기가 결정된다.

최대 32개 방향의 광선을 지원하며, 픽셀당 깊이 샘플 4개만으로도 유용한 결과를 낼 수 있다. 두 수치는 서로 다른 작업을 담당한다. 깊이 샘플 수는 생성되는 차폐체의 개수를 결정하고, 광선은 차폐체를 기준으로 가시성을 측정한다. 개발자는 주로 깊이 샘플 수를 조정해 성능을 조절한다.

GPU 구현은 컴퓨트 셰이더 패스 3개로 구성된다. 사전 패스는 선형 깊이와 법선 데이터를 밉맵 버퍼에 저장하고, 메인 패스는 샘플링한 차폐체를 대상으로 광선을 추적한다. 선택 사항인 필터는 결과를 시간적 안티앨리어싱이나 AI 업스케일러에서 사용할 수 있도록 처리한다. CORTAO는 전역 조명 시스템에서 사용할 수 있도록 픽셀 주변의 차폐되지 않은 방향을 평균해 나타내는 벤트 노멀도 출력할 수 있다. 다만 자체적인 시간 필터링 솔루션은 포함하지 않는다.

Fenris의 벤치마크 결과

Fenris는 CORTAO를 수평선 기반 SSAO 기법인 GTAO와 비교해 벤치마크를 진행했다. 재현한 San Miguel 카페 장면에서 회사는 4개 샘플을 사용하는 CORTAO가 레이 트레이싱 기준 결과와 비교했을 때 테스트한 모든 GTAO 구성보다 평균 제곱 오차가 낮았다고 밝혔다. 수평선 기반 렌더링에 유리한 단순 장면 테스트에서는 실행 시간이 같은 조건에서 오차가 82% 낮았다. 해당 장면에서 두 기법의 오차가 같도록 설정했을 때는 CORTAO가 249% 더 빨랐다.

Fenris의 테스트에서 가장 큰 성능 향상은 깊이 복잡도가 높은 장면, 특히 탐색 반경이 큰 경우에 나타났다. CORTAO는 테스트한 샘플 수 전반에서 더 일관된 차폐 수준을 유지했으며, 깊이가 불연속적으로 바뀌는 경계 주변에서는 차폐를 더 보수적으로 적용해 짙은 후광과 시점에 따라 달라지는 아티팩트를 줄였다. 회사가 테스트한 해상도와 GPU 제조사에 관계없이 전반적인 결과는 동일하게 나타났다.

통합 비용과 오픈 소스 코드

CORTAO는 기존 엔진의 SSAO 단계를 대체하도록 설계됐으며, 같은 종류의 화면 공간 입력을 사용하고 CPU 개입은 최소화한다. 문서에 명시된 주요 메모리 비용은 32비트 선형 깊이 버퍼가 필요하다는 점이며, 이 버퍼에는 깊이 정보와 함께 법선 정보도 저장할 수 있다. Fenris는 16비트 구성에서 전환할 경우 1080p에서 약 5.3MB, 1440p에서 9.3MB, 2160p에서 21.1MB의 별칭 지정 가능 VRAM이 추가로 필요하다고 추산한다.

MIT 라이선스로 제공되는 구현은 두 가지다. Carbon CORTAO 저장소에는 HLSL 셰이더 헤더가 포함되어 있고 DirectX 11 및 DirectX 12 지원이 명시돼 있다. EVE 우주의 극단적인 깊이 범위를 처리하기 위해 최대 화면 공간 반경을 사용한다. Isheden의 일반 참고용 저장소는 HLSL과 GLSL을 기본 지원하며, DirectX 11, DirectX 12, OpenGL 4.3 이상, Vulkan 1.0 이상에서 테스트했다고 명시한다.

이번 릴리스는 Carbon이 완전히 오픈소스가 되었다는 Fenris의 2026년 7월 1일 발표를 바탕으로 하며, 24개가 넘는 모듈을 아우른다. 해당 릴리스에는 Trinity 그래픽 모듈과 Destiny 물리 시뮬레이션 및 경로 탐색 기술이 포함됐으며, 두 요소는 모두 EVE Online과 EVE Frontier의 기반이 되는 프레임워크의 일부다.

오픈 저장소를 통해 외부 그래픽 팀은 Fenris의 결과가 자체 장면에서도 재현되는지 테스트할 수 있다. 추가 VRAM과 외부 시간 필터링이 필요하다는 점은 문서에 명시된 가장 큰 통합 비용이다. 따라서 전체 렌더링 파이프라인에서 테스트하는 것이 EVE Frontier 외부에서 CORTAO의 유용성을 판단하는 다음 단계다.