게임 캡처 안 될 때 해결법 - OBS 게임 캡처 트러블슈팅

게임 캡처가 실패하는 원인 분석

OBS의 게임 캡처는 가장 효율적인 화면 캡처 방식이지만, 동시에 가장 많은 문제가 발생하는 기능이기도 합니다. 게임 캡처가 실패하면 화면이 아예 잡히지 않거나, 검은 화면만 표시됩니다. 문제를 해결하려면 먼저 원인을 정확히 파악해야 합니다.

게임 캡처의 작동 원리를 이해하면 문제 파악이 쉬워집니다. 게임 캡처는 대상 프로그램의 렌더링 프로세스에 직접 후킹(hooking)하여 GPU에서 렌더링된 프레임을 가로채는 방식입니다. 이 후킹 과정이 실패하면 캡처가 되지 않습니다. 후킹이 실패하는 이유는 안티치트 차단, 권한 부족, API 불일치, 프로세스 보호 등 다양합니다.

관리자 권한 문제는 가장 흔한 원인입니다. 게임이 관리자 권한으로 실행되고 있는데 OBS가 일반 사용자 권한으로 실행되면 후킹이 차단됩니다. 특히 안티치트가 포함된 게임들은 관리자 권한으로 실행되는 경우가 많습니다.

그래픽 API 불일치도 원인이 됩니다. OBS 게임 캡처는 DirectX 9, 10, 11, 12, OpenGL, Vulkan을 지원하지만, 특정 API에서 캡처가 작동하지 않는 버그가 있을 수 있습니다. 특히 DirectX 12 게임에서 캡처 문제가 간헐적으로 보고됩니다.

호환 모드나 특수 실행 환경에서도 문제가 발생합니다. 게임이 Windows 호환 모드로 실행되거나, 특수한 런처를 통해 실행되는 경우 OBS가 대상 프로세스를 찾지 못할 수 있습니다. Steam, Epic Games, Battle.net 등 런처를 통해 실행되는 게임은 런처 프로세스와 실제 게임 프로세스가 다를 수 있습니다.

다른 캡처/오버레이 프로그램과의 충돌도 빈번한 원인입니다. Discord 오버레이, GeForce Experience의 ShadowPlay, AMD ReLive, Fraps, Bandicam 등이 동시에 게임에 후킹하면 OBS의 게임 캡처와 충돌합니다.

OBS 게임 캡처 기본 설정 점검

게임 캡처 문제를 해결하기 위한 기본 점검 사항을 단계별로 살펴보겠습니다. 대부분의 문제는 이 기본 점검만으로도 해결할 수 있습니다.

1단계: OBS를 관리자 권한으로 실행합니다. OBS 바로가기를 마우스 우클릭하고 '관리자 권한으로 실행'을 선택합니다. 항상 관리자 권한으로 실행하려면 속성 > 호환성 탭에서 '관리자 권한으로 이 프로그램 실행'을 체크하세요.

2단계: 게임을 먼저 실행합니다. 게임 캡처는 이미 실행 중인 게임 프로세스에 후킹하는 방식이므로, 게임이 실행된 상태에서 캡처 소스를 설정해야 합니다. 게임을 실행하고 잠시 대기한 후 OBS에서 게임 캡처 소스를 추가하세요.

3단계: 캡처 모드 확인합니다. 게임 캡처 소스의 속성에서 모드를 확인하세요. '전체화면 응용 프로그램 캡처'는 전체화면 게임에서만 작동합니다. 창 모드 게임이라면 '특정 창 캡처'를 선택하고 목록에서 게임 창을 선택하세요. '모든 전체화면 응용 프로그램 캡처'는 가장 호환성이 좋지만, 의도하지 않은 프로그램이 캡처될 수 있습니다.

4단계: 호환성 옵션 체크합니다. 게임 캡처 속성에서 'SLI/크로스파이어 캡처 모드(느림)' 옵션을 체크하면 일부 호환성 문제가 해결됩니다. 이 옵션은 성능이 약간 떨어지지만 더 많은 게임과 호환됩니다. 또한 '투명도 허용'도 체크해 보세요.

5단계: 캡처 소스 재생성합니다. 기존 게임 캡처 소스를 삭제하고 새로 추가합니다. 설정이 꼬인 경우 소스를 새로 만드는 것이 가장 빠른 해결법입니다. 소스를 추가할 때 '새로 만들기'를 선택하세요.

6단계: OBS 및 드라이버 업데이트를 확인합니다. OBS와 그래픽 드라이버를 모두 최신 버전으로 업데이트하세요. 특히 새로 출시된 게임은 최신 OBS 및 드라이버에서 호환성이 개선되는 경우가 많습니다.

안티치트 게임 캡처 해결법

최근 많은 온라인 게임들이 안티치트(Anti-Cheat) 프로그램을 탑재하고 있으며, 이 안티치트가 OBS의 게임 캡처를 차단하는 경우가 늘고 있습니다. 주요 안티치트별 대처법을 알아보겠습니다.

Vanguard(발로란트)는 라이엇 게임즈의 커널 레벨 안티치트로, 매우 강력한 보호를 적용합니다. Vanguard는 OBS의 게임 캡처 후킹을 차단할 수 있습니다. 해결 방법은 게임 캡처 대신 '윈도우 캡처'를 사용하는 것입니다. 발로란트를 전체 창 모드(Borderless Windowed)로 실행하고, OBS에서 윈도우 캡처로 해당 창을 캡처하세요. Windows Graphics Capture 방식을 사용하면 성능 부하도 크지 않습니다.

EasyAntiCheat(포트나이트, Apex 레전드 등)도 게임 캡처를 간섭할 수 있습니다. OBS를 관리자 권한으로 실행하면 대부분 해결되지만, 안 되는 경우 윈도우 캡처나 디스플레이 캡처를 대안으로 사용하세요.

BattlEye(PUBG, 레인보우 식스 시즈 등)는 게임 캡처에 비교적 관대한 편이지만, 간혹 OBS 업데이트 후 호환성 문제가 발생할 수 있습니다. 이 경우 OBS를 이전 안정 버전으로 롤백하거나, 게임의 안티치트 파일을 복구(게임 런처에서 파일 무결성 검사)하면 해결되는 경우가 있습니다.

범용 해결책으로 '전체 창 모드 + 윈도우 캡처' 조합을 추천합니다. 대부분의 안티치트는 윈도우 캡처 방식은 차단하지 않으므로, 게임을 전체 창 모드로 실행하고 OBS에서 윈도우 캡처를 사용하면 거의 모든 게임에서 안정적으로 캡처할 수 있습니다. 성능 차이도 게임 캡처와 비교하여 미미합니다.

API별 캡처 문제와 대안

게임이 사용하는 그래픽 API에 따라 캡처 호환성이 달라집니다. 각 API별 특성과 문제 해결법을 살펴보겠습니다.

DirectX 11은 가장 보편적인 게임 그래픽 API로, OBS 게임 캡처와의 호환성이 가장 좋습니다. DX11 게임에서 캡처가 안 된다면 앞서 설명한 기본 점검 사항(관리자 권한, 소스 재생성 등)으로 대부분 해결됩니다.

DirectX 12는 차세대 API로 점점 많은 게임에서 채택하고 있습니다. DX12 게임에서 캡처 문제가 발생하면 게임 설정에서 DX11 모드로 전환해 보세요. 많은 게임이 DX11과 DX12를 선택할 수 있는 옵션을 제공합니다. OBS도 DX12 캡처 지원을 지속적으로 개선하고 있으므로 최신 버전을 사용하는 것이 중요합니다.

Vulkan은 DirectX와 다른 렌더링 파이프라인을 사용하므로 캡처 방식도 다릅니다. OBS 게임 캡처 속성에서 'Vulkan/OpenGL 캡처 허용' 옵션이 체크되어 있는지 확인하세요. Vulkan 게임이 캡처되지 않으면 게임 설정에서 DirectX 모드로 전환하거나, 윈도우 캡처를 사용하세요.

OpenGL은 주로 마인크래프트, 일부 에뮬레이터 게임에서 사용됩니다. OpenGL 캡처는 게임 캡처에서 지원되지만, 게임이 전체화면 모드가 아닌 경우 캡처가 안 될 수 있습니다. 마인크래프트의 경우 OptiFine이나 Sodium 같은 최적화 모드를 사용하면서 전체 창 모드로 실행하면 윈도우 캡처로도 원활하게 캡처할 수 있습니다.

게임별 캡처 설정 추천

인기 게임별로 검증된 캡처 설정을 안내합니다. 이 설정들은 실제 많은 스트리머들이 사용하면서 안정성이 확인된 것입니다.

리그 오브 레전드는 게임 캡처와 잘 호환됩니다. 게임을 전체 창 모드로 실행하고 게임 캡처를 사용하면 됩니다. 챔피언 선택 화면은 별도의 프로세스이므로 따로 캡처 소스를 추가하거나, 디스플레이 캡처를 씬에 추가해 두면 편합니다.

발로란트는 앞서 언급한 대로 Vanguard 안티치트가 있어 게임 캡처가 안 될 수 있습니다. 전체 창 모드 + 윈도우 캡처가 가장 안정적인 조합입니다. 발로란트는 입력 지연이 중요한 FPS 게임이므로, 게임 내에서 프레임 제한을 걸어 GPU에 여유를 두세요.

마인크래프트는 Java 버전과 Bedrock 버전에서 캡처 방법이 다릅니다. Java 버전은 OpenGL을 사용하므로 게임 캡처에서 'OpenGL 캡처 허용'을 체크하세요. Bedrock 버전은 DX12를 사용하며 UWP 앱이므로 게임 캡처보다 윈도우 캡처가 더 안정적입니다.

스팀 게임 전반에서 게임 캡처가 안 되는 경우, Steam 오버레이가 원인일 수 있습니다. Steam 설정 > 게임 중 > 'Steam 오버레이 사용'을 비활성화하고 테스트해 보세요. 또한 Steam을 관리자 권한으로 실행하면 일부 게임의 캡처 문제가 해결됩니다.

에뮬레이터 게임(RetroArch, Dolphin 등)은 내부적으로 별도의 렌더링 창을 사용하므로 게임 캡처가 안 되는 경우가 있습니다. 이 경우 윈도우 캡처에서 에뮬레이터의 렌더링 창을 직접 선택하면 됩니다. 에뮬레이터의 렌더링 백엔드를 OpenGL에서 Vulkan 또는 DirectX로 변경하면 게임 캡처와의 호환성이 개선되기도 합니다.