OBS 소스 완벽 가이드 - 게임 캡처, 화면 캡처, 창 캡처 차이와 활용

OBS 캡처 방식의 기본 원리

OBS에서 화면을 방송에 내보내려면 '소스(Source)'를 추가해야 합니다. 소스는 카메라로 특정 대상을 촬영하는 것과 비슷합니다. 카메라를 어디에 겨냥하느냐에 따라 촬영 결과가 달라지듯, OBS에서도 어떤 캡처 방식을 선택하느냐에 따라 잡히는 화면과 성능이 달라집니다.

OBS에는 화면을 잡는 세 가지 주요 소스가 있습니다. 게임 캡처(Game Capture), 창 캡처(Window Capture), 화면 캡처(Display Capture). 이름은 비슷해 보이지만 작동 방식이 근본적으로 다릅니다.

게임 캡처는 게임의 그래픽 엔진(DirectX, Vulkan, OpenGL)에 직접 연결해서 렌더링된 프레임을 가져옵니다. 창 캡처는 Windows의 창 관리 시스템을 통해 특정 프로그램 창의 화면을 가져옵니다. 화면 캡처는 모니터에 표시되는 전체 화면을 통째로 캡처합니다.

이 차이가 왜 중요한지, 각 방식을 하나씩 깊게 들여다보겠습니다.

게임 캡처 - 게임 방송의 1순위

게임 캡처(Game Capture)는 게임 방송에서 가장 먼저 시도해야 할 소스입니다. 다른 캡처 방식보다 성능 부하가 적고 화질이 좋은 이유는 작동 원리에 있습니다.

작동 원리
게임은 DirectX나 Vulkan 같은 그래픽 API(Application Programming Interface)를 통해 GPU에서 화면을 렌더링합니다. 게임 캡처는 이 그래픽 API에 후킹(hooking)해서, GPU가 모니터로 보내기 직전의 프레임을 직접 복사합니다. 모니터 화면을 다시 읽어오는 과정(컴포지션)을 거치지 않으므로, CPU 부하가 매우 적고 프레임 지연도 거의 없습니다.

설정 방법

1. OBS의 소스 목록에서 '+' → '게임 캡처'를 선택합니다.
2. 속성 창에서 모드를 선택합니다.
   - '전체 화면 애플리케이션 자동 캡처': 전체 화면으로 실행 중인 게임을 자동으로 잡습니다. 가장 편리하지만, 여러 전체 화면 프로그램이 있으면 원하지 않는 것이 잡힐 수 있습니다.
   - '특정 창 캡처': 드롭다운에서 게임을 직접 선택합니다. 가장 확실한 방법입니다.
3. '커서 캡처' 옵션으로 마우스 커서 표시 여부를 설정합니다.
4. '안티치트 호환성 후킹 사용' 옵션은 Vanguard, EasyAntiCheat 같은 안티치트가 후킹을 차단하는 경우 체크합니다.

장점

• 최소한의 성능 오버헤드. GPU 리소스를 직접 사용하므로 CPU 부하가 거의 없습니다.
• 모니터에 다른 프로그램이 겹쳐져도 게임 화면만 깨끗하게 잡힙니다.
• 전체 화면, 창 모드, 테두리 없는 창 모드 모두 지원합니다.

한계

• 게임이 아닌 일반 프로그램(웹 브라우저, 오피스 등)은 캡처가 안 됩니다.
• 일부 구형 게임이나 에뮬레이터는 그래픽 API 후킹이 안 되는 경우가 있습니다.
• 안티치트가 후킹을 차단하면 검은 화면이 표시됩니다.

창 캡처 - 특정 프로그램만 잡고 싶을 때

창 캡처(Window Capture)는 Windows 운영체제의 창 관리 기능을 이용해서 특정 프로그램의 창 내용을 캡처합니다.

설정 방법

1. 소스 추가 → '창 캡처'를 선택합니다.
2. '창' 드롭다운에서 캡처할 프로그램 창을 선택합니다.
3. '캡처 방법'을 설정합니다.
   - 'Windows Graphics Capture (WGC)': Windows 10 이상에서 권장. 하드웨어 가속을 활용해 효율적입니다.
   - 'BitBlt': 오래된 방식이지만 호환성이 높습니다. WGC가 안 될 때 대안으로 사용합니다.
4. '클라이언트 영역 캡처'를 체크하면 프로그램의 제목 표시줄과 테두리를 제외하고 내용만 잡습니다.

장점

• 게임뿐 아니라 모든 프로그램을 캡처할 수 있습니다. 웹 브라우저, Discord, 엑셀 등.
• 다른 창에 가려져도(Windows Graphics Capture 사용 시) 해당 프로그램의 화면만 잡힙니다.
• 게임 캡처가 안 되는 프로그램의 대안으로 유용합니다.

한계

• 게임 캡처보다 약간 더 많은 시스템 리소스를 사용합니다.
• 일부 프로그램은 DRM이나 보안 정책으로 검은 화면이 표시됩니다(넷플릭스 앱 등).
• 최소화된 프로그램은 캡처가 안 됩니다(WGC 방식 기준).

화면 캡처 - 모니터 전체를 보여줄 때

화면 캡처(Display Capture)는 모니터에 표시되는 모든 것을 그대로 캡처합니다. 마치 모니터 앞에 카메라를 놓고 촬영하는 것과 같습니다.

설정 방법

1. 소스 추가 → '화면 캡처'를 선택합니다.
2. 멀티 모니터 환경이면 캡처할 모니터를 선택합니다.
3. '커서 캡처'로 마우스 커서 표시 여부를 설정합니다.

장점

• 모니터에 보이는 모든 것을 예외 없이 캡처합니다. 프로그램 종류, 게임 엔진, 안티치트 상관없이 무조건 잡힙니다.
• 여러 프로그램을 동시에 보여줘야 하는 튜토리얼, 리뷰 방송에 적합합니다.
• 설정이 가장 간단합니다.

한계

• 모니터의 모든 것이 잡히므로 알림 팝업, 카카오톡 메시지, 개인 정보가 노출될 위험이 있습니다.
• 성능 오버헤드가 세 가지 방식 중 가장 큽니다. 화면 전체를 매 프레임 복사하기 때문입니다.
• 멀티 모니터에서 방송용 모니터에만 표시하고 싶은 것이 아니라 실수로 다른 모니터가 잡히면 곤란합니다.

상황별 캡처 방식 선택 가이드

게임 방송: 게임 캡처를 1순위로 사용하세요. 성능 부하가 가장 적고, 게임 화면만 깨끗하게 잡힙니다. 게임 캡처가 안 되면(검은 화면) 창 캡처를 시도합니다.

브라우저/프로그램 시연: 창 캡처를 사용합니다. 보여주고 싶은 프로그램 창만 캡처할 수 있고, 알림 등이 노출되지 않습니다.

데스크톱 전체 공유(튜토리얼, 코딩 방송): 화면 캡처를 사용합니다. 프로그램 간 전환, 파일 탐색기 사용 등 데스크톱 전체 작업을 보여줘야 하므로 화면 캡처가 적합합니다. 다만 개인 정보 노출에 주의하세요.

레트로 게임/에뮬레이터: 게임 캡처가 안 되는 경우가 많습니다. 창 캡처를 먼저 시도하고, 안 되면 화면 캡처를 사용합니다.

VR 게임: SteamVR 환경에서는 'OpenVR 캡처 소스' 플러그인을 사용하는 것이 가장 효율적입니다. 게임 캡처로도 일부 VR 게임을 잡을 수 있지만, 미러 창이 아닌 실제 VR 화면을 잡으려면 전용 플러그인이 필요합니다.

캡처 안 될 때 해결법

게임 캡처에서 검은 화면이 나올 때

1. OBS를 관리자 권한으로 실행합니다. 게임 캡처의 후킹이 관리자 권한을 요구하는 경우가 있습니다.
2. 게임 캡처 속성에서 '안티치트 호환성 후킹 사용'을 체크합니다.
3. 게임을 전체 화면이 아닌 '테두리 없는 창 모드'로 실행한 뒤 게임 캡처를 다시 시도합니다.
4. 그래픽 설정에서 OBS와 게임이 같은 GPU를 사용하도록 합니다. 노트북에서 내장 그래픽과 외장 그래픽이 혼재할 때 이 문제가 발생합니다. Windows 설정 → 디스플레이 → 그래픽에서 OBS를 고성능(외장 GPU)으로 설정합니다.

창 캡처에서 검은 화면이 나올 때

1. 캡처 방법을 'Windows Graphics Capture'로 변경해봅니다. 또는 반대로 'BitBlt'로 변경합니다.
2. 해당 프로그램이 하드웨어 가속을 사용하는 경우 끄면 캡처가 될 수 있습니다. 크롬 브라우저의 경우 설정 → 시스템 → '사용 가능한 경우 하드웨어 가속 사용'을 끕니다(단, 이러면 브라우저 성능이 저하됩니다).

화면 캡처에서 검은 화면이 나올 때

1. 노트북 사용자라면 OBS의 GPU 할당을 확인합니다. 화면 캡처는 디스플레이를 렌더링하는 GPU와 같은 GPU에서 실행되어야 합니다.
2. OBS를 최신 버전으로 업데이트합니다. Windows 업데이트와의 호환성 문제가 새 OBS 버전에서 수정되는 경우가 많습니다.

캡처 소스는 OBS의 기본 중 기본입니다. 처음 설정할 때 올바른 캡처 방식을 선택해두면 성능과 화질 모두에서 이점을 얻을 수 있습니다.