OBS 방송 렉 프레임 드롭 해결 방법 - 인코딩 과부하 원인과 CPU GPU 최적화 설정 완벽 가이드

OBS 렉의 3가지 종류와 원인 파악하는 방법

OBS로 방송을 하다 보면 화면이 뚝뚝 끊기거나, 시청자에게 렉이 걸린다는 이야기를 듣게 됩니다. 이때 무작정 설정을 바꾸기보다 먼저 어떤 종류의 렉인지 파악하는 것이 중요합니다.

OBS 하단 상태 표시줄을 보면 세 가지 수치가 표시됩니다.

• 렌더링 렉: GPU가 화면을 제때 그리지 못하는 현상. OBS 하단에 "렌더링 지연으로 인해 누락된 프레임"으로 표시됩니다.
• 인코딩 렉: CPU 또는 GPU 인코더가 영상을 제때 압축하지 못하는 현상. "인코딩 과부하로 인해 건너뛴 프레임"으로 표시됩니다.
• 네트워크 렉: 인터넷 업로드 속도 부족으로 데이터가 밀리는 현상. "네트워크 문제로 인해 드롭된 프레임"으로 표시됩니다.

OBS 메뉴에서 [보기] - [통계]를 클릭하면 더 상세한 수치를 실시간으로 모니터링할 수 있습니다. 렉이 발생할 때 어떤 수치가 올라가는지 확인한 뒤, 해당 영역의 최적화를 진행하세요.

프레임 드롭(렌더링 렉) 해결 방법

렌더링 렉은 GPU가 과부하 상태일 때 발생합니다. 게임을 하면서 동시에 방송 화면을 렌더링해야 하니 GPU에 부담이 큽니다.

1단계: OBS를 관리자 권한으로 실행

OBS 아이콘을 우클릭하고 "관리자 권한으로 실행"을 선택하세요. 시스템 리소스 우선순위가 높아져 프레임 드롭이 줄어듭니다. 매번 수동으로 하기 번거롭다면 속성의 호환성 탭에서 "관리자 권한으로 이 프로그램 실행"을 체크하면 됩니다.

2단계: 출력 해상도 낮추기

[설정] - [영상] 탭에서 "출력(조정된) 해상도"를 1280x720으로 설정하세요. 기본 캔버스 해상도는 모니터 해상도와 동일하게 두되, 출력 해상도만 낮추면 화질 저하를 최소화하면서 부하를 줄일 수 있습니다. 1080p에서 720p로 낮추는 것만으로도 렌더링 부하가 약 40% 감소합니다.

3단계: 프레임 레이트 조정

60fps로 설정되어 있다면 30fps로 낮춰보세요. 게임 방송이 아닌 토크 방송이라면 30fps로도 충분합니다. 프레임 레이트를 절반으로 줄이면 인코딩 부하도 함께 감소합니다.

4단계: 게임 내 프레임 제한

게임의 그래픽 설정에서 프레임을 60~144fps로 제한하세요. 프레임 제한 없이 게임을 실행하면 GPU 사용률이 100%에 도달하여 OBS가 사용할 여유 공간이 없어집니다.

인코딩 과부하 해결 - x264 vs NVENC 전환

OBS 하단에 "인코딩 과부하!"라는 빨간 경고가 나타나면 인코딩 관련 문제입니다. 대부분 CPU 인코더(x264)를 사용할 때 발생합니다.

x264 사용 시 최적화

x264 인코더를 사용 중이라면 [설정] - [출력] - [스트리밍] 탭에서 CPU 프리셋을 확인하세요.

• ultrafast: CPU 부하 최소, 화질 가장 낮음
• veryfast: 부하와 화질의 균형 - 대부분의 BJ에게 추천
• faster/fast: 화질 개선되지만 CPU 부하 상당
• medium 이하: 고사양 PC가 아니면 방송 불가 수준의 부하

프리셋을 "veryfast"로 변경하는 것만으로도 인코딩 과부하가 해결되는 경우가 많습니다.

NVENC로 전환하기

가장 확실한 해결법은 CPU 인코딩에서 GPU 하드웨어 인코딩(NVENC)으로 전환하는 것입니다. NVIDIA 그래픽카드(GTX 600 이상)를 사용하고 있다면 NVENC를 쓸 수 있습니다. [설정] - [출력] - [스트리밍]에서 인코더를 "NVIDIA NVENC H.264"로 변경하세요. CPU 부하가 거의 0%로 떨어집니다.

GPU 하드웨어 인코딩(NVENC, AMF) 최적 설정

NVIDIA NVENC 권장 설정

• 인코더: NVIDIA NVENC H.264
• 레이트 컨트롤: CBR (안정적인 비트레이트 유지)
• 비트레이트: 720p 기준 2,500~3,500 Kbps / 1080p 기준 4,500~6,000 Kbps
• 프리셋: Quality (GPU 여유가 있으면 Max Quality)
• 프로필: high
• B-프레임: 2 (RTX 20 시리즈 이상에서만 지원)

AMD AMF 사용자

AMD RX 시리즈 그래픽카드를 사용하고 있다면 인코더를 "H264/AVC Encoder(AMD Advanced Media Framework)"로 선택하세요. 프리셋은 "Quality"로 설정하고 비트레이트는 NVENC와 동일하게 설정하면 됩니다.

Intel QuickSync 사용자

별도 그래픽카드가 없어도 Intel 6세대(Skylake) 이상 CPU라면 QuickSync 인코더를 사용할 수 있습니다. 전용 GPU 인코더보다 화질은 다소 떨어지지만 x264보다 CPU 부하가 훨씬 적습니다.

네트워크 렉 해결 - 업로드 속도와 비트레이트

OBS 하단에 네트워크 드롭 프레임이 표시되거나 방송이 간헐적으로 끊기면 네트워크 문제입니다.

업로드 속도 확인

speedtest.net에서 업로드 속도를 측정하세요. 안정적인 방송을 위해서는 설정한 비트레이트의 최소 1.5배 이상의 업로드 속도가 필요합니다. 비트레이트가 4,500 Kbps라면 최소 6.75 Mbps 이상이어야 합니다.

비트레이트 조정

업로드 속도가 부족하면 비트레이트를 낮추세요. 업로드 속도의 50~70% 수준이 적당합니다. 720p 30fps 기준 2,500~3,500 Kbps면 충분한 화질을 확보할 수 있습니다.

유선 연결 전환

Wi-Fi로 방송하고 있다면 유선 연결(LAN 케이블)로 전환하는 것만으로도 네트워크 안정성이 크게 개선됩니다. Wi-Fi는 간섭과 속도 변동이 잦아 방송에 적합하지 않습니다.

서버 변경

방송 플랫폼에서 제공하는 여러 송출 서버 중 지연 시간(ping)이 가장 낮은 서버를 선택하세요. 트래픽이 몰리는 시간대에는 다른 서버가 더 안정적일 수 있습니다.

추가 최적화 팁 - 백그라운드 프로그램과 드라이버

불필요한 프로그램 종료

작업 관리자(Ctrl+Shift+Esc)에서 CPU와 메모리를 많이 쓰는 프로그램을 확인하세요. 크롬 탭 여러 개, 클라우드 동기화, 백신 실시간 검사 등이 대표적입니다. 방송 중에는 꼭 필요한 프로그램만 실행하세요.

크롬, 디스코드 하드웨어 가속 끄기

크롬과 디스코드의 하드웨어 가속이 켜져 있으면 GPU 리소스를 공유합니다. 방송 중에는 이 기능을 끄면 GPU 여유 공간을 확보할 수 있습니다.

• 크롬: [설정] - [시스템] - "가능한 경우 하드웨어 가속 사용" 해제
• 디스코드: [설정] - [고급] - "하드웨어 가속" 해제

그래픽 드라이버 업데이트

드라이버가 오래되면 인코딩 성능에 영향을 줄 수 있습니다. NVIDIA는 GeForce Experience에서, AMD는 Radeon Software에서 최신 드라이버로 업데이트하세요. 업데이트 후 반드시 방송 테스트를 진행해야 합니다.

Windows 전원 옵션

[제어판] - [전원 옵션]에서 "고성능" 모드로 변경하세요. 기본 "균형 조정" 모드에서는 CPU가 전력 절약을 위해 클럭을 낮추는 경우가 있어 방송 성능에 영향을 줍니다.

OBS 로그 분석

위 방법으로도 해결이 안 된다면 OBS의 로그 분석 기능을 활용하세요. [도움말] - [로그 파일] - [현재 로그 파일 업로드]를 클릭하면 자동으로 분석 결과를 받을 수 있습니다. 전문 지식 없이도 현재 설정의 문제점을 진단받을 수 있어 매우 유용합니다.

자주 묻는 질문

Q. x264와 NVENC 중 어떤 인코더가 더 좋은가요?

게임 방송이라면 NVENC를 강력히 추천합니다. CPU 부하가 거의 없어서 게임 성능에 영향을 주지 않습니다. RTX 20 시리즈 이상의 NVENC는 x264 medium 프리셋에 근접하는 화질을 제공합니다.

Q. 비트레이트를 높이면 화질이 무한정 좋아지나요?

아닙니다. 해상도와 프레임에 맞는 적정 범위가 있습니다. 720p 30fps는 2,500~3,500 Kbps, 1080p 60fps는 4,500~6,000 Kbps가 적정입니다. 그 이상 올려도 체감 차이는 미미합니다.

Q. 방송과 게임을 동시에 하면 항상 렉이 걸리나요?

PC 사양에 따라 다릅니다. NVENC 인코더를 사용하면 게임 성능 저하 없이 방송이 가능합니다. CPU 인코딩(x264)은 게임과 리소스를 공유하므로 렉이 발생할 확률이 높습니다. 예산이 된다면 게임용 PC와 송출용 PC를 분리하는 듀얼 PC 환경이 가장 확실한 해결책입니다.