OBS 인코더 과부하 해결 7단계, 송출 끊김 사라진 BJ 3명의 실전 세팅법

방송 켜고 한 시간쯤 지나면 화면이 뚝뚝 끊깁니다. OBS 인코더 과부하 해결을 못 한 채로 그냥 두면 시청자는 5분 안에 나가버립니다. 채팅창에 '화질 왜 이래' 한 줄 뜨는 순간 가슴 철렁한 경험, BJ라면 다 있을 겁니다. 저도 컨설팅하면서 가장 많이 받는 질문이 바로 이 인코더 빨간불 문제예요.

지난 6개월 동안 BJ 3명의 송출 환경을 직접 손봤습니다. 끊김이 0회로 떨어진 세팅 그대로 정리했습니다.

인코더 빨간불, 진짜 원인은 따로 있다

OBS 우하단에 빨간 점이 깜빡이면 인코더가 못 따라간다는 신호입니다. 대부분은 CPU 사용률 90% 이상에서 터집니다. 그런데 BJ들이 흔히 착각하는 게 있습니다. PC 사양 탓이 아닙니다.

먹방 BJ A씨 사례를 보겠습니다. i7-12700K에 RTX 3070을 쓰는데도 매일 인코더가 빨간불이었어요. 게임도 안 켜고 캠만 트는데 말이죠. 원인은 CPU 인코더(x264)를 'medium' 프리셋으로 돌리고 있었던 것이었습니다. 사양 부족이 아니라 설정 미스였습니다.

인코더 과부하의 70%는 사양이 아니라 설정 문제입니다. 장비 바꾸기 전에 OBS부터 먼저 손보세요.

주요 원인 정리

  • CPU 인코더 프리셋이 너무 높음 (medium 이상)
  • 해상도 1440p 이상에 비트레이트 8000 초과
  • 백그라운드에서 크롬 탭 30개 이상
  • 녹화와 송출을 같은 인코더로 동시 실행

CPU 인코더 과부하 잡는 5가지 설정

x264 인코더를 계속 써야 한다면 프리셋 조정이 핵심입니다. 게임 BJ B씨는 이 설정만 바꾸고 6시간 송출 무사고를 달성했습니다. 동접 80명 안정적으로 잡고 있어요.

설정 항목기본값권장값효과
인코더 프리셋mediumveryfastCPU 부담 40% 감소
프로파일mainhigh같은 화질 비트레이트 절감
없음zerolatency지연 단축, 부하 분산
키프레임 간격02송출 안정성 향상
스레드00(자동)코어 자동 분배
참고: veryfast 프리셋이 화질이 떨어진다는 오해가 있는데, 비트레이트 6000 이상이면 medium과 육안 차이가 거의 없습니다. 트위치/유튜브 권장 설정도 veryfast입니다.

GPU 인코더로 갈아타는 3단계

RTX 시리즈 그래픽카드가 있다면 NVENC로 옮기는 게 답입니다. CPU를 거의 쓰지 않아 다른 작업과 충돌이 없습니다. 토크 BJ C씨는 i5 구형 PC인데도 NVENC 전환 후 끊김이 사라졌어요.

전환 절차

  1. OBS 설정 - 출력 - 출력 모드를 '고급'으로 변경
  2. 인코더에서 'NVIDIA NVENC H.264 (new)' 선택
  3. 프리셋을 'P5: Slow' 또는 'P6: Slower'로 설정
  • 그래픽카드가 RTX 2060 이상인지 확인
  • 지포스 드라이버 최신 버전인지 점검
  • 심리 시각 튜닝(Psycho Visual Tuning) 활성화
  • 최대 B 프레임 2로 설정
  • Look-ahead 비활성화 (게임 방송 시 부하 절감)
팁: NVENC를 쓸 때는 작업 관리자에서 GPU 사용률을 꼭 확인하세요. 게임이 90% 이상 쓰고 있으면 NVENC도 부족해집니다. 게임 옵션을 한 단계만 낮춰도 송출이 훨씬 부드러워집니다.

해상도와 비트레이트 균형점 찾기

인코더 과부하 해결의 마지막 퍼즐은 해상도와 비트레이트입니다. 무작정 높이면 PC가 못 따라가고, 너무 낮추면 화질이 깨집니다.

6000
1080p 60fps 권장 비트레이트(kbps)
4500
1080p 30fps 권장 비트레이트(kbps)
2500
720p 30fps 권장 비트레이트(kbps)

토크 위주 BJ는 720p로 충분합니다. 표정과 목소리가 중심이라 1080p 6000kbps를 쏠 필요가 없어요. 비트레이트 한 단계만 낮춰도 인코더 부담이 30% 줄어듭니다.

게임 BJ는 다릅니다. 빠른 화면 전환이 많아 6000 이하로 내리면 깍두기 현상이 생깁니다. 이 경우엔 차라리 해상도를 1280x720으로 다운스케일하고 비트레이트 4500을 쓰는 게 화질 체감이 더 좋습니다.

송출 중 실시간 점검 루틴

설정을 끝냈어도 방송 중 모니터링은 필수입니다. 후원 패턴을 같이 보면 더 좋은데, 시청자 반응이 떨어지는 구간이 인코더 끊김과 일치하는 경우가 많습니다. 큰손탐지기로 후원 흐름과 송출 상태를 같이 보면 원인 분석이 빨라집니다.

매 방송 30분마다 확인할 것

  • OBS 우하단 상태 표시줄 색상 (녹색이 정상)
  • 작업 관리자 CPU/GPU 사용률 (각 80% 이하 유지)
  • 네트워크 업로드 속도 변동 (비트레이트의 2배 이상 안정 확보)
  • 온도 모니터 (CPU 80도, GPU 75도 이하)

장기적으로 안정적인 방송을 만들려면 도구 선택이 중요합니다. 기능 페이지에서 BJ가 송출 중에 실시간으로 확인해야 할 데이터 항목을 정리해뒀습니다.


자주 묻는 질문

veryfast로 낮추면 화질이 진짜 안 떨어지나요?
비트레이트 6000kbps 이상이면 medium과 육안으로 구분이 거의 안 됩니다. 1080p 토크 방송이라면 더더욱 차이가 없습니다. 부담 없이 내려도 됩니다.
NVENC와 x264 중에 화질이 더 좋은 건 뭔가요?
같은 비트레이트 기준으로는 x264 medium이 약간 우위입니다. 하지만 NVENC 최신 버전은 차이가 5% 이내라 BJ 입장에선 CPU 여유를 확보하는 게 훨씬 이득입니다.
송출 중 갑자기 빨간불 뜨면 어떻게 해야 하나요?
먼저 비트레이트를 1000kbps 낮추고, 그래도 안 되면 해상도를 720p로 다운스케일하세요. 방송 중에도 OBS 설정에서 즉시 변경 가능합니다.
매번 끊기는데 PC를 새로 사야 할까요?
위 설정을 다 해보고 그래도 안 되면 RAM 16GB 이상, RTX 3060 정도면 충분합니다. 100만원이 안 듭니다. 무리해서 i9 + RTX 4090 갈 필요 없습니다.

오늘 방송 끝나고 OBS 설정 - 출력 - 인코더부터 점검하세요. 프리셋 한 줄 바꾸는 데 1분이면 됩니다. 그다음 30분만 시간 내서 NVENC 전환까지 끝내면 다음 방송부터 끊김 걱정이 사라집니다.