게임 녹화에서 사람들을 가장 많이 괴롭히는 건 딱 두 가지입니다. 첫째, 녹화 버튼만 누르면 게임 프레임이 뚝 떨어져서(렉) 정작 플레이가 망가지는 문제. 둘째, 분명히 녹화는 됐는데 파일을 열어 보면 화면이 새까맣고 소리만 나는 “검은 화면” 문제. 둘 다 원인이 비교적 명확하고, 순서대로 짚으면 대부분 5~10분 안에 해결됩니다. 이 글에서는 발로란트·배틀그라운드·배틀필드 6 같은 무거운 게임을 기준으로, 렉과 검은 화면을 각각 원인부터 해결까지 단계별로 정리합니다.
먼저 큰 그림만 말하면, 렉은 “인코딩을 CPU가 하느냐 GPU가 하느냐”의 문제이고, 검은 화면은 “녹화 프로그램이 게임 화면을 캡처할 권한·방식이 맞느냐”의 문제입니다. 이 둘만 구분해도 절반은 끝납니다.
문제 1: 녹화만 켜면 프레임이 떨어진다(렉)
녹화를 시작하는 순간 평소 144프레임이 나오던 게임이 90~100프레임으로 주저앉고, 마우스가 끈적해지는 느낌. 이건 거의 100% 인코딩 부하 때문입니다. 화면을 영상 파일로 압축하는 작업(인코딩)을 어디서 처리하느냐에 따라 게임 프레임이 살기도 하고 죽기도 합니다.
원인: 소프트웨어 인코딩(x264)이 CPU를 갉아먹는다
많은 녹화 프로그램이 기본값으로 “소프트웨어 인코딩(x264)”을 씁니다. 이건 CPU로 영상을 압축하는 방식인데, 문제는 게임도 CPU를 쓴다는 점입니다. 게임과 인코딩이 같은 CPU를 두고 싸우니, 화질을 높일수록 게임 프레임이 더 떨어집니다. CPU 사용률을 보면 녹화 시작 순간 80~100%로 치솟는 경우가 많습니다. 배틀필드 6처럼 CPU를 많이 먹는 대규모 전장에서는 이 현상이 특히 심합니다.
해결: 하드웨어 인코딩(NVIDIA NVENC)으로 바꾼다
핵심 해결책은 인코더를 “NVIDIA NVENC”로 바꾸는 것입니다. NVENC는 그래픽카드(GPU) 안에 따로 박혀 있는 인코딩 전용 칩을 써서 영상을 압축합니다. 즉 게임 렌더링과 인코딩이 서로 다른 자원을 쓰기 때문에, CPU가 받던 부담이 거의 사라집니다. 같은 PC에서 x264로는 평균 -20~30프레임이 빠지던 게, NVENC로 바꾸면 손실이 한 자릿수(예: -3~7프레임)로 줄어드는 경우가 흔합니다.
- OBS 기준: 설정 → 출력 → 출력 모드를 “고급”으로 바꾼 뒤, 녹화 탭에서 인코더를 “NVIDIA NVENC H.264”(또는 HEVC)로 선택합니다.
- NVENC 항목이 안 보이면: GeForce Experience 또는 NVIDIA 앱에서 그래픽 드라이버를 최신으로 업데이트하세요. 드라이버가 오래되면 NVENC 옵션 자체가 안 뜨는 경우가 있습니다.
- AMD 그래픽카드라면 “AMD AMF/VCE”, 인텔 내장이면 “QuickSync”가 같은 역할의 하드웨어 인코더입니다.
- 도르(DOR)는 별도로 고를 필요 없이 NVENC 하드웨어 인코딩이 기본값으로 적용되어 있습니다.
해상도·fps·비트레이트를 “과하지 않게” 맞춘다
인코더를 바꿨는데도 버벅인다면 설정값이 과한 경우입니다. 녹화 화질을 무작정 높이면 그만큼 인코딩·저장 부하가 커집니다. 실사용 기준 적정값은 이렇습니다. 일반적인 1080p 게임이면 1920x1080 해상도에 60fps, 비트레이트는 20~30Mbps 정도면 충분합니다. 유튜브 업로드용이 아니라 다시 보기·하이라이트 보관이 목적이라면 40~50Mbps까지 올릴 필요가 없습니다. 비트레이트만 과하게 높이면 화질 체감 차이는 작은데 파일 용량과 디스크 쓰기 부하만 커져서 끊김이 생깁니다.
저사양 노트북이면 720p·30fps부터
게이밍 노트북이거나 그래픽카드가 다소 낮은 PC라면, 처음부터 욕심을 버리고 1280x720 해상도에 30fps로 시작하는 걸 권합니다. 720p·30fps는 인코딩 부하가 1080p·60fps의 약 4분의 1 수준이라, 같은 PC에서도 인게임 프레임 손해가 훨씬 작습니다. 화질이 부족하다 싶으면 그때 1080p로 올려 보면 됩니다. 처음부터 최고 설정으로 시작해서 “녹화는 원래 렉 걸리는 것”이라고 오해하는 분이 많습니다.
문제 2: 녹화 영상이 검은 화면으로 저장된다
녹화는 분명히 됐고 시간도 정상인데, 파일을 열면 화면 전체가 새까맣고 소리만 나오는 경우입니다. 이건 렉과 원인이 완전히 다릅니다. 성능 문제가 아니라, 녹화 프로그램이 게임 화면을 “캡처하지 못한” 권한·방식의 문제입니다. 아래 순서대로 점검하면 대부분 잡힙니다.
1순위: 전체화면(Exclusive Fullscreen)을 “테두리 없는 창”으로
검은 화면의 가장 흔한 원인입니다. 게임의 화면 모드가 “전체화면(Exclusive Fullscreen)”으로 되어 있으면, 게임이 GPU 출력 경로를 독점해서 녹화 프로그램이 그 화면에 끼어들지 못합니다. 그래서 캡처 결과가 검게 나옵니다. 해결은 간단합니다. 게임 내 설정 → 그래픽(디스플레이)에서 화면 모드를 “테두리 없는 창 모드(Borderless / Windowed Fullscreen)”로 바꾸세요. 보기에는 전체화면과 거의 똑같지만, 내부적으로는 창 모드라 녹화 프로그램이 정상적으로 화면을 잡습니다. 발로란트·배틀그라운드 모두 그래픽 설정에 이 옵션이 있습니다.
2순위: 녹화 프로그램을 “관리자 권한”으로 실행
게임이 관리자 권한으로 돌고 녹화 프로그램은 일반 권한이면, 권한 차이 때문에 녹화 프로그램이 게임 화면에 접근하지 못해 검은 화면이 됩니다. 특히 안티치트가 붙은 발로란트·배틀그라운드 같은 게임에서 흔합니다. 녹화 프로그램 실행 파일(.exe)을 마우스 오른쪽 → “관리자 권한으로 실행”으로 켜 보세요. 매번 그렇게 하기 번거로우면, 실행 파일 → 속성 → 호환성 탭 → “관리자 권한으로 이 프로그램 실행”에 체크해 두면 됩니다.
3순위: 그래픽 드라이버 업데이트
드라이버가 오래되면 화면 캡처 API가 제대로 동작하지 않아 검은 화면이나 깜빡임이 생깁니다. NVIDIA는 GeForce Experience 또는 NVIDIA 앱, AMD는 Adrenalin에서 최신 드라이버로 업데이트하세요. 업데이트 후에는 PC를 한 번 재부팅해 주는 게 좋습니다. 드라이버 업데이트만으로 렉과 검은 화면이 동시에 해결되는 경우도 적지 않습니다.
4순위: 노트북이면 외장 GPU(고성능)로 지정
게이밍 노트북은 내장 그래픽(인텔/AMD)과 외장 그래픽(NVIDIA)이 같이 들어 있는데, 게임은 외장 GPU로 도는데 녹화 프로그램이 내장 GPU로 잡히면 서로 다른 화면을 보게 되어 검은 화면이 납니다. Windows 설정 → 시스템 → 디스플레이 → 그래픽(그래픽 설정)에서 녹화 프로그램을 추가하고, 옵션을 “고성능(NVIDIA GPU)”으로 지정하세요. 게임과 녹화 프로그램이 같은 GPU를 쓰게 맞추는 게 핵심입니다.
소리는 나오는데 화면만 검은 경우
오디오는 정상이고 영상만 검다면, 위 순서 중 거의 항상 1순위(전체화면→테두리 없는 창)나 2순위(관리자 권한)에서 잡힙니다. 소리가 녹음됐다는 건 녹화 프로그램 자체는 잘 돌아갔다는 뜻이고, 화면 “캡처 경로”만 막혔다는 신호이기 때문입니다. 게임 캡처 방식을 쓰는 프로그램이라면 “디스플레이(모니터) 캡처”로 바꿔 보는 것도 빠른 우회법입니다.
문제를 처음부터 줄이는 법: 도르(DOR)
위 과정을 매번 손으로 맞추는 게 번거롭다면, 설정 부담을 줄여 주는 쪽을 쓰는 것도 방법입니다. 도르(DOR)는 무료 게임 녹화 프로그램인데, 이 글에서 다룬 두 문제를 구조적으로 줄이도록 설계돼 있습니다. 우선 NVENC 하드웨어 인코딩이 기본값이라, 사용자가 인코더를 직접 NVENC로 바꿀 필요 없이 처음부터 렉이 적게 녹화됩니다.
또한 도르는 발로란트·배틀그라운드·배틀필드 6 같은 지원 게임을 자동으로 감지해 백그라운드에서 녹화하고, 킬·에이스·하이라이트 같은 주요 순간만 자동으로 잘라 클립으로 저장합니다. “녹화 켜는 걸 깜빡해서 명장면을 놓치는” 문제도, “긴 원본을 돌려 보며 직접 자르는” 수고도 함께 사라집니다. 검은 화면이 의심되면 게임을 테두리 없는 창 모드로 바꾸고 도르를 관리자 권한으로 한 번만 실행해 두면, 이후에는 신경 쓸 일이 거의 없습니다.
정리: 막히면 이 순서대로
- 렉(프레임 드랍)이면: ① 인코더를 NVENC로 → ② fps 60→30 → ③ 해상도 1080p→720p → ④ 비트레이트 20Mbps 안쪽으로.
- 검은 화면이면: ① 전체화면→테두리 없는 창 → ② 관리자 권한 실행 → ③ 그래픽 드라이버 업데이트 → ④ (노트북) 외장 GPU로 지정.
- 소리는 나는데 화면만 검으면: 위 검은 화면 ①·② 두 가지만 먼저 확인.
- 매번 맞추기 번거로우면: NVENC 기본·자동 클립인 도르(DOR)로 시작.
본인이 자주 하는 게임 페이지에서 권장 녹화 설정과 자동 클립 예시를 확인해 보세요, 발로란트, 배틀그라운드, 배틀필드 6.
