OBS 공식 문서는 로컬 녹화용 하드웨어 인코더의 품질 순서를 AV1 > HEVC > H.264로 안내하지만, 실제로 고를 수 있는 것은 내 환경 목록에 나타나는 항목뿐이고 재생·편집·업로드 대상이 그 코덱을 열 수 있어야 의미가 있습니다. 그래서 답은 'AV1이 목록에 있고 쓰는 곳도 받아 준다면 AV1, 없으면 HEVC, 호환성이 최우선이면 H.264'이며, AV1이 안 보일 때 가장 먼저 볼 것은 GPU 세대와 드라이버입니다. 이 글은 2026년 9월 30일 확인 기준으로 OBS 공식 다운로드 페이지에 안정 버전으로 표기된 OBS Studio 32.2.2 화면을 따랐고 코덱 선택만 다룹니다. 비트레이트 등 출력 설정 전체는 OBS 게임 녹화 설정에서 확인할 수 있습니다.
코덱별 비교표 (OBS 표기 기준)
| OBS 표기 | 무엇이고 언제 쓰나 | 근거 |
|---|---|---|
| H.264(AVC): 하드웨어 (NVENC, H.264) / 하드웨어 (AMD, H.264) / 하드웨어 (QSV, H.264) / 소프트웨어 (x264) | OBS 기본 코덱입니다. 거의 모든 기기와 소프트웨어에서 재생되고 편집 소프트웨어 지원이 'Excellent'로 표기됩니다. 호환성이 최우선일 때 씁니다. | OBS Audio/Video Formats Guide(2023년 3월 26일자) |
| HEVC(H.265): 하드웨어 (NVENC, HEVC) / 하드웨어 (AMD, HEVC) / 고급 모드의 QuickSync HEVC | 같은 비트레이트·파일 크기에서 H.264보다 화질이 낫다고 안내되며 OBS에서는 하드웨어 인코더로만 지원됩니다. 편집 지원은 'Good'입니다. AV1을 못 쓰는 GPU에서 H.264보다 화질을 올리고 싶을 때 씁니다. | OBS Audio/Video Formats Guide(2023년 3월 26일자) |
| AV1: 하드웨어 (NVENC, AV1) / 하드웨어 (AMD, AV1) / 하드웨어 (QSV, AV1) | OBS가 지원하는 가장 새로운 코덱으로 HEVC보다 화질과 파일 크기가 개선된다고 안내됩니다. 지원 GPU가 필요하고, 편집 소프트웨어 지원은 2023년 문서에서 'Not well supported in editing software yet'로 적혀 있습니다. | OBS 같은 문서와 NVIDIA·AMD·Intel 공식 자료 |
| AV1 소프트웨어: SVT-AV1 / AOM AV1(고급 모드) | GPU 없이도 쓸 수 있지만 실시간 압축에는 고사양 CPU가 필요하다고 안내됩니다. 하드웨어 인코더는 CPU 부담을 GPU 전용 회로로 넘기기 때문에 일반적으로 권장됩니다. | OBS Audio/Video Formats Guide, Hardware Encoding 문서 |
먼저 결론부터
내 GPU와 영상을 쓸 곳이 모두 받아 주는 코덱 중 가장 새로운 것을 고르는 것이 기본 원칙입니다. OBS 문서는 H.264를 OBS 기본 코덱이자 거의 모든 기기와 소프트웨어에서 재생되는 형식으로, HEVC를 같은 비트레이트와 파일 크기에서 더 나은 화질을 주지만 OBS에서는 하드웨어 인코더로만 지원되는 형식으로, AV1을 OBS가 지원하는 가장 새로운 코덱이자 HEVC보다 화질과 파일 크기가 개선된 형식으로 설명합니다. 같은 문서(2023년 3월 26일자)는 당시 AV1이 편집 소프트웨어에서 아직 잘 지원되지 않는다고도 적고 있어, 현재 상황은 쓰는 편집 프로그램의 공식 문서로 따로 확인해야 합니다. AV1이 몇 퍼센트 작다거나 좋다는 수치는 공식 문서에 없어서 이 글도 쓰지 않습니다. 코덱을 바꾼 뒤 비트레이트는 게임 녹화 비트레이트 가이드를 기준으로 잡습니다.
내 GPU에서 되는 코덱 고르는 순서
- 1OBS 버전과 그래픽 드라이버부터 확인 — 2026년 9월 30일 확인 기준 OBS 공식 다운로드 페이지의 안정 버전 표기는 32.2.2이고 Windows 10·11을 지원합니다. 이 글의 메뉴는 32.x 기준이며 33.0.0 베타는 프리릴리스라 기준으로 삼지 않았습니다. NVENC 관련 오류는 최신 NVIDIA 드라이버 설치가 공식 안내이므로, 인코더를 바꾸기 전에 드라이버를 먼저 갱신해 두는 편이 좋습니다.
- 2내 GPU가 어떤 코덱으로 인코딩되는지 제조사 자료로 확인 — NVIDIA Video Encode and Decode Support Matrix(2026년 9월 30일 확인)에서 AV1 YUV 4:2:0 인코딩이 YES인 GeForce는 Ada Lovelace(RTX 40 시리즈)와 Blackwell(RTX 50 시리즈)입니다. Ampere(RTX 30), Turing(GTX 16·RTX 20), Pascal(GTX 10)은 AV1이 NO이고 H.264·HEVC 인코딩은 YES입니다. AMD는 RX 7800 XT, RX 7600, RX 9070 제품 페이지에 AV1 Encode가 Yes로 적혀 있고, RX 6600 XT·RX 6800 XT 페이지 사양표에는 H.264·HEVC 인코딩과 AV1 디코딩만 있고 AV1 Encode 행이 없습니다(행이 없다는 것이지 불가라는 문구는 아닙니다). Intel은 Arc GPU의 인코딩 코덱으로 AVC, HEVC, VP9, AV1을 표기하며 모델별 세부 사항은 해당 문서 표에서 확인합니다.
- 3파일 > 설정 > 출력에서 출력 방식 정하기 — 파일 > 설정 > 출력을 열고 출력 방식을 단순 또는 고급으로 정합니다. 단순 모드의 비디오 인코더 드롭다운에는 시스템에서 사용 가능한 것만 '하드웨어 (NVENC, AV1)' 같은 이름으로 나타나며, QSV HEVC 항목은 단순 모드에 없습니다. 고급 모드 목록에는 QuickSync HEVC도 있고 이름은 'NVIDIA NVENC AV1', 'AMD HW AV1'처럼 영문으로 고정 표기됩니다. 코덱 이름을 그대로 보며 고르려면 고급 모드가 편합니다.
- 4녹화 탭의 비디오 인코더에서 코덱 선택 — 고급 모드에서는 녹화 탭의 비디오 인코더에서 고릅니다. 후보는 NVIDIA NVENC H.264·HEVC·AV1, AMD HW H.264 (AVC)·H.265 (HEVC)·AV1, QuickSync H.264·HEVC·AV1, SVT-AV1, AOM AV1입니다. NVENC에서 AV1을 골랐을 때 '현재 설정에서는 AV1 인코딩을 지원하지 않습니다.'라는 메시지가 나오면 배율 재조정 설정이나 GPU 설정을 해제하고 로그를 확인하라고 안내됩니다. 일반 NVENC 오류에는 ShadowPlay나 Windows 게임 DVR처럼 NVENC을 쓰는 다른 녹화 프로그램을 종료하라고 안내합니다. GPU가 여러 개인 노트북은 주 그래픽 어댑터의 하드웨어 인코더를 사용하는 것이 좋습니다.
- 5녹화 형식을 코덱에 맞추기 — OBS 문서는 녹화 형식으로 Matroska 비디오 (.mkv)를 기본이자 대부분의 경우 권장으로 안내합니다. 녹화가 중단돼도 재생·복구할 수 있고 H.264·HEVC·AV1을 모두 담지만, 편집 소프트웨어 지원은 'Poor'로 표기됩니다. 하이브리드 MP4 (.mp4)는 OBS 30.2에서 도입되었고 중단 복구와 일반 MP4 호환을 함께 주며 세 코덱을 모두 지원합니다. 하이브리드 MOV (.mov)는 OBS 32.0에서 도입되었고 AV1은 지원하지 않습니다. 문서마다 기본값 표기가 달라 내 화면의 실제 값은 직접 확인해야 합니다. MKV를 mp4로 바꿀 때는 파일 > 녹화본 Remux를 씁니다.
- 6짧게 테스트 녹화하고 열어 보기 — 짧은 테스트 녹화를 만들어 재생 프로그램, 편집 프로그램, 올릴 곳에서 열리는지 확인합니다. Windows 기본 재생기에서 재생되지 않으면 Microsoft 안내대로 Microsoft Store의 'HEVC Video Extension'이나 'AV1 Video Extension'을 설치할 수 있고, Microsoft는 서드파티 코덱 팩 설치는 권하지 않습니다. YouTube는 2026년 9월 30일 확인 기준 지원 형식 목록에 HEVC (H.265)와 MP4·MOV를 올려 두었지만 .mkv와 AV1은 목록에 명시되어 있지 않고, 권장 업로드 설정은 컨테이너 MP4, 비디오 코덱 H.264, 오디오 AAC-LC 등입니다. 열리지 않으면 H.264로 다시 녹화합니다.
녹화 전 점검 목록
- OBS와 그래픽 드라이버가 최신 안정 버전입니까?
- 제조사 자료에서 내 GPU가 원하는 코덱의 인코딩을 지원하는지 확인했습니까?
- 녹화 탭 비디오 인코더 목록에 고르려는 코덱 항목이 실제로 보입니까?
- 녹화 형식이 선택한 코덱을 담을 수 있습니까? (AV1이면 하이브리드 MOV는 제외)
- 짧은 테스트 파일이 재생기·편집기·업로드처에서 열립니까?
- 문제가 생기면 돌아갈 수 있도록 바꾸기 전 설정을 메모해 두었습니까?
직접 맞출 항목을 줄이고 싶다면
코덱과 녹화 형식, 드라이버까지 게임 전에 맞추는 일이 부담스럽다면 직접 정할 것을 줄이는 선택지도 있습니다. DOR는 지원 게임을 자동으로 감지해 풀매치를 mp4로 자동 녹화하는 무료 Windows 앱이고, NVIDIA 그래픽 카드에서는 NVENC 하드웨어 인코딩이 기본이며 게임 소리와 마이크를 동시에 녹음합니다. 다만 DOR가 어떤 코덱으로 저장하는지, 코덱을 고르는 옵션이 있는지는 이 글에서 다루지 않습니다. OBS를 계속 쓸지 고민이라면 OBS가 너무 복잡하게 느껴질 때와 OBS 대안 프로그램 비교를 함께 참고할 수 있습니다.
확인한 공식 출처 (2026년 9월 30일 확인 기준)
GPU별 코덱 지원은 NVIDIA Video Encode and Decode Support Matrix, AMD Radeon RX 7000 시리즈 제품 페이지, Intel Arc GPU 지원 코덱 문서에서 확인했습니다. OBS 쪽 근거는 OBS 공식 다운로드 페이지의 안정 버전 표기와 OBS 지식 베이스의 Audio/Video Formats Guide, Hardware Encoding, Hybrid MP4 & Hybrid MOV, Standard Recording Output Guide 문서입니다. OBS 지식 베이스는 링크를 걸지 말아 달라는 안내가 붙어 있어 문서 제목만 적었습니다. YouTube의 지원 형식·권장 인코딩 설정과 Microsoft의 미디어 플레이어 코덱 안내도 각 공식 지원 문서를 확인한 내용입니다. GPU 지원표와 플랫폼 지원 형식은 바뀔 수 있으니 실제 적용 전에 최신 문서를 다시 확인해야 합니다.
