Nói kết luận trước. Nếu bạn vừa chơi game vừa quay lại màn hình đó thì hãy chọn NVENC (mã hóa GPU). Nếu không chạy game mà cần xuất chất lượng cao nhất để lưu trữ video, hoặc GPU yếu mà CPU dư dả thì hãy chọn x264 (mã hóa CPU). Một dòng này là đáp án cho 90% tình huống.
Điểm khác biệt cốt lõi giữa hai cái là 'ai gánh việc mã hóa'. NVENC để chip mã hóa chuyên dụng gắn trong card đồ họa NVIDIA xử lý việc nén video, còn x264 để CPU tính toán nén bằng phần mềm. Vì trên cùng một PC thì game cũng dùng CPU và GPU, nên tải mã hóa đi về đâu sẽ dẫn thẳng tới hao hụt khung hình game.
Bảng so sánh NVENC vs x264 trong nháy mắt
- NVENC, vị trí tải: chip mã hóa chuyên dụng của GPU / ảnh hưởng khung hình: hầu như không có (vì là chip riêng nên tách biệt khỏi render game) / chất lượng: ngang bằng hoặc hơn x264 medium với card RTX / khuyến nghị: vừa chơi vừa quay hoặc stream thời gian thực, PC đơn
- x264 (preset nhanh, veryfast), vị trí tải: CPU / ảnh hưởng khung hình: trung bình (nếu nhân không dư thì bị giật) / chất lượng: mức medium / khuyến nghị: khi GPU yếu mà CPU dư dả
- x264 (preset chậm, slow), vị trí tải: CPU (rất cao) / ảnh hưởng khung hình: lớn (chạy đồng thời game thì khung hình tụt mạnh) / chất lượng: hạng cao nhất / khuyến nghị: lưu trữ chất lượng cao nhất khi không chạy game, PC chuyên quay riêng
Diễn giải bảng ra thì như sau. NVENC để một khu vực riêng trong GPU đảm nhận toàn bộ việc mã hóa, nên hầu như không chồng lấn với tài nguyên GPU dùng để render game. Vì vậy dù bật quay thì khung hình game vẫn được giữ gần như nguyên vẹn. Ngược lại, x264 để CPU gánh đồng thời cả logic game lẫn mã hóa, nên nếu thiếu nhân thì frame time chao đảo và sinh ra giật. Ở những game mà khung hình tức thời quyết định thắng thua như Valorant hay Battlegrounds, sự khác biệt này cảm nhận rất rõ.
Chất lượng, x264 có thật sự tốt hơn không
Trước đây có quan niệm NVENC chất lượng kém, nhưng từ 'NVENC đời mới' sau kiến trúc Turing (dòng RTX 20) năm 2018 thì câu chuyện đã khác. Ở cùng bitrate, NVENC của RTX cho ra hình ngang bằng hoặc sạch hơn preset x264 medium. Đặc biệt ở việc bắt các chi tiết đồ họa nhỏ, NVENC thường sắc nét hơn.
Điểm mà x264 thắng là khi dùng các preset chậm như 'slow'. Viền chữ hiện lên rõ ràng hơn một chút. Tuy nhiên preset slow dùng CPU đến cực hạn nên thực tế không dùng được trên PC đơn vừa chạy game. Nó chỉ có ý nghĩa khi tắt game và chỉ mã hóa video để lưu trữ.

Cách đổi bộ mã hóa trong OBS
- Nhấn nút 'Cài đặt' ở góc dưới bên phải OBS.
- Chọn 'Đầu ra' ở menu bên trái.
- Đổi chế độ đầu ra ở phía trên thành 'Nâng cao'. (Ở chế độ cơ bản thì lựa chọn bộ mã hóa bị giới hạn.)
- Chuyển sang tab 'Quay' (nếu stream thì tab 'Phát trực tiếp').
- Ở danh sách thả xuống 'Bộ mã hóa', chọn dòng NVENC (NVIDIA NVENC H.264 / HEVC / AV1) hoặc x264.
- Đặt bitrate và preset rồi nhấn 'Áp dụng', sau đó khởi động lại OBS.
Nếu danh sách bộ mã hóa hoàn toàn không thấy mục NVENC, thì là do không có card đồ họa NVIDIA hoặc driver đồ họa đã cũ. Hãy nâng driver lên mới nhất ở GeForce Experience hoặc ứng dụng NVIDIA rồi khởi động lại OBS, mục đó sẽ xuất hiện.
Nhưng có nhất thiết phải tự mình lựa chọn không
Nếu đọc đến đây thì hẳn bạn đã nhận ra, so sánh NVENC và x264 rốt cuộc quy về một câu 'muốn giữ khung hình game thì phải dùng mã hóa GPU'. Vấn đề là chính quá trình đổi chế độ đầu ra sang nâng cao trong OBS, tìm và chọn bộ mã hóa, rồi chỉnh đến cả codec và preset lại là rào cản với người dùng lần đầu.
DOR đã bỏ luôn việc lựa chọn và thiết lập này. DOR mặc định áp dụng mã hóa phần cứng NVENC, nên chỉ cần cài đặt và nhấn nút quay là mã hóa bằng chip chuyên dụng của GPU. Dù không biết bộ mã hóa là gì, preset là gì, việc quay vẫn bắt đầu với mức hao hụt khung hình game tối thiểu. Bạn sẽ không phải đụng tới cài đặt bộ mã hóa trong suốt một ván Valorant hay Overwatch.
Nếu bạn tò mò về cài đặt quay theo từng game, hãy tham khảo hướng dẫn quay Valorant, hướng dẫn quay Battlegrounds, hướng dẫn quay Overwatch. Dù là game nào thì DOR cũng hoạt động giống nhau dựa trên NVENC, nên không cần chọn lại bộ mã hóa cho từng game.

Tóm tắt cuối cùng theo từng tình huống
- Vừa chơi vừa quay bằng card đồ họa NVIDIA RTX/GTX → NVENC. Không cần đắn đo.
- GPU yếu mà CPU dư dả từ 8 nhân trở lên → x264 veryfast đến medium.
- Không bật game, chỉ xuất chất lượng cao nhất để lưu trữ → x264 slow hoặc PC chuyên quay.
- Lười đụng cài đặt mà chỉ muốn giữ khung hình game → cài DOR rồi nhấn nút quay.


