Ошибка кодировщика NVENC в OBS Studio как исправить

Ошибка кодировщика NVENC в OBS Studio как исправить

Ошибки кодировщика NVENC в OBS Studio возникают из-за несовместимости драйверов, отключенного аппаратного кодирования или конфликтов с системой. Проблема решается переустановкой драйверов видеокарты, проверкой поддержки NVENC и переконфигурацией настроек OBS Studio.

Причины проблемы

  • Устаревшие или повреждённые драйверы NVIDIA (GeForce Experience, CUDA Toolkit)
  • Видеокарта не поддерживает NVENC (серии GT, GTS, GTM старше поколения Maxwell)
  • NVENC отключен в BIOS материнской платы
  • Конфликт между несколькими установками OBS Studio или плагинов кодирования
  • Недостаточно свободной видеопамяти (VRAM) на видеокарте
  • Windows Update перезаписал драйверы на неофициальные версии
  • Запущено несколько приложений, использующих NVENC одновременно (игры, стриминговые сервисы)
  • Сбой в библиотеке кодирования OBS на уровне NVAPI

Диагностика проблемы

Шаг 1: Проверка поддержки NVENC видеокартой

  1. Откройте консоль Windows: нажмите Win + R, введите cmd и нажмите Enter.
  2. Выполните команду: nvidia-smi
  3. В строке GPU Name проверьте модель видеокарты. NVENC поддерживается видеокартами серии RTX (все модели) и GTX 960 и выше.
  4. Если видеокарта не поддерживает NVENC, используйте кодировщик x264 вместо NVENC.

Шаг 2: Проверка версии драйвера

  1. Нажмите Win + X и выберите Диспетчер устройств.
  2. Разверните раздел Видеоадаптеры.
  3. Нажмите правой кнопкой на вашу видеокарту NVIDIA и выберите Свойства.
  4. Перейдите на вкладку Драйвер и запомните номер версии (должен быть 550.x и выше).

Шаг 3: Проверка VRAM

  1. В консоли выполните: nvidia-smi --query-gpu=memory.total --format=csv,noheader
  2. Запомните значение общей памяти видеокарты. Для стриминга в 1080p60 требуется минимум 2 ГБ свободной VRAM.

Пошаговая инструкция по исправлению

Способ 1: Полная переустановка драйверов NVIDIA

  1. Перейдите на сайт nvidia.com/Download/driverDetails.aspx.
  2. Выберите серию видеокарты (например, GeForce RTX 3060), операционную систему (Windows 10/11) и язык.
  3. Загрузите последнюю версию драйвера (не ниже версии 550.x).
  4. Нажмите Win + X и выберите Диспетчер устройств.
  5. Найдите видеокарту в разделе Видеоадаптеры, нажмите правой кнопкой и выберите Удалить устройство.
  6. Поставьте флажок Удалить программное обеспечение драйвера для этого устройства и нажмите Удалить.
  7. Перезагрузитесь: Win + X → Завершение работы или выход → Перезагрузка.
  8. Запустите загруженный установщик драйвера (.exe файл) и следуйте инструкциям на экране.
  9. Выберите опцию Custom (Advanced) и поставьте флажок Perform a clean installation.
  10. Дождитесь завершения установки и перезагрузитесь.

Способ 2: Проверка и включение NVENC в BIOS

  1. Перезагрузитесь и войдите в BIOS: нажимайте Del, F2 или F10 во время загрузки (зависит от производителя платы).
  2. Найдите раздел Integrated Graphics или PCIe Configuration (расположение зависит от модели платы).
  3. Убедитесь, что параметр PCI Express Lane Configuration или GPU Memory установлен на Auto или Enabled.
  4. Сохраните изменения: нажмите F10 или найдите кнопку Save and Exit.
  5. Система перезагрузится автоматически.

Способ 3: Переконфигурация OBS Studio

  1. Откройте OBS Studio.
  2. Нажмите File → Settings (или Ctrl + ,).
  3. Перейдите на вкладку Output.
  4. В разделе Encoder выберите NVIDIA NVENC H.264 (new) или NVIDIA NVENC H.265 (new).
  5. Если опция не доступна, нажмите Browse и убедитесь, что путь к библиотеке NVENC указан корректно (обычно C:\Program Files\NVIDIA\NVIDIA Video Codec SDK).
  6. Установите Rate Control на CBR (постоянный битрейт).
  7. Установите Bitrate (Mbps) в зависимости от качества: для 1080p60 — 6-8 Мбит/с, для 720p60 — 4-5 Мбит/с.
  8. Нажмите Apply → OK.

Способ 4: Удаление конфликтующих приложений

  1. Закройте все приложения, использующие видеоускорение: игры, Zoom, Discord, GeForce NOW, NVIDIA GeForce Experience.
  2. Откройте Диспетчер задач: Ctrl + Shift + Esc.
  3. В разделе Процессы найдите и завершите процессы nvencoder.exe, nvidia-smi.exe или похожие.
  4. Перезагрузите OBS Studio.

Способ 5: Полная переустановка OBS Studio

  1. Нажмите Win + X → Приложения и возможности.
  2. Найдите OBS Studio в списке, нажмите на неё и выберите Удалить.
  3. Подтвердите удаление.
  4. Откройте консоль: Win + R → cmd.
  5. Выполните команду: rmdir /s "%AppData%\obs-studio" (удалит все настройки OBS).
  6. Перезагрузитесь.
  7. Загрузите последнюю версию OBS Studio с официального сайта obsproject.com.
  8. Установите её и заново настройте параметры кодирования.

Способ 6: Проверка и обновление CUDA Toolkit

  1. Откройте консоль и выполните: nvidia-smi.
  2. Проверьте версию CUDA (указана в правом верхнем углу вывода).
  3. Если версия ниже 11.0, перейдите на developer.nvidia.com/cuda-downloads.
  4. Загрузите и установите последнюю версию CUDA Toolkit для вашей ОС.
  5. Перезагрузитесь после установки.

Часто задаваемые вопросы

Почему NVENC показывает ошибку "Encoder not available" даже после переустановки драйверов? Это может означать, что на видеокарте одновременно работает несколько приложений, использующих NVENC (игра в фоне, стриминговый сервис). Закройте все остальные приложения и перезагрузите OBS Studio.

Можно ли использовать NVENC на видеокарте GTX 1050? Да, GTX 1050 поддерживает NVENC, но убедитесь, что на видеокарте установлено как минимум 2 ГБ видеопамяти и обновлены драйверы NVIDIA до версии 550.x и выше.

Что делать, если NVENC работает, но качество видео низкое? Увеличьте битрейт в настройках OBS Studio: для 1080p60 установите 8-12 Мбит/с, для 720p60 — 5-7 Мбит/с, и убедитесь, что выбран кодировщик NVIDIA NVENC H.264 (new) вместо старой версии.

Похожие материалы

Запись видео с экрана компьютера со звуком в OBS Studio
Горячие клавиши в OBS Studio для переключения сцен
Настройки битрейта для стрима на YouTube в 1080p 60fps