Здравствуйте
Запись работает, повтор работает, не работают только фильтры, а мониторинг использовать не следует.
В сюжетном режиме, выберите стандартное разрешение монитора, режим в окне без рамки, формат автоматический.
В настройках оверлея Geforce experience, включите в настройках конфиденциальности запись рабочего стола.
Удалите стороннее антивирусное ПО (Kaspersky, Avast, Iobit, Eset, Malvarebytes, 360 security и т.п.), сторонние файрволы, Adguard, Wallpaper engine, Lightshot, MSI Afterburner, MSI Mystic light и аналогичные, для управления подсветкой и блокировки рекламы. Добавьте папки с GTAV и RAGEMP в исключения защитника Windows. Отключите защиту в реальном времени. Отключите, либо удалите ПО от Razer если установлено. Также Process Lasso и Park Control, Memreduct, Advanced system care и подобные. Также отключите Xbox game bar и его оверлей, повтор xbox, оверлей дискорд, удалите betterdiscord, отключите оверлей стим и прочие оверлеи, кроме geforce experience/AMD Relive
Если результата нет, переустановите драйверы видеокарты начисто, удалив их через утилиту DDU в безопасном режиме - Display Driver Uninstaller Download version 18.0.4.8 (guru3d.com)
Далее установите с сайта Nvidia, либо AMD, Driver booster и подобное ПО использовать нельзя.
Как сама система, так и драйверы видеокарты, должны быть обновлены до последней версии.
Каких-либо дополнительных решений предложить не сможем.