Здравствуйте
Повторно ознакомьтесь с правилами подачи о форматировании.
Не владеем информацией о решениях для стороннего ПО, но Вы можете попробовать указанное ниже. Либо воспользуйтесь другим приложением, например OBS.
Переустановите драйверы видеокарты начисто, удалив их через утилиту DDU в безопасном режиме -
Display Driver Uninstaller Download version 18.0.4.8 (guru3d.com)
Далее установите с сайта Nvidia, либо AMD, Driver booster и подобное ПО использовать нельзя.
Как сама система, так и драйверы видеокарты, должны быть обновлены до последней версии.
GTA V, разумеется, должна быть чистой, без модификаций, включая Redux, Reshade, SweetFX, "замененки", "оптимизации" не иметь файла commandline в папке с игрой и RAGEMP
Простая проверка целостности не устраняет последствия использования модификаций, нужно удалить все замененные и посторонние файлы из папки RAGEMP и GTA V, и только затем делать проверку.
Отключите автоматическую и ручную оптимизацию игр Geforce experience/AMD, отключите облачные сохранения GTA V (в сюжетном режиме, по нажатию HOME), отключите Onedrive и любые другие облачные приложения, которые могут затрагивать папку Документы, удалите settings.xml \Documents\Rockstar Games\GTA V, в будущем не соглашайтесь на включение сохранений в облаке.
Далее в сюжетном режиме, включите стандартное разрешение монитора, режим в окне без рамки, формат автоматический
Далее в настройках оверлея Geforce experience, включите запись рабочего стола. Убедитесь, что на выбранных дисках достаточно места, что Вы не записываете в папку с кириллицей в названии.