Здравствуйте
Переустановите драйверы видеокарты начисто, удалив их через утилиту DDU в безопасном режиме - Display Driver Uninstaller Download version 18.0.4.8 (guru3d.com)
Далее установите с сайта Nvidia, либо AMD, Driver booster и подобное ПО использовать нельзя.
В сюжетном режиме, выберите родное разрешение монитора, режим в окне без рамки, формат автоматический
В настройках оверлея Geforce experience, выберите в настройках другие папки для сохранения видео и готовых записисей
В настройках конфиденциальности оверлея, включите запись рабочего стола.