Здравствуйте!
Увеличьте файл подкачки до 24гб, как на изображении ниже.

В настройках графики сюжетного режима, включите вертикальную синхронизацию, или любым другим способом ограничьте FPS до 60.
Также в настройках лаунчера RAGEMP, включите пункт Accelerated CEF rendering.
В настройках видеокарты, отключите Radeon chill, anti-lag, image sharpening и т.п. Также в настройках электропитания, выберите план электропитания от АМД, если его там нет - Вы забыли установить драйверы на чипсет.
Убелитесь, что RAGEMP, GTAV, файл подкачки находятся на SSD.
Также на Вашем скриншоте видно, что системе доступна для использования лишь половина оперативной памяти. Это могут быть проблемы с процессором, оперативной памятью, материнской платой, либо Вы вставили при сборке планки не в ие слоты и не до конца, либо в win+R msconfig ограничили максимум памяти. Если не знаете, как исправить - обратитесь в сервис-центр.
Дополнительных вариантов предложить не сможем.