Попробуйте изолировать именно ту карту, которая является проблемой, а не другие факторы на вашей машине. Это может быть сложно, попробуйте использовать эту карту на другом известном компьютере, чтобы увидеть, испытываете ли вы то же самое.
Если вы это сделаете, то этого должно быть достаточно, чтобы убедить вас, что это проблема с картой.
В то же время вы можете протестировать другую видеокарту, которая должна хорошо работать на вашем компьютере, и если у вас нет проблем с альтернативной картой, вы должны быть уверены в остальной конфигурации вашей системы.
Что касается программного обеспечения, попробуйте различные графические тесты, чтобы испытать карту, а также что-то вроде RealTemp или GPUTemp в качестве индикатора того, насколько тепло нагревается под нагрузкой.