Den Rechner schon mal entstaubt? Ich denke in deinem Fall da ganz speziell
an Netzteil und Grafikkartenlüfter. Das führt nämlich gerne mal zu dem
beschriebenen Problem. Oder, je nachdem, wie alt die Karte ist, "abgenutzte"
Wärmeleitpaste, die die Temperaturen bei hoher Last zu stark steigen lässt.
Um den allgemeinen Betriebszustand deiner Grafikkarte zu prüfen, kann ich dir
das Tool
Furmark empfehlen. Lastet die GPU komplett aus und zeigt dir auch
die Temperaturen dabei an. Damit lässt sich fast jede Schwachstelle rund um die Grafik aufdecken.
EDIT : Ach ja, alle möglichen Infos zur Grafikkarte kannst du mit
GPU-Z auslesen.