Hast Du jetzt mal testweise mit nur 2GB versucht?
Sonst mal die arma.cfg löschen (eventuell verbleibt die auch nach ner deinstallation/neuinstallation).
Ach ja, und eventuell die arma.rpt mal posten. Das könnte auch noch helfen unter umständen. Also helfen das Problem zu finden.