Комбат, ну оооооооооочень сомневаюсь, что тут памяти мало.
Первым делом я бы переставил карту в другой слот и отключил все лишнее внутри системника - оставив только один системный хард, вынув сетевую, usb контроллер или что там еще на PCI есть. Памяти, кстати, тоже можно одну планку оставить. В биосе тоже отрубай все лишнее - встроенный звук, сетевую, etc.
Далее - попробуй откатится на старые дрова, очень желательно под свежей виндой (старую бэкапишь акронисом, ставишь новую с нуля).
Вообщем после этого понемногу добавляй компоненты, и таким путем определяй на чем косячит.
ЗЫ. Еще есть древний хак - попробуй поставить свежую винду с предварительно отключенным в биосе ACPI.