Два варианта: 1 - попробовать заменить память на 64+32

Два варианта:
1 - попробовать заменить память на 64+32 или вообще на 128 одной планкой. Возможно, конкретно 3 твоих модуля создают нагрузку на выводы чипсета больше, чем их нагрузочная способность.
2 - перейди таки на АТХ питание. В противном случае 3.3в формируются не БП, а стабилизатором на плате, и его мощности может не хватать для стабильной работы.

Да, кстати, попутно: на LS 6LX2 категорически не рекомендуется заниматься разгоном. Вылетают силовые транзисторы питания процессора, предварительно обуглив под собой плату.

LuckyStar 6LX