Я бы попробовал выкинуть один СD-привод и ТВ-тюнер

Я бы попробовал выкинуть один СD-привод и ТВ-тюнер и погонять так. Если не помогло, оставить одну планку памяти (любую) и опять тестировать.

З.Ы. То, что провода греются, не есть хорошо вот по какой причине: раз греются, значит на них рассеивается достаточно большая мощность, т.к. P=I^2*R, а сопротивление провода достаточно мало, значит по проводам текут большие токи, а значит падение напряжения на проводах (особенно по 5В, т.к. само напряжение достаточно мало) становится сопоставимым с самим выходным напряжением БП по шине 5В.
Т.е., если у Вас падение напряжения на проводах = 1В, то на входе питателя матери будет 5-1=4В, а это просадка напряжения на 20 %, что очень много.
Поэтому я бы попробовал для начала запитать все Ваше хозяйство чем-нибудь вроде FSP на ватт 500 продолжительной мощности.