Andre Матрокс был эталоном по качеству

Andre Матрокс был эталоном по качеству картинки в 2D и ставил на свои "бюджетные" Мистики RAMDAC на 220 MHz а потом и на них стал ставить 250 мегагерцовый еще тогда, когда на S3 со товарищи ставили 135 мегагерцовые. Так что у Вас либо плата с дефектом, либо моник глючный либо непонято что стоит вместо драйвером.
MGA-2064W у меня отлично работает под DOS/Win9x/NT4/W2k/XP FreeBsd и разными Линуксами. Под Вистой, правда не смотрел ибо пока не нужно.
Рабочий режим 1280х1024"100Hz (больше не тянет монитор).

RIVA TNT 2