Желающим скачать сайт (часть сайта) - читать!

Может, проще за совсем условные деньги CD/DVD-ROM предлагать?

Зачем желающему скачать покупать диск, если он нахаляву качать может.
Предлагаю сделать архив и выложить на каком нибудь обменнике.

Проблема при скачивании "тупыми" и "толстыми" (многопоточными с широкими каналом) качальщиками в следующем.
Сайт из-за наличия большой таксономии в абсолютном исчислении имеет около миллиона страниц (их реально ещё больше, но где-то столько доступно для гостей). На скорость работы пауков поисковиков (они тоже многопоточные) можно повлиять - через админку вебмастера или настройками файла robots.txt, в результате чего они напрягают сервер незначительно (терпимо даже когда все приходят толпами). Кроме того, при скачивании они отличаются интеллектом - не выкачивают постоянно одни и те же страницы, учитывают дату создания/изменения, используют свои алгоритмы обхода всего сайта и т.п. В то же время "обычные" программы не умеют всего этого и тупо выкачивают всё подряд по всем ссылкам на каждой странице.

Далее. Страницы на сайте генерятся динамически (именно поэтому их так много, в реальности уникальных страниц - несколько десятков тысяч). Для ускорения отдачи они кэшируются. Понятно, что "обычные" посетители в 95% процентов скачивают лишь "верхние", "популярные" страницы, которые как раз всегда закэшированы. В то же время качальщики, наоборот, сразу же "лезут вглубь", постоянно выкачивая некэшированные страницы. В результате два таких качальщика на сайте создают нагрузку много большую, нежели 200 обычных пользователей онлайн. И если одного качальщика наше текущее железо держит нормально, то когда начинают качать два сразу плюс "обычные" пользователи подтягиваются - сайт начинает тормозить. Когда приходит третий (качальщик) - сайт становится недоступным (лишь для "несчастных" обладателей узких каналов - качальщики же продолжают качать).
Потому пока не удалось настроить сервер на автоматическую раздачу банов неуёмным качальщикам - буду раздавать их вручную по результатам своей статистики. Первым кандидатом на постоянный бан является целая подсетка 94.50.0.0 - 94.51.255.255 (Екатеринбург, Уралсвязьинформ), так как с различных айпишников оной каждый день скачиваются десятки тысяч страниц. (Я не продвинут в познаниях структуры этой части интернета, потому буду признателен за информацию по данной подсети и почему там так много-часто-лихо качают ).

Забанены подсетки:
94.50.x.x
90.150.x.x
Обе "Екатеринбург, Уралсвязьинформ".
Кто "попал под стрелу" и имеет собственный статический айпи - обращайтесь, добавлю исключение (хотя как вы увидите этот текст - вопрос ).

Так, сразу предупреждаю, заранее - если соберешься банить диапазон 212.041.032.000 - 212.041.063.255 - меня сразу предупредить!!!

Последние два дня действует следующее ограничение для www.ROM.by :

1) Не более 256kb/sec на клиента
2) Не более 5 запросов в секунду
3) Не более 3 одновременных соединений

Полагаю, что "640kb хватит всем", если не хватит - сообщайте о конкретных случаях. Я был бы рад и дальше обходится без любых ограничений, однако у нас сейчас нет возможности ни оптимизировать используемое ПО сайта, ни увеличить производительность сервера.

Заметил. Ну, учел. Вообще - я с утра лезу в тракер и сразу открываю все новое (быстро, в Опере, Ctrl-Shift-клик). Но - не вопрос - буду медленнее. ))

Савелий, средней кнопкой мыши быстрее получается

Неа, одинаково. При моем способе просто 2 руки работают.

Текущие ограничения на скачивание сняты в связи с их неэффективностью.
Продолжаем банить.
Желающие скачать сайт могут пожертвовать что-нибудь с 4-8 ядрами в форм-факторе 1U.