Повторюсь: отдача контента из кэша из без него

Повторюсь: отдача контента из кэша из без него по ресурсоемкости отличаются минимуму на порядок (а то и на два).
Люди почти всегда попадают к кэш, т.к. все вобщем-то мыслят сходно.
Качалки перебирают все возможные варианты и комбинации (с той или иной степенью интеллекта) постоянно попадая на некэшированые ссылки/станицы.

Таким образом, 100 запросов от обычного юзера и 100 запросов от качалки по времени выполнения могут отличаться на порядок, при том, что интенсивность запросов может быть одинаковая, а скорость отдачи данных реальному клиенту будет даже выше (ибо он использует браузер без ограничения скорости). При этом клиент выкачивает "толстый" контетн типа картинок, а у качалки все это давно в кэше.

Желающим скачать сайт (часть сайта) - читать!