У нас были некоторые серьезные проблемы с (невероятно) плохо написанным пауком в прошлом , и в результате мы заблокировали их. Марко Армент из Tumblr также поделился с нами своими разочарованиями 31.08.2009, что послужило причиной того, что мы заблокировали их.
[Паук Yahoo] затопляет нас 70-200 запросов в секунду примерно с 5:30 утра по восточному поясному времени. Я никогда не видел ничего подобного, даже от их мошеннических «экспериментальных» сканеров, которые издевались над нами в прошлом. Бана Robots.txt недостаточно: мне приходится блокировать их по IP на уровне балансировки нагрузки. Так как в прошлом они злоупотребляли переполнением стека, я подумала, что вы захотите узнать.
Похоже, что веб-поиск Yahoo "Powered by Bing!" в настоящее время. Это хорошо, потому что у нас никогда не было проблем с пауком Бинга (он же MSNBOT).
Итак, поиск в Yahoo совпадает с поиском в Bing сейчас, или мы должны рассмотреть возможность их разблокировки, если они каким-то образом, несмотря ни на что, перестали так сильно сосать?