クローラー&過剰リロード対策スレ3【新バーボン】

このエントリーをはてなブックマークに追加
129root▲ ★
memories へのクローリングがひどいようなので、
実験的にmemories収容ホストのリロードバーボンを有効にしました。

全収容サーバの合計でカウントされます。
(teri.2ch.net でリストに入ってくるのが、memories でひっかかったものです)

memories収容ホストへのdenyの配置はまだです。
全部にdeny list配るのはコスト高い(やりたくない)ので、
1箇所に配ればいい仕組みを作って、おじさんに配布をお願いするかんじで。

で、こうなると、Google/Yahoo/MSNのbotあたりはスルーがいいのかなと。
スルーは合意していたんで、作業しないとってかんじで。
130root▲ ★:2005/12/07(水) 11:42:27 ID:???0 BE:5107878-###
>>129
…って、ライブな板がないと、ひょっとするとバーボンにならないのかもですね。

このへんは、後で調整かなと。