【uma作戦】2ch特化型サーバ構築作戦 Part3

◆批判要望・自治議論スレッド★104◆
http://news5.2ch.net/test/read.cgi/newsplus/1069438074/

297 名前：root ★[sage] 投稿日：03/11/29 07:45 ID:???
一昨日〜昨日の経緯とサーバの状況を書いておくことにしよう。

一昨日22:00前に帰宅した際に既に祭りは起こっていて、
news5とtmp2が過負荷により青息吐息の状態になっていた。

私がいくつかシステムを緊急チューニングすることでnews5は過負荷を脱したが、
news5が接続されているHE側ネットワーク機器で取り扱える通信量を超えたため、
news5への通信ができにくい状態になった。

そのため、news5で一時的にgzip圧縮を復活させた(最近は負荷軽減優先のため、
gzip圧縮を行っていない)。これにより、news5は概ね機能を回復した。

news5は高負荷ではあったが、チューニングにより余力が出たこともあり、
負荷分散のため、news2とnews5での適宜な負荷分散をお願いした。
(今の状態だと、不用意に実況だけにすると実況が飛んでしまう場合があるため)。

続き

298 名前：root ★[sage] 投稿日：03/11/29 07:53 ID:???
>>279
今回臨時板だけにすると、臨時板の方が先に飛んでしまうリスクがあると
判断したため、news2/news5を使った機動的な負荷分散をお願いしました。

マシンパワーだけでいえば、緊急チューニング後のnews5にはまだゆとりがありました。
今回マシンの能力をほぼ限界まで使い切られたのは、tmp2サーバだけかと。


299 名前：root ★[sage] 投稿日：03/11/29 08:03 ID:???
news5の状況まとめ。

- サーバのパワー的には、まだ余裕があります。
　tmp2が「身をもって」通常時のnews5の4倍、TBSやWinny祭りの時の
　news5の約2倍のトラフィックまでは耐えられるということを示しました。
- ただし、2.5倍のトラフィックがかかった時点で、tmp2サーバは落ちました。

http://mumumu.mu/mrtg/mrtg-rrd.cgi/traffic/news5traf.html
http://mumumu.mu/mrtg/mrtg-rrd.cgi/traffic/tmp2traf.html

- しかし、現在news5が接続されているHE側のネットワーク機器側の
　容量に余裕がありません。そのため、サーバのパワーより先に
　ネットワーク機器の能力を超えてしまい、通信ができにくくなる場合があります。

なお、このスペシャルチューニングがされているのは、
現在news5, tmp2, news8だけです。他のサーバには当てはまらないので念のため。

>>174
mod_perl って、CGI側を対応バージョンにする必要あるんでしたっけか。

>>177 に転載したリンク先は、こっちの方がいいかな。

http://mumumu.mu/mrtglog/2003/11/29/traffic/tmp2traf.html
http://mumumu.mu/mrtglog/2003/11/29/traffic/news5traf.html

んで、振り返ってみると >>158 で書いた分のトラフィックが
tmp2 1台に集中したわけか。
そりゃ、さすがに落ちるよなぁ。

また何か新しい持ち駒を考えなきゃ。ということでもう一寝入り。
土・日で某原稿書かなきゃいけないし。

…恐るべしtmp2

>>177
2ch鯖のスイッチの上位ルータはHEのほかの鯖と共用なのでしょうか？
だとしたら2ch専用の(10)GbEルータが必要な気がしてきました。

サーバーをまとめるスイッチを足しても、上位が詰まればお手上げですね
今は応急処置として、余力がまだあるサーバーにgzip転送を再開させた方がいいかもしれません

2ch専用ルータ。
遂にそんな話まで出るようになってきたのか。。。

現状の鯖60台あまり(以上？)。
それに対してスイッチは3台だから厳しいだろうねえ。

>>183
もちろんルータだけじゃ手ぬるいと思います。
１０ギガルータ導入を意見する背景は
その分上位も含めて回線帯域を必要としているということ。

まあこればっかりはHEだけじゃ解決できなさそうですが。

ニュース系はともかくﾀﾞｳｿはそんなに頻繁に祭りになるの？

>>187
いや、今回はWinny使用者が逮捕されたからあれだけの祭りになった。

>>182>>186
ちょっと待てやw。10GBイーサーって一体……。(;^ ^

もしかして、数百万〜1000万以上のマルチレイヤスイッチを買えと言っている？
さすがにそんなものまで必要だとは思わないけど……。
>>161-163でもちょっと書いたけど、もっと問題は別の所にあるかも。
あるいは、ほんのちょっとの投資で解決するような。

あっ、ほんのちょっとの投資というのは、
数百万〜数千万に対してってことね。

うーん。。。
もうちょっと情報が開示されたら
多人数で議論できそうなんだけどねぇ。。。
確かに一番良いのはネットワーク構成図等が
分かれば良いのでしょうけど。

>>191
それはセキュリティ上まずいかも。
簡易図ぐらいならばかまわないが。

>>189
もちろん必要がないのであればそのほうがいいに決まっている。
とにもかくにも、運営側からの詳細なデータが示されないとなんともいえない。

バックボーンまでいくつのスイッチを通って、
サーバーを束ねているスイッチ一つあたりにいくつサーバーがぶら下がっているか
ぐらいはばらしても大丈夫そう

>>192
ま、確かに出せないですな。どう考えても。

何か情報が出てこないですかねぇ。。。

>>194
ちょっと前の話であればどっかで見ましたねえ。

ちなみにtracertでgsr12なんたら.he.netってのが2回通るので,
.he.netの入り口で1回,２ちゃん鯖振り分けで1回通ってるのかな。

それから>>185が合ってるとすれば,スイッチ1台辺り鯖20台。
机上論で1台の最大値50Mbpsとしたら1Gbイーサでも理論値一杯。
実効値ならヤヴァイのは間違いないかもネー。

>>178
mod_perl のモードには(大まかにわけて)2種類ほどあり、
PerlRun では、ほとんどの CGI はそのまま走る
(ただしスクリプトはその都度コンパイルされる)
パフォーマンス向上は2〜数倍。

Apache::Registry では、CGIにそれなりに手を入れないといけないが
かなりパフォーマンス向上が期待できる。

どうせやるんだったら後者をやってもらいたい(俺がやってもいい)んだけど
さしおり対応できるのは前者で、しかもそれだと、
bbs.cgi くらいにしかききめがないぞっと。
というわけで、実況鯖を PerlRun で動かすのは悪くないアイディアと思われ。

read.cgi などを含めたチューニングは、上流の帯域不足とか、それ以前の
問題が山積みっぽなので後回しでもよろしかと。
bbs.cgi と違って、read.cgi はヒミツが少ないハズなので(現に2001夏に公開
されたし)、ぼちぼちと改造していけないかな?

すぐに対応できるのであれば、試しにmod_perlをどこかのサーバーに入れて
テストしてはどうでしょう。成功すれば他のサーバーにも順次入れていくという事で

mod_perl が入っているような鯖。
binbo8.he.net　*　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster16.he.net　music2.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster17.he.net　society.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster18.he.net　live5.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster19.he.net　etc.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster20.he.net　academy2.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster21.he.net　game4.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster22.he.net　hobby3.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster23.he.net　human2.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster24.he.net　comic3.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster25.he.net　news4.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster26.he.net　bubble.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster26.he.net　qb2.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster27.he.net　live6.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster28.he.net　pc4.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster29.he.net　sports5.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster29.he.net　live7.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster30.he.net　off.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster31.he.net　hobby4.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster71.he.net　aa2.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster71.he.net　2chplus.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster71.he.net　bg3.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09
oyster72.he.net　sports4.2ch.net　Apache/2.0.46 (Unix) mod_perl/1.99_09

httpd.conf にて、 ServerTokens Full になっていると思われる鯖のみ掲載（uma系は ServerTokens Min のもより）

>>197
なるほど、とすると「2〜数倍」にはできる可能性があると。
>>188 みたいなかんじで、やってみる価値はありか。

>>199
Apache2系(oyster16以降とbinbo8)すね。
uma系は、もちろん私が入れればいいわけで。

>>200 訂正: >>188 みたいな => >>198 みたいな

で、ネットワーク系の話は、まずは現状把握かなと。