Diary

@ssig33

30 Sep 2017 Sat 16:06

Go で並列数をうまいところ制御しながら並列に動くクローラー というもののサンプル。

並列に HTTP アクセスしてきてパースして title 要素を表示するというものです。 title 要素をパースしてくるのに使っているパッケージはこちらです。

今回は HTML のダウンロード => パース => 画面への出力処理 までを一塊として並列処理の単位にしています。

ですが、ここをさらに gorutine と channel で制御してダウンロードは 5 並列でやってパースは 20 並列でやって出力は 1 並列でやる、みたいなふうにもできるでしょう。今回は channel を単なるセマフォのように使っていますが、その場合は gorutine 間のやり取りに channel を使う方がシンプルに書けるでしょう(そしてそれがより Go らしいやり方でしょう)。

またダウンロード制御するにあたってホスト名ごとに並列数制御するみたいのもそんなに難しくない(とはいえ実務の上ではこのホスト名とこのホスト名は実は同じインフラに乗ってるので並列数カウントする上で一緒のものとして数えないといけない、とかあったりするのでどうやるにせよ難しさはつきまとうのだが)。

こういうことをやるのに古代人たちはいろいろと苦労したものですが、現代人は結構簡単に並列数を稼ぎつつマルチコアの限界まで遣ってHTML をパースしつつうんたらかんたらやるみたいなクローラーを書けるようになっています。

古代のコード引き継ぐべきかどうかはこういう点についても顧慮してもいいのではないかと思う。

ただ Go はあくまでマルチコアの限界まで使い切るみたいなことは簡単ですが、スケールアウトするという話になってくると途端にどうにもならないのでまあその場合は erlang なんですかね。ただまあクローラーだったら実行ホスト事にクロール対象割り当てればいいだけなので Go でもよさそう。