いまさらながらrobots.txtを設置した。
ロボットごとの設定などの複雑なことはせず、以下のような感じのrobots.txtを作成。
User-agent: *
Disallow: /iiroty/bar/
Disallow: /iiroty/bar/
Disallow: /iiroty/baz/
↑のファイルを「http://birdnet.biz/」へ置くと、全部の検索ロボットに対して以下への巡回を禁じることができる(らしい)。
・http://birdnet.biz/iiroty/foo/
・http://birdnet.biz/iiroty/bar/
・http://birdnet.biz/iiroty/baz/
設置にあたり、以下のページを参考にした。
・robots.txt :SEOは検索エンジン最適化 ::SEO塾の検索エンジン対策
・robots.txt とは?