2006年05月15日

robots.txt

いまさらながらrobots.txtを設置した。
ロボットごとの設定などの複雑なことはせず、以下のような感じのrobots.txtを作成。

User-agent: *
Disallow: /iiroty/bar/
Disallow: /iiroty/bar/
Disallow: /iiroty/baz/

↑のファイルを「http://birdnet.biz/」へ置くと、全部の検索ロボットに対して以下への巡回を禁じることができる(らしい)。
・http://birdnet.biz/iiroty/foo/
・http://birdnet.biz/iiroty/bar/
・http://birdnet.biz/iiroty/baz/

設置にあたり、以下のページを参考にした。
robots.txt :SEOは検索エンジン最適化 ::SEO塾の検索エンジン対策
robots.txt とは?


投稿者 iiroty : 2006年05月15日 21:43 | トラックバック
コメント
コメントする









名前、アドレスを登録しますか?