日曜日に楽しく勉強!起業家のためのマーケティングをご紹介

サンデーマーケティング

Webサイト構築の小ネタ

試験的にWebサイトを構築。検索エンジンに引っかからないようにしたいときのメモ

投稿日:

robots.txtをさくせいする!

以下、Yahoo!さんから引用。

【HTMLのMETAタグで登録拒否をするには】
検索結果からサイトへのリンクや説明文などの、特定のページを検索結果から削除する場合は、下記のHTMLを記述します。

<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">

【robots.txtで登録拒否をするには】
robots.txtを置いて登録を拒否する方法は以下のとおりです。

・サイトで公開されているすべてのページをモバイル版Yahoo!検索の[サイト検索]の検索対象から除外する場合
下記のテキストを「robots.txt」という名前で保存し、サイトのあるウェブサーバーのトップレベルに置きます。

ファイルの中身(Y!J-SRD/1.0を拒否する場合の例)

    User-agent: Y!J-SRD/1.0
    Disallow: /

・モバイル版Yahoo!検索を含む、すべての検索エンジンから除外する場合
下記のテキストを「robots.txt」という名前で保存し、サイトのあるウェブサーバーのトップレベルに置きます。

ファイルの中身

    User-agent: *
    Disallow: /

        
    
    ヒント         ヒント
    
    
・「*」は、すべてのクローラーの訪問を拒否するという意味になります。
特定のディレクトリのみを拒否対象に指定したい場合は、「Disallow: /」に続いてディレクトリ名を入力します。

例: aaaというディレクトリのみを拒否対象にしたいとき

Disallow: /aaa/

・トップレベルとは、サイトのアドレスの、一番上の階層を指します。

例:
トップレベル        :http://○○○.co.jp/
トップから1つ下のレベル:http://○○○.co.jp/△△△/
サイトがこのような構造の場合、http://○○○.co.jp/robots.txtなどとなるように「robots.txt」を保存してください。
一般的に、独自のドメインを持っているサイトでは、トップレベルにindex.htmlというファイルが置かれています。
(例:http://○○○.co.jp/index.html などとなっていることが多い)

トップレベルに任意のファイルを置けない場合(Yahoo!ジオシティーズなど、独自ドメインでないサーバーを利用している場合)は、「robots.txt」による登録拒否はできません。METAタグによる登録拒否を行うか、ページそのものを削除してください。

たとえば、Yahoo!ジオシティーズのトップレベルは http://www.geocities.jp/ ですがお客様のホームページは、 http://www.geocities.jp/△△△/という1つ下のレベルからになるため、トップレベルにファイルを保存できません。

-Webサイト構築の小ネタ
-

Copyright© サンデーマーケティング , 2018 All Rights Reserved Powered by STINGER.