robots.txtガイド

robots.txtとサブドメイン:適用範囲をチームで確認する方法

protocol、host、ポート、www、ステージング、デプロイ元を分け、誤ったoriginのrobots.txtを編集しないための手順です。

Robots.txt Tools Editorial Team による最終確認 2026-09-13約2分で読めます

編集方針:このガイドは Robots.txt Tools Editorial Team が使用する確認手順を記録したものです。手順を一人称で説明する表現は、顧客案件や個人的な実体験を主張するものではありません。

robots.txtとサブドメイン:適用範囲をチームで確認する方法

編集チームでは、ルールが正しいのに効かない場合、まず適用範囲を確認します。robots.txtはprotocol、host、ポートで決まるorigin単位です。

originを分けて確認します

https://example.com/robots.txt
https://shop.example.com/robots.txt
http://example.com/robots.txt
https://example.com:8443/robots.txt

これらに自動継承はありません。

公開hostを一覧化します

本番、www、shop、docs、preview、stagingを別々に開きます。古いファイルや404、異なるプラットフォームが見つかることがあります。

配信元を確認します

framework、CMS、CDN、reverse proxyのどこが公開レスポンスを生成しているかを確定してから変更します。

正しいhostでURLをテストします

shopのURLはshop側のポリシーでテストします。testerで勝つルールを確認し、checkerで公開ファイルを確認します。

stagingは認証で守ります

Disallow: /はセキュリティではありません。非公開環境には認証やアクセス制御を使い、公開previewではnoindexも検討します。

関連ガイド