編集チームでは、ルールが正しいのに効かない場合、まず適用範囲を確認します。robots.txtはprotocol、host、ポートで決まるorigin単位です。
originを分けて確認します
https://example.com/robots.txt
https://shop.example.com/robots.txt
http://example.com/robots.txt
https://example.com:8443/robots.txt
これらに自動継承はありません。
公開hostを一覧化します
本番、www、shop、docs、preview、stagingを別々に開きます。古いファイルや404、異なるプラットフォームが見つかることがあります。
配信元を確認します
framework、CMS、CDN、reverse proxyのどこが公開レスポンスを生成しているかを確定してから変更します。
正しいhostでURLをテストします
shopのURLはshop側のポリシーでテストします。testerで勝つルールを確認し、checkerで公開ファイルを確認します。
stagingは認証で守ります
Disallow: /はセキュリティではありません。非公開環境には認証やアクセス制御を使い、公開previewではnoindexも検討します。