Squarespace gerencia grande parte do arquivo, então nós usamos controles suportados em vez de imaginar acesso raw ao servidor.
Reconhecemos /search
A plataforma pode excluir /search; nem todo Disallow é erro.
Crawlers controla o site
Usamos Crawlers para decisões amplas de visibilidade e conferimos a saída publicada.
Noindex é por página
Uma URL pública individual usa o controle de noindex/indexação. Conteúdo privado usa password/acesso restrito.
Sitemap é automático
Abrimos o sitemap gerado e verificamos URLs canônicas em vez de tentar editar o XML manualmente.