Panduan robots.txt

Sitemap di robots.txt: cara kami menambah dan memeriksanya

Alur tim untuk Sitemap:, URL absolut, beberapa sitemap, sitemap index, Search Console, dan verifikasi file production.

Oleh Robots.txt Tools Editorial TeamTerakhir diverifikasi 2026-09-131 menit baca

Metode editorial: panduan ini mendokumentasikan alur pemeriksaan yang digunakan Robots.txt Tools Editorial Team. Bahasa prosedural orang pertama menjelaskan metode tersebut, bukan klaim pengalaman proyek klien atau studi kasus pribadi.

Sitemap di robots.txt: cara kami menambah dan memeriksanya

Kami memperlakukan Sitemap: sebagai referensi discovery, bukan aturan Allow atau Disallow.

Kami memeriksa sitemap lebih dulu

Kami membuka XML, memeriksa status HTTP, HTTPS, host canonical, dan URL yang tercantum. Setelah itu kami memakai URL absolut:

Sitemap: https://example.com/sitemap.xml

Beberapa sitemap atau satu index

Beberapa baris Sitemap: valid. Jika ada sitemap index yang stabil, kami biasanya merujuk index tersebut agar robots.txt tidak menjadi inventaris kedua.

Sitemap: https://example.com/sitemap-index.xml

Kami memisahkan host

Robots.txt domain utama tidak otomatis mengatur subdomain. Untuk arsitektur multi-host, kami memeriksa setiap origin dan memakai panduan subdomain bila scope menjadi masalah utama.

Search Console tetap berguna

Referensi sitemap membantu discovery, tetapi tidak menjamin kualitas XML. Kami juga memeriksa redirect, noindex, dan URL non-canonical.

Kami memverifikasi production

Setelah publish, kami membuka /robots.txt, setiap sitemap, lalu memakai checker dan validator.

Panduan terkait