Alat Developer

Robots.txt Generator

Robots.txt Generator membuat file robots.txt dari aturan allow, disallow, dan sitemap yang Anda tentukan. Tambahkan direktif per user-agent, atur crawl delay, lalu salin atau unduh file-nya — semuanya di browser Anda.

Terakhir diperbarui: July 2026

Robots.txt generator membuat file robots.txt yang memberi tahu crawler mesin pencari bagian mana dari situs Anda yang boleh atau tidak boleh diakses. Tambahkan aturan allow/disallow untuk user-agent tertentu, URL sitemap, dan crawl delay opsional. File yang dihasilkan dibuat langsung di browser Anda dan siap ditempel — tidak ada yang diunggah.

Robots.txt GeneratorBerjalan di browser Anda

Cara menggunakan Robots.txt Generator

  1. Tambahkan aturan: pilih user-agent, lalu tambahkan path untuk allow atau disallow.
  2. Opsional, tambahkan URL sitemap dan crawl delay Anda.
  3. Salin robots.txt yang dihasilkan atau unduh file-nya.

Pertanyaan yang sering diajukan

Di mana saya harus menaruh file robots.txt saya?

Unggah ke root website Anda (contoh.com/robots.txt). Sebagian besar platform CMS dan hosting memungkinkan Anda menambahkannya lewat file manager atau setting.

Bisakah saya memblokir crawler tertentu?

Ya — setiap aturan diterapkan ke user-agent tertentu. Anda bisa memblokir Googlebot sambil tetap mengizinkan Bingbot, misalnya.

Apakah data saya diunggah?

Tidak — robots.txt dibuat sepenuhnya di browser Anda.

alat developer terkait