Trình kiểm tra Robots.txt

Lấy và phân tích robots.txt đang hoạt động của một website — các quy tắc theo user-agent và sitemap được liệt kê.

The URL is fetched from our server (an arbitrary cross-origin fetch isn't possible directly from your browser) — the target site sees this server's request, not your IP, and nothing about the check is stored.

Related tools

How it works

  1. 1

    Nhập một tên miền

    Chỉ cần website, ví dụ https://example.com.

  2. 2

    robots.txt được lấy từ thư mục gốc

    Công cụ tự động yêu cầu /robots.txt trên tên miền đó.

  3. 3

    Phân tích và hiển thị quy tắc

    Các quy tắc Allow/Disallow theo từng user-agent, cùng mọi dòng Sitemap.

FAQ

Tại sao công cụ này cần máy chủ, khác với phần lớn công cụ ở đây?
Việc lấy robots.txt của tên miền khác trực tiếp từ trình duyệt bị CORS chặn, nên phép kiểm tra này được thực hiện bởi máy chủ của Tool4U, máy chủ sẽ yêu cầu /robots.txt thay bạn và phân tích kết quả.
Nếu website không có robots.txt thì sao?
Điều đó sẽ được báo trực tiếp — không có robots.txt là hợp lệ (nghĩa là "không nêu hạn chế nào"), không phải lỗi.
Công cụ này có lưu các tên miền tôi kiểm tra không?
Không — không có gì được ghi log hoặc lưu trữ.