Trình kiểm tra Robots.txt
Lấy và phân tích robots.txt đang hoạt động của một website — các quy tắc theo user-agent và sitemap được liệt kê.
Related tools
How it works
- 1
Nhập một tên miền
Chỉ cần website, ví dụ https://example.com.
- 2
robots.txt được lấy từ thư mục gốc
Công cụ tự động yêu cầu /robots.txt trên tên miền đó.
- 3
Phân tích và hiển thị quy tắc
Các quy tắc Allow/Disallow theo từng user-agent, cùng mọi dòng Sitemap.
FAQ
- Tại sao công cụ này cần máy chủ, khác với phần lớn công cụ ở đây?
- Việc lấy robots.txt của tên miền khác trực tiếp từ trình duyệt bị CORS chặn, nên phép kiểm tra này được thực hiện bởi máy chủ của Tool4U, máy chủ sẽ yêu cầu /robots.txt thay bạn và phân tích kết quả.
- Nếu website không có robots.txt thì sao?
- Điều đó sẽ được báo trực tiếp — không có robots.txt là hợp lệ (nghĩa là "không nêu hạn chế nào"), không phải lỗi.
- Công cụ này có lưu các tên miền tôi kiểm tra không?
- Không — không có gì được ghi log hoặc lưu trữ.
