抓取權限檢查
檢查搜尋引擎與 AI 搜尋是否可以讀取網站
輸入 robots.txt 後會顯示 Sitemap、搜尋工具規則與指定頁面是否可能被阻擋。
robots.txt 對 SEO 的重點
robots.txt 不是用來保證收錄,而是控制搜尋工具是否可以抓取。重要服務頁、分類頁與 blog 文章不應被Disallow 誤傷;Sitemap 入口則能幫 Google、Bing 與 AI 搜尋服務更快發現內容。
如果網站正在做 GEO 或 Agent SEO,建議同時確認 GPTBot、ClaudeBot、Google-Extended、PerplexityBot 等 AI 搜尋服務的存取策略。
