robots.txt是搜索引擎蜘蛛爬你站点的时候第一个查看的文件，这个文件是告诉搜索引擎的蜘蛛程序，你的站点上哪些文件给看，哪些不给看。现在主流的搜索引擎还是遵守这一规定，合肥SEO就有深刻体会，本站是20号晚上11点左右解禁robots.txt文件允许搜索引擎蜘蛛访问，21号早上一查百度
......
本文由站长之家用户投稿发布于站长之家平台，本平台仅提供信息索引服务。为了保证文章信息的及时性，内容观点的准确性，平台将不提供完全的内容展现，本页面内容仅为平台搜索索引使用。需阅读完整内容的用户，请查看原文，获取内容详情。