关于robots的写法网上有很多的介绍，Robots可以用来防止搜索引擎抓取那些我们不想被搜索引擎索引的内容，很多网站都在里面加入网站的地图sitemap.xml，这样可以让蜘蛛快速的爬行网站。 格式： User-agent: * Disallow: Sitemap:sitemap.xml 我们来看看一些大型网站的robots.txt是怎
......
本文由站长之家用户投稿发布于站长之家平台，本平台仅提供信息索引服务。为了保证文章信息的及时性，内容观点的准确性，平台将不提供完全的内容展现，本页面内容仅为平台搜索索引使用。需阅读完整内容的用户，请查看原文，获取内容详情。