Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。

显示在搜索引擎结果下的链接，意在引导用户到网站的子页面。

他们出现在品牌自然搜索和付费服务提供商。你可以通过使用谷歌/百度广告在付费网页中建立网站链接。

通过品牌自然搜索则是另外一种情况，该过程是自动化的，因此你不能影响是否有站点链接、链接的数量以及链接到的页面。你所能做的就是确保网站优化能够提供良好的用户体验。

Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。也叫机器人排除标准（Robots Exclusion Standard），网站使用的文本文件，用于与网络机器人（最常见的SE机器人）进行通信，以处理网站的每个页面。在这里，您可以将某些页面设置为漫游器的禁区，并仅扫描最有用的内容。