Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。也叫机器人排除标准（Robots Exclusion Standard），网站使用的文本文件，用于与网络机器人（最常见的SE机器人）进行通信，以处理网站的每个页面。在这里，您可以将某些页面设置为漫游器的禁区，并仅扫描最有用的内容。

Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。

HTML源代码即网页源代码，通过语法规则可让图片、文字等内容在浏览器显示出来。HTML是用于创建网页和应用程序的标准标记语言。HTML源代码是我们在编译器将代码转换为你在浏览器中看到的内容之前可以修改代码的唯一阶段。你可以在任何浏览器中查看源代码（右键单击+在Chrome中检查，然后右键单击+在Firefox中查看页面源代码）。如果要修改它，建议使用纯文本或代码编辑器。大多数技术搜索引擎优化都是通过HTML代码完成的。