站长之家(ChinaZ.com) 9月28日消息:根据人工智能内容检查器和抄袭检查服务 Originality.ai 的最新分析，目前排名前 100 位中至少有 26 个网站（排名前 1000 位则有 242 个）已经屏蔽了 OpenAI 于 8 月 7 日推出的网络爬虫 GPTBot。
这比上个月增加了 250%，当时在排名前 1000 位的网站中，只有 69 家屏蔽了 GPTBot。
是否屏蔽 ChatGPT 一直是许多 SEO 人员面临的重要问题，因为 ChatGPT 没有引用或链接到其来源。我们允许搜索引擎爬取我们的内容，因为存在明显的潜在好处——通过直接链接/引用获取流量。
显然，更多受欢迎的网站决定屏蔽 GPTBot，可能是因为他们不希望 OpenAI 在没有任何形式补偿情况下获取他们数据以帮助训练模型。
12 个热门网站现已屏蔽 GPTBot。在上个月新增的 100 个最受欢迎的网站中，大部分都是发布新闻和信息的网站：
- pinterest.com
- indeed.com
- theguardian.com
- sciencedirect.com
- usatoday.com
- stackexchange.com
- alamy.com
- webmd.com
- dictionary.com
- washingtonpost.com
- npr.org
- cbsnews. com
而有趣的是，在上个月还阻止 GPTBot 的 Foursquare 现在不再阻止了。
那么 CCbot 呢？Common Crawl 的网络爬虫仍然被少数网站（130 个）屏蔽。值得注意的是，Common Crawl 为 OpenAI、Google 和其他公司提供了部分训练数据。
另外，在本次分析中有 1000 个网站中有 67 个 robots.txt 文件未被识别/检查。（这就是为什么在文章开头写了「至少」。）
ChatGPT源码推荐：小狐狸ChatGPT付费创作系统完全开源源码