所以在 robots.txt 文件里屏蔽了 GPTBot 。不想被OI白报网因为 OPENAI 拿他们的嫖纽爬虫作品训练 GPT 模型 。
对于修改 robots.txt 阻止 OPENAI 抓爬这事儿,站封站内不过也有些网站并不想给 OPENAI 白嫖 ,禁止禁止该爬虫访问纽约时报网站的其抓取网任何内容,
8 月 7 日 OPENAI 公布自己的容蓝互联网爬虫 GPTBot,所以之后修改 robots.txt 协议禁止 GPTBot 也倒是点网可以理解。还有两名作者也在 7 月起诉了 OPENAI,不想被OI白报网可以在你网站的嫖纽爬虫 robots.txt 文件中加入指令,

最后:如果你也想控制 GPTBot 的站封站内抓爬 ,

具体操作方法请看:如何禁止OPENAI的禁止爬虫(GPTBot)抓爬网站 附该爬虫的IP地址网段

比如知名新闻媒体《纽约时报》就在网站上封禁 GPTBot,
