Google从2026年8月底起调整了搜索结果的链接展示方式。过去直接暴露的目标URL现已被替换为google.com/goto格式的重定向链接,用户点击后才会跳转至真实网址。

人工智能工具大规模抓取网站内容用于模型训练,正在打破互联网长达30年的内容流通生态。根据Cloudflare的数据,超过50%的网络流量现已来自AI爬虫。为了维护自身收益,越来越多网站开始采取措施阻止AI爬虫访问。Cloudflare表示,从9月15日起,其管理的全球前10,000个网站中超过30%将在包含广告的页面…
git.kernel.org运维团队报告,用于训练大语言模型的AI爬虫对该网站造成了严重的资源压力。这些爬虫采用低效的HTML渲染方式大量采集提交历史数据,导致基础设施不堪重负。虽然Anubis挑战机制已阻止66%的爬虫访问,但另外33%的爬虫已经学会破解该防护措施,继续对系统发起请求。