网络服务提供商 Cloudflare 宣布即日起为所有网站 (包括免费托管的网站) 带来 AI 审计功能，该功能目前处于测试阶段，可以分析 AI 公司的爬虫和抓爬数据。% n) G6 V! J0 v7 ?: u) j" u
4 l3 ~9 ^4 b& X! B3 p/ n8 F
新的 AI 审计工具 (Cloudflare AI Audit) 主要提供 AI 公司的爬虫何时到网站来抓取数据、抓取的数据地址、抓取频次以及其他分析数据。 . k& s& N6 \% ?, A: N/ Y6 a+ z' Z$ A, i( F) f
内容创作者和网站管理员可以借助 AI 审计功能轻松检查自己的内容被哪些 AI 公司白嫖了，如果被白嫖难受的话，也可以直接一键禁止抓取。1 w. d" S* L, T- z) t
& @5 i& Q% s8 V5 G( H5 x其中 AI 审计工具中的禁止抓取与 Cloudflare 已经提供的一键禁止所有 AI 爬虫抓取不同，在 AI 审计工具中网站管理员可以分门别类的进行审计和屏蔽。, Y+ v- ~/ z2 a! y6 n
! O4 }; e3 z0 x: p4 d$ a" Y举个例子：如果网站已经与 OpenAI 达成协议允许其抓取内容，则网站管理员可以放行 GPTBot 爬虫，而其他认识的、不认识的、白嫖的爬虫可以全部屏蔽。 / T3 f# _# y7 R7 J. J0 S ; K- O/ ]" u" G* K5 J3 b在 Cloudflare 的演示中目前能够识别的爬虫包括 OpenAI、Meta、字节跳动、Common Crawl (通用爬虫，即不可识别到特定公司的爬虫)、Anthropic、Amazon、Perplexity 等知名的人工智能开发商。 9 d1 S' x+ [; a) H3 s/ C 5 V/ k. D" O: M7 m4 B3 X如果网站本身没有和任何一家 AI 公司达成内容授权协议，那还可以通过 AI 爬虫的抓取频次进行封禁，这样可以避免某些公司的爬虫进行高频次抓爬耗费服务器带宽和流量以及影响正常用户的访问体验。 B( i6 g9 M; `6 n; p4 V4 p
& ]; o% Y* f( G+ E. p8 |. U
此外 Cloudflare 还计划在明年推出交易市场，允许网站管理员设置自己网站的内容抓取价格，AI 公司如果愿意的话可以付费获取抓取权限，如果不愿意付费那网站就可以通过 Cloudflare 一键拦截爬虫阻止内容被抓取。- z! {" p# r @: q8 v# c
: R$ g$ a% Y5 s
AI 审计路径：登录 Cloudflare 控制台、选择特定的网站、在左侧导航栏点击 AI Audit 即可查看，目前此功能刚刚上线因此大部分网站数据可能还是空白的。* z9 O+ v! d" J$ b0 Y6 f
& a) ] t9 z( u6 X3 a; F# D
来源: Cloudflare blog 和 landian news # B! c% V( y4 S4 n. e0 m # b- h% E' p! e
发表于 2024-9-24 14:56:24
发表于 2024-9-24 15:02:54
发表于 2024-9-25 21:00:54