封 AI 爬蟲卻把 Googlebot 一起擋掉?Cloudflare 新版 AI 流量控制的三個分類與一個期限
上個月寫過一篇文章,講 Cloudflare 網路上的 HTML 請求有 57.5% 來自機器人、真人只剩 42.5%(那篇在這)。當時的結論偏哲學:網站的讀者已經一半不是人,你要為誰設計。哲學歸哲學,實務上站長手上的工具只有一個很鈍的開關——Cloudflare 儀表板那顆「Block AI Bots」。它針對的主要是拿內容去訓練模型的爬蟲,但只有開和關兩個狀態,你沒得挑要擋哪一種。 7 月 1 日 Cloudflare 把這顆開關拆了。新版的 AI 流量控制把「AI bot」切成三種用途分開管,連免費方案都能用。更重要的是他們同時宣布:9 月 15 日起預設值要變,而且變法會讓「封鎖 AI 訓練」連 Googlebot 一起擋掉。如果你的站在 Cloudflare 後面、又開過 Block AI Bots,這篇讀完建議去檢查一下設定。 一鍵封鎖為什麼不夠用先講舊開關的問題在哪。 去年那顆「Block AI Bots」的假想敵很明確:拿你的內容去訓練模型、然後一滴流量都不回給你的訓練爬蟲。封它天經地義。但一年下來,「AI bot」這個詞涵蓋的東西越來越雜。有人問 ChatGPT...




