本帖最后由 朝阳风雨 于 2022-4-13 23:48 编辑 & N6 g/ ?1 n l
2 C/ f" g1 f; H8 `, l4 t1 N
我的一个网站,从3月21号开始,大量的网页的索引被移除。我一开始还以为是谷歌算法的影响,一开始也没有理它。但是最近发现越来越不对了。即使受到更新的影响,也不可能一下子来源谷歌的完全被拔毛,又不是采集站。非常诡异的曲线。点击快掉光了。而且我没有收到任何谷歌人工操作的提醒。6 R$ N* N" @- B' T* ^/ a
& { }" l: Y ^9 S# o, w; I t% u5 p1 y
9 c t" I) s8 t7 E+ k- W
2 {: E' e9 p/ B
今天有空瞄了一眼网站工具,发现这索引不对啊,已经开始掉了一半了。然后我仔细一查,基本上所有的文章的索引都被移除了。 * M; j, {5 x+ ^8 y # f" k9 u, `! U; N+ ^3 Y2 ?, P, y4 r) m! r4 }( ^9 e2 C
然后看看哪些被移除的,发现网页可以正常访问,但是谷歌抓取就是抓取不了。真是奇怪。抓取的时候,会提示Page fetch错误:Failed: Blocked due to access forbidden (403)。这个太不可思议了。网站已经运行了几年了,怎么现在出现这个问题? # l0 x5 d$ K* o5 E/ m- e6 h8 m- o
# q( @6 Q, J5 [1 w
我把所有的插件都禁止后,发现问题依然存在。然后联系了bluehost客服。他们说我的网站的robots.txt是没有的。那就真的诡异了。没有我之前的网站怎么能抓取到呢?robots.txt是这样的现在。( P* S' q. v ]2 G7 E* R% C
User-agent: * ( R5 j" M3 e2 t1 x: e
Disallow: /wp-admin/ 8 M, y* z0 ~/ r
Allow: /wp-admin/admin-ajax.php 3 y+ c( T" v }6 T
3 b( U9 ~- k* e
Sitemap: https://xxxxx.com/wp-sitemap.xml
复制代码
然后他们改了之后,我发现用了谷歌的url测试工具还是抓取不到,太坑了。 6 Y9 t: g. A7 h2 I" v! A9 x, P& d; V7 `$ y) {( m- m. ^
我发现论坛这2天已经有几个人碰到被黑的情况,大家有空多检查下。我这个网站这次也是被黑的话,已经第二次了。。。' F. i1 V- F/ a: f0 B; x9 e- k5 G
# F3 K. O& h. u: {9 v/ p" d, V
已找到原因,CDN引起的,但是具体问题还在排查。。。8 D; g- l/ E/ Q/ c
( a' [8 L. D9 `2 s7 a4 q3 [