全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

CeraNetworks网络延迟测速工具IP归属甄别会员请立即修改密码
查看: 305|回复: 2

有無最安全的防止網站被網絡上所有爬蟲發現的辦法?

[复制链接]
发表于 2025-4-6 15:10:17 | 显示全部楼层 |阅读模式
本帖最后由 httpd 于 2025-4-6 15:12 编辑

我目前採用robots.txt+.htpasswd的辦法,直到有一天我在某搜索引擎site:發現居然被索引了HTTP驗證的字樣,正經的蜘蛛都這樣,不正規的不是和去他家客廳一樣簡單
发表于 2025-4-6 15:33:16 | 显示全部楼层
robots.txt 靠的是自觉
发表于 2025-4-6 16:08:51 | 显示全部楼层
加人机验证码
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2025-5-11 01:32 , Processed in 0.064816 second(s), 9 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表