做蜘蛛池评测这两年,我最怕看到的一种写法是:列一堆参数,然后给个总分。参数是厂商给的,总分是拍脑袋的,读者拿回去没法用。这篇讲我自己的评测方法:五组对照,同条件跑三个月,最后按能不能验证来打分。
评测前先定评价口径
评测的对象不是软件,是方案。同一个工具,配二十个域名和配两百个域名,表现完全不同。所以我的口径固定为:入口域名六十个、目标页面三千个、周期九十天、内容更新每周一次。口径不同,结论不能互相引用,这也是很多评测看着矛盾的原因。
五组对照怎么设计
第一组抓取稳定性,看九十天里抓取中断的次数和恢复时间。第二组索引留存,看第三十天和第九十天的留存率。第三组配置成本,从装好到跑通算出人时。第四组故障恢复,人为制造两次故障看恢复路径。第五组数据可读性,看日志能否导出并按需筛选。
| 对照项 | 观察方式 | 合格线 | 权重 |
|---|---|---|---|
| 抓取稳定性 | 中断次数与恢复时间 | 90天中断不超过2次 | 30% |
| 索引留存 | 30天与90天留存率 | 90天不低于55% | 25% |
| 配置成本 | 跑通所需人时 | 不超过8人时 | 15% |
| 故障恢复 | 两次人为故障 | 30分钟内恢复 | 20% |
| 数据可读性 | 日志导出与筛选 | 可导出可筛选 | 10% |
三个月实测的两个结论
第一个结论:抓取稳定性比功能数量重要。测过的五套方案里,功能最少的那套因为稳定,综合分排第二。第二个结论:配置成本被严重低估。有一套方案功能齐全,但跑通花了二十六人时,折算下来比省下的软件费贵得多。
还有一个反直觉的发现:日志越详细,后期越省人。前期配置多花两小时,后面每天能省二十分钟,三个月就把时间赚回来了。
哪些指标看着好其实没用
支持域名数量、支持并发数、内置模板数量,这三项最容易被拿来做卖点。域名数量是数据库字段,并发数取决于你的服务器,模板数量多不代表质量好。真正要看的是日志和调度,这两项决定你出问题时能不能定位。
评测的底层方法和我写模板下载那篇时的自检思路一致:先能验证,再谈好坏。更多评测样本收在蜘蛛池评测栏目。
评测报告该怎么读
看报告先看口径,再看样本量,最后看结论。只写结论不写口径的,基本可以跳过。另外注意有没有对照组,没有对照的评测,数字再漂亮也只是描述,不是证据。
样本怎么选才不失真
样本要能代表日常状态。有人评测时专挑最容易收录的页面,结果分数很高,实际用起来完全不是那么回事。我的做法是三类页面各占三分之一:栏目页、内容页、长尾页,并且提前固定名单,不中途替换。
另外要记录失败样本。收录失败的页面比成功的更有信息量,能看出方案在哪一类内容上会卡住。只报成功案例的评测,参考价值有限。
评测结论怎么写才有用
结论要写成条件句:在什么规模、什么内容策略、什么预算下,选哪一套更合适。写成绝对排名的结论,换个场景就失效。我自己的报告最后都会附一段不适用场景,这部分往往比结论本身更有用。
常见问题
自己测要多久
至少九十天。三十天能看出抓取是否稳定,看不出留存。
能不能只看评分
不建议。评分是别人口径下的结果,你的域名规模和内容策略不同,权重也该不同。
评测里最容易造假的指标是哪个
收录数。样本页面选得巧,收录数可以很好看,但留存一查就露馅。
