适用场景
- 同一个页面反复抓,白白浪费请求
- 脚本一崩就丢全部结果
- 想加测试又不知道从哪写
PROMPT
要写一个带缓存的网页抓取脚本,避免同一页面重复请求,但每次写完都没测试,改一处就崩。要一套完整的,用它。 【需求】 1 任务是用 Python 实现带缓存的网页抓取 2 缓存需要过期时间,能配置 3 要求给出单元测试,覆盖缓存命中和过期 4 运行环境是本地,不依赖云服务 5 不做违反目标站点规则的操作 【输出要求】 1 先给设计思路,说明缓存放哪、键怎么定 2 给完整代码,含缓存读写和过期判断 3 给 pytest 测试用例,覆盖命中和过期两种情形 4 说明怎么造测试数据,不要依赖真实网站 5 指出 2 个容易漏的边界情况 6 不要用需要额外付费的缓存服务