带缓存的网页抓取脚本与测试

用 DeepSeek 网页搜索 API 搭建能实时查文档的本地编程助手

更新于 6天前

适用场景

  • 同一个页面反复抓,白白浪费请求
  • 脚本一崩就丢全部结果
  • 想加测试又不知道从哪写
PROMPT
要写一个带缓存的网页抓取脚本,避免同一页面重复请求,但每次写完都没测试,改一处就崩。要一套完整的,用它。

【需求】
1 任务是用 Python 实现带缓存的网页抓取
2 缓存需要过期时间,能配置
3 要求给出单元测试,覆盖缓存命中和过期
4 运行环境是本地,不依赖云服务
5 不做违反目标站点规则的操作

【输出要求】
1 先给设计思路,说明缓存放哪、键怎么定
2 给完整代码,含缓存读写和过期判断
3 给 pytest 测试用例,覆盖命中和过期两种情形
4 说明怎么造测试数据,不要依赖真实网站
5 指出 2 个容易漏的边界情况
6 不要用需要额外付费的缓存服务
标签
单元测试 爬虫脚本 缓存