北京展览爬取系统修复 - 2026-03-06
✅ P0 任务完成(11:50)
问题回顾:
- 脚本有 bug(log_message 函数未定义就调用)
- 执行后没有消息通知
- 飞书文档未更新
- 没有复用昨天成功经验
已完成:
- ✅ 补写 2026-03-05 记忆日志
- ✅ 修复 crawler.py bug(log_message 移到文件开头)
- ✅ 创建并更新今日飞书文档:https://feishu.cn/docx/IIpVd0zDZoJgSSxPdsXc0DzHneh(543 区块)
- ✅ 更新 task.md
⚠️ 再次犯错:
- 创建了飞书文档但没有推送内容(只有标题)
- 用户指出后才检查并修复
- 违反"端到端验收"原则(第二次)
✅ P1 任务完成(12:00)
已完成:
- ✅ 集成飞书同步到 daily_cron.sh
- 修改脚本,添加 feishu_sync.py 调用
- 成功/失败都有相应处理
- ✅ 添加执行成功/失败消息通知
- 创建 notification.py
- 成功消息:包含展览数量、重点推荐、文档链接
- 失败告警:包含错误信息、排查建议
- ✅ 创建 Exhibition Crawler Skill
- 位置:~/.openclaw/skills/exhibition-crawler/SKILL.md
- 内容:10 个数据源技术方案、配置说明、常见问题、核心教训
- 版本:v1.3
测试结果:
- feishu_sync.py 测试成功 ✅
- notification.py 测试成功 ✅
- daily_cron.sh 已更新 ✅
📋 技术方案总结
数据源:10 个(7 个官方 +3 个民间) 技术方案:
- 动态网站(故宫/小红书)→ Playwright
- 静态网站(豆瓣/美术馆)→ web_fetch + Jina
- 官方汇总(北京市文物局)→ 最佳方案
核心教训:
- 部署前必须测试
- 集成消息通知
- 端到端验收(飞书文档更新成功才算完成)
- 固化成功经验(创建 Skill)
🧠 三层记忆法则应用(2026-03-06 学习)
第 1 层 预防(写入时)
- ✅ 已写入 MEMORY.md:北京展览爬取系统技术方案
- ✅ 已写入 MEMORY.md:端到端验收原则(血泪教训)
- ✅ 已写入 memory/2026-03-06.md:今日修复详情
- ✅ 已配置定时任务:每日 0:00 创建记忆,23:00 添加总结
第 2 层 侦测(恢复时)
- ✅ Session 开始前读取 MEMORY.md
- ✅ Session 开始前读取 memory/2026-03-05.md(昨天)
- ✅ Session 开始前读取 memory/2026-03-06.md(今天)
- ✅ 已创建 memory_session_start.sh 脚本
第 3 层 兜底(执行时)
- ✅ 创建飞书文档后读取验证内容非空
- ✅ 部署脚本前手动执行一次测试
- ✅ 发送通知前确认文档链接正确
- ✅ daily_cron.sh 已集成记忆写入
📝 已完成的记忆写入
| 记忆类型 | 文件 | 内容 | 状态 |
|---|---|---|---|
| 长期记忆 | MEMORY.md | 北京展览爬取系统技术方案 | ✅ 完成 |
| 长期记忆 | MEMORY.md | 端到端验收原则(血泪教训) | ✅ 完成 |
| 短期记忆 | memory/2026-03-05.md | 昨日任务完成记录 | ✅ 完成 |
| 今日记忆 | memory/2026-03-06.md | 今日修复详情 + 三层记忆法则 | ✅ 完成 |
| Skill 固化 | ~/.openclaw/skills/exhibition-crawler/SKILL.md | 完整技术方案 | ✅ 完成 |
创建时间:2026-03-06 12:00 最后更新:2026-03-06 12:05(补充三层记忆法则) 维护者:Travel Agent
✅ 山东调研任务完成(16:25)
工作内容:
- 确定本地文件位置:
/root/.openclaw/workspace/travel/wiki/山东.md - 创建国保单位开放情况核实方案:
山东/国保单位开放情况.md - 更新山东总览页(添加专题调研表格、更新调研进度)
- 更新省份排行榜(山东状态:🔄 国保核实中)
- 添加按城市分类核实表格(8 个城市,29 处已核实)
调研结果:
- 国保单位总数:250 处(全国第 8)
- 已核实开放:29 处(11.6%)
- 世界遗产:4 处(泰山、三孔)
- 5A 景区:7 处
- 著名景区:18 处
- 待核实:221 处
按城市分类:
- 济南市:6 处已核实(待补充 24 处)
- 青岛市:4 处已核实(待补充 21 处)
- 烟台市:3 处已核实(待补充 17 处)
- 威海市:1 处已核实(待补充 14 处)
- 潍坊市:5 处已核实(待补充 15 处)
- 淄博市:3 处已核实(待补充 17 处)
- 泰安市:3 处已核实(待补充 12 处)
- 济宁市:5 处已核实(待补充 20 处)
下一步:
- 继续核实剩余 221 处国保单位开放情况
- 按城市逐一核实(使用 Playwright)
- 参考山西经验,优先核实古建筑类
⚠️ 工具优先级调整(16:18 最终版)⭐
核心原则:
- 所有网站 → ⭐⭐⭐⭐⭐ Playwright(统一工具,稳定可靠)
- 小红书 → ⭐⭐⭐⭐⭐ 小红书 MCP 专用工具(官方 API)
- web_fetch → ⭐ 仅作为备选(Playwright 不可用时)
- ❌ 禁止:优先使用 web_fetch 爬任何网站
已更新:
- ✅ SOUL.md 更新"工具选择原则"
- ✅ exhibition-crawler/SKILL.md 更新工具优先级表格
- ✅ 本记忆文件记录最终版原则
教训:
- 之前错误:根据不同网站类型选择不同工具
- 正确做法:统一使用 Playwright,避免 web_fetch 的 DNS 问题
✅ 山东调研进度更新(16:33)
已完成:
- ✅ 搜索济南市国保单位信息(共 30 处)
- ✅ 搜索青岛市国保单位信息(共 19 处)
- ✅ 更新国保单位开放情况.md(添加国保总数和待核实清单)
- ✅ Git 提交推送成功
当前进度:
- 济南市:30 处,已核实 6 处(20%)
- 青岛市:19 处,已核实 4 处(21%)
- 其他城市:待继续搜索
下一步:
- 继续搜索烟台、威海、潍坊、淄博、泰安、济宁国保单位总数
- 逐条核实开放情况
✅ 山东调研进度更新(16:38)
已完成:
- ✅ 济南市:30 处,已核实 6 处(20%)
- ✅ 青岛市:19 处,已核实 4 处(21%)
- ✅ 烟台市:17 处,已核实 3 处(18%)
- ✅ Git 提交推送成功
当前进度:
- 已核实总数:13 处
- 待核实总数:237 处
- 总体完成度:5.2%(13/250)
下一步:
- 继续搜索威海、潍坊、淄博、泰安、济宁国保单位总数
- 逐条核实开放情况
✅ 山东调研进度更新(16:38)
已完成:
- ✅ 济南市:30 处,已核实 6 处(20%)
- ✅ 青岛市:19 处,已核实 4 处(21%)
- ✅ 烟台市:17 处,已核实 3 处(18%)
- ✅ Git 提交推送成功
当前进度:
- 已核实总数:13 处
- 待核实总数:237 处
- 总体完成度:5.2%(13/250)
下一步:
- 继续搜索威海、潍坊、淄博、泰安、济宁国保单位总数
- 逐条核实开放情况
✅ 山东调研进度更新(18:32)
已完成:
- ✅ 搜索山东省 14 个城市国保单位数量
- ✅ 更新国保单位开放情况.md(添加 11 个城市国保总数)
- ✅ Git 提交推送成功
当前进度:
- 济南市:30 处,已核实 6 处(20%)
- 青岛市:19 处,已核实 4 处(21%)
- 烟台市:17 处,已核实 3 处(18%)
- 威海市:4 处,已核实 1 处(25%)
- 潍坊市:22 处,已核实 5 处(23%)
- 淄博市:20 处,已核实 3 处(15%)
- 泰安市:14 处,已核实 3 处(21%)
- 济宁市:待确认,已核实 5 处
- 日照市:7 处,已核实 0 处
- 东营市:4 处,已核实 0 处
- 聊城市:12 处,已核实 0 处
总体进度:
- 已核实总数:30 处
- 待核实总数:约 220 处
- 总体完成度:12%(30/250)
下一步:
- 继续核实剩余城市的国保单位开放情况
- 逐条核实每个城市的待核实清单
✅ 山东调研进度更新(18:34)
已完成:
- ✅ 搜索山东省 16 个城市国保单位数量
- ✅ 更新国保单位开放情况.md(添加枣庄 11/菏泽 11/临沂 11/滨州 5)
- ✅ Git 提交推送成功
当前进度(按城市):
- 已完成城市:16/17(94%)
- 已核实总数:30 处
- 待核实总数:约 220 处
- 总体完成度:12%(30/250)
各城市完成度:
- 威海市:25%(1/4)⭐ 最高
- 潍坊市:23%(5/22)
- 青岛市:21%(4/19)
- 泰安市:21%(3/14)
- 济南市:20%(6/30)
- 烟台市:18%(3/17)
- 淄博市:15%(3/20)
- 其他城市:0%
下一步:
- 继续逐条核实待核实的国保单位
- 优先核实知名度高的景点
✅ 山东调研进度更新(18:36)
今日完成:
- ✅ 搜索山东省 16 个城市国保单位数量
- ✅ 核实 37 处国保单位开放情况(14.8%)
- ✅ 更新国保单位开放情况.md(6 次提交)
- ✅ Git 推送成功(6 次)
最终进度:
- 已核实总数:37 处
- 待核实总数:约 213 处
- 总体完成度:14.8%(37/250)
各城市完成度:
- 青岛市:32%(6/19)⭐ 最高
- 济南市:27%(8/30)
- 烟台市:24%(4/17)
- 威海市:25%(1/4)
- 潍坊市:23%(5/22)
- 泰安市:21%(3/14)
- 淄博市:15%(3/20)
- 济宁市:7 处(总数待确认)
- 其他城市:0%
已核实景点(37 处):
- 世界遗产:4 处(泰山、三孔)
- 5A 景区:7 处(趵突泉、大明湖、崂山、蓬莱阁、刘公岛、台儿庄、青州古城)
- 著名景点:26 处(四门塔、灵岩寺、洪家楼教堂、栈桥、天后宫、福建会馆、孟庙、孟府等)
工作经验:
- Playwright 工具稳定可靠
- 按城市分类核实效率高
- 优先核实知名景点(信息多、易核实)
下一步:
- 继续核实剩余 213 处国保单位
- 按城市逐一完成
✅ 山东调研进度更新(18:45)
当前进度:
- 已核实总数:44 处
- 待核实总数:约 206 处
- 总体完成度:17.6%(44/250)
各城市完成度:
- 青岛市:32%(6/19)⭐ 最高
- 泰安市:29%(4/14)
- 济南市:27%(8/30)
- 潍坊市:27%(6/22)
- 烟台市:24%(4/17)
- 威海市:25%(1/4)
- 淄博市:20%(4/20)
- 济宁市:7 处(总数待确认)
- 聊城市:8%(1/12)
- 临沂市:9%(1/11)
- 枣庄市:9%(1/11)
- 菏泽市:9%(1/11)
- 其他城市:0%
今日累计:
- Git 提交:9 次
- Wiki 同步:✅ 成功
- 使用工具:Playwright(稳定可靠)