py-chan · 缠论《教你炒股票》抓取器
抓取 kline8.com/chanlun 上缠中说禅
《教你炒股票》系列全部 108 课原文,转换为结构化数据,并直接写入 Vue 阅读站
D:\code\chan,在 http://localhost:5173/chanlun 展示。
p=0是目录页,p=1…p=108依次对应第 1~108 课。
依赖
pip install -r requirements.txt
使用
python main.py # 全量抓取(带缓存,可重复运行)
python main.py --limit 3 # 仅抓前 3 篇,联调测试
python main.py --refresh # 忽略缓存重新抓取
python main.py --no-images # 不下载图片,正文保留远程链接
产物
| 路径 | 说明 |
|---|---|
data/raw/p001.html … |
原始 HTML 归档 |
data/markdown/ke-001.md … |
每篇 Markdown 归档 |
data/articles.json |
全量结构化数据 |
D:\code\chan\src\data\chanlun.ts |
Vue 数据源(首次运行会自动备份示例为 chanlun.sample.ts) |
D:\code\chan\public\chanlun-img\… |
本地化图片 |
模块
config.py—— 站点、请求、产物路径等常量fetcher.py—— 带限速 / 重试 / SSL 回退的 HTTP 抓取parser.py—— 目录页与文章页解析,产出Article结构converter.py—— 正文 HTML → Markdown(含行内样式与图片)writer.py—— 图片本地化、TS 数据文件、JSON 输出main.py—— 命令行入口与编排
抓取后到 D:\code\chan 运行 pnpm dev,访问 http://localhost:5173/chanlun
即可看到全部 108 课;点击任意一篇进入沉浸式阅读页。
Description
Languages
HTML
99.1%
Python
0.9%