45 lines
1.6 KiB
Markdown
45 lines
1.6 KiB
Markdown
# py-chan · 缠论《教你炒股票》抓取器
|
||
|
||
抓取 [kline8.com/chanlun](https://www.kline8.com/chanlun?p=0) 上缠中说禅
|
||
《教你炒股票》系列全部 108 课原文，转换为结构化数据，并直接写入 Vue 阅读站
|
||
[`D:\code\chan`](../chan)，在 `http://localhost:5173/chanlun` 展示。
|
||
|
||
> `p=0` 是目录页，`p=1`…`p=108` 依次对应第 1～108 课。
|
||
|
||
## 依赖
|
||
|
||
```bash
|
||
pip install -r requirements.txt
|
||
```
|
||
|
||
## 使用
|
||
|
||
```bash
|
||
python main.py # 全量抓取（带缓存，可重复运行）
|
||
python main.py --limit 3 # 仅抓前 3 篇，联调测试
|
||
python main.py --refresh # 忽略缓存重新抓取
|
||
python main.py --no-images # 不下载图片，正文保留远程链接
|
||
```
|
||
|
||
## 产物
|
||
|
||
| 路径 | 说明 |
|
||
| --- | --- |
|
||
| `data/raw/p001.html …` | 原始 HTML 归档 |
|
||
| `data/markdown/ke-001.md …` | 每篇 Markdown 归档 |
|
||
| `data/articles.json` | 全量结构化数据 |
|
||
| `D:\code\chan\src\data\chanlun.ts` | Vue 数据源（首次运行会自动备份示例为 `chanlun.sample.ts`） |
|
||
| `D:\code\chan\public\chanlun-img\…` | 本地化图片 |
|
||
|
||
## 模块
|
||
|
||
- `config.py` —— 站点、请求、产物路径等常量
|
||
- `fetcher.py` —— 带限速 / 重试 / SSL 回退的 HTTP 抓取
|
||
- `parser.py` —— 目录页与文章页解析，产出 `Article` 结构
|
||
- `converter.py` —— 正文 HTML → Markdown（含行内样式与图片）
|
||
- `writer.py` —— 图片本地化、TS 数据文件、JSON 输出
|
||
- `main.py` —— 命令行入口与编排
|
||
|
||
抓取后到 `D:\code\chan` 运行 `pnpm dev`，访问 `http://localhost:5173/chanlun`
|
||
即可看到全部 108 课；点击任意一篇进入沉浸式阅读页。
|