本网站基于web.py框架制作分为两个部分,数据抓取以及网站展现。数据库采用sqlite
如何安装web.py请参考
https://webpy.org/install抓取部分目录中Get文件夹内文件负责抓取信息
抓取之前你应该安装如下依赖库:
requests,pyquery安装后执行:
python Get.py可以抓取数据
在服务器中可利用crontab进行定时抓取,本源码中已经写好了sh文件只需要如下操作
先编辑文件根目录的get.sh
vim get.sh修改为你的路径
python /home/yourfile/get.py然后加入crontab
crontab -e*/10 * * * * sh /home/yourfile/get.sh即可。
注意:建议删除数据库文件重新抓取。
展现部分启动应用需要安装gunicorn
pip install gunicorn安装后启动服务
gunicorn -w 8 app:ershou启动服务后默认端口为8000默认只允许127.0.0.1访问也就是只允许本机访问。调试的时候可以加上如下参数
gunicorn -w 8 0.0.0.0:8000 app:ershou这样就可以任意地址访问了。
Nginx配置,把xmiao.org更换为你自己的域名就可以了。
server { listen 80; server_name xmiao.org www.xmiao.org; access_log /var/log/nginx/example.log; location / { proxy_pass https://127.0.0.1:8000; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; }}server { listen 80; server_name ershou.miaowu.asia; location / { rewrite ^ https://www.xmiao.org$request_uri? permanent; }}
评论