杜乐艺
1月前来过
全职 · 500/日  ·  10875/月
工作时间: 工作日10:00-06:00、周末10:00-06:00工作地点: 远程
服务企业: 0家累计提交: 0工时
联系方式:
********
********
********
聊一聊

使用APP扫码聊一聊

个人介绍

我是程序员客栈的【暮色】,一名【开发】;

我毕业于【电子科技大学】,担任过【腾讯】的【开发】,担任过【小米】的【数据工程师】

如果我能帮上您的忙,请点击“立即预约”或“发布需求”!

工作经历

  • 2018-07-01 -2024-03-21腾讯开发

    网络爬虫及网站开发经验 Python多进程、多线程、协程技术 Python运行时内存优化技术 Python程序打包成exe的技术 高并发、抗反爬的网络爬虫技术(XPATH、Regex正则表达式,数据加密解密、数据提取、数据清洗、数据存储优化、验证码破解、代理池构建等) Web网站后端开发技术(Django、Flask、Mysql、Redis、Nginx、Supervisor) Mysql数据库设计及数据备份、同步、查询优化技术 Redis、MongoDB数据库使用技术 Django、Scrapy的使用技术 服务器自动化部署及定时调度技术 基于Matlab的图像加密、图像无痕水印技术网络爬虫及网站开发经验 Python多进程、多线程、协程技术 Python运行时内存优化技术 Python程序打包成exe的技术 高并发、抗反爬的网络爬虫技术(XPATH、Regex正则表达式,数据加密解密、数据提取、数据清洗、数据存储优化、验证码破解、代理池构建等) Web网站后端开发技术(Django、Flask、Mysql、Redis、Nginx、Supervisor) Mysql数据库设计及数据备份、

教育经历

  • 2014-09-01 - 2018-06-26电子科技大学电子信息硕士

技能

0
1
2
3
4
5
作品
球探比分网历史数据的获取

Scrapy来爬取球探网的数据:可以爬取球员数据,包括球员名称、年龄、身高、体重、位置、球队,历史比分等信息。通过浏览器开发者工具查看页面元素,确定数据位置,以便后续定位提取。使用requests获取页面:构造请求获取不同位置的球员数据页面。使用BeautifulSoup解析页面:解析页面HTML文档,使用CSS选择器或XPath提取包含目标数据的标签内容。 使用正则表达式提取数据:对提取的文本内容使用正则表达式进行解析,获取具体的数据字段。将获取的具体数据库异步存入数据库,以便分析。设计缓存和异常处理机制:使用缓存避免重复爬取,处理各种异常情况如网页解析错误等。使用线程、协程提高爬取效率。

0
2024-04-07 23:19
国有企业电商网络平台

国有企业电商网络平台,使用Django、HTML、Js、CSS、Jquery、Mysql、信息加密解密技术、信息分块传输技术等构建的国企电商平台。

0
2024-04-07 23:16
基于二手车交易数据的二手车估值平台项目

基于二手车交易数据的二手车估值平台项目 构建日均爬取20万条以上数据的网络爬虫,从二手车交易平台获取车辆的报价、售价、使用及保养情况等数据,通过机器学习算法对二手车进行估值。主要使用工具:Scrapy、Redis、Django、Mysql。

0
2024-04-07 23:13
更新于: 04-07 浏览: 60