个人介绍
1.有2年数据抓取开发经验
2.熟练掌握python编程语言,具有扎实的编程基础和良好的代码风格,
3.精通python编程语言,熟悉爬虫原理,常见的反爬虫技术和cookie的登录原理,具备丰富的爬虫开发经验,熟悉scrapy,selenium等开发框架
4.熟悉html,css,javascript等前端知识,掌握web界面的分析方法,熟练掌握xpath,正则等其中几种常用的信息抽取技术,具备良好的数据清洗和处理能力;
5.熟悉linux系统,熟悉mysql,mongodb,redis等,熟悉基本网络协议(U如tcp/udp等)
6.解决各类反爬问题,如字体加密,js混淆,验证码,app抓包和逆向工程;
7.熟练使用模拟登录,UA池,动态代理,IP池等常规伪装手段
8.熟悉SQLAlchemy,Peewee,Celery,Pandas,NumPy等数据处理和分析框架
工作经历
2021-08-13 -至今软通java 工程师
1. 中国建设银行p8主机下移项目 使用java语言对以前使用col语言构建的项目进行重构,就是根据以前的功能点使用java重新开发,采用了spring框架结构,采用了kafka,rabbitMq等消息队列作为消息缓存,使用redis缓存与数据库之间的数据,多台tomcat服务器使用nginx做负载均衡,采用了springboot作为微服务开发的框架,使用了springcloud提供服务注册,配置统一管理,断路器等功能,数据库采用了oralce+mangodb结合使用,配合redis缓存。部署采用了k8s集群管理容器,使用netty网络通讯框架处理多并发时的业务场景 本人主要工作: 读懂以前的col代码程序,理解项目业务流程并且使用java按照标准进行功能开发,测试,上线工作,负责了系统上线时k8s集群的安装部署,spring cloud服务注册,使用docker、kubectl、helm对pod/container进行运维操作,应用kibana分析运行时日志,输出日志图表供有关人员分析 2. 爬虫与数据分析项目(python) 根据需要爬取的数据进行需求分析,分析目标网站的网站结构和
教育经历
1995-09-01 - 1999-07-01江西理工大学自动化本科
1995 年到1999年在江西理工大学,全日制本科就读工业自动化专业
资质认证
技能
目前在接单的设计师有几百个,账号量比较大,而且经常有人走有人来,流量性也大,为了方便管理,通过企业*自建公司内部应用,账号则用企业*的身份绑定登入即可,就是在企业*内打开即可登入。 pc界面就是在企业*打开,移动端界面只用搜索+查看功能即可 文件存储逻辑:考虑到服务器存储问题,所有的文件上传到系统后,就开始倒计时7天后自动Del, 暂时考虑用阿里云的服务器,500G的内存。 每个用户默认最高可使用5GB容量
java服务端开发。建立数据库,给app提供接口,给后台提供接口。 项目是电商类,总结了给app端的接口在附件。需要前后端分离,所以也需要给后台提供接口。 零件图册系统+进销存+网络商城