个人介绍
经过不断的成长和锻炼本人拥有以下特点:积极乐观、不怕困难,喜欢团队协作的感觉,大学期间与同学共同参加竞赛完成小组任务培养了我
良好的沟通交流,分工协作的能力,在集思广益下完成任务不仅效率高,同时质量也能相应提高
自律、喜爱编程,长期以来坚持今日事今日毕,刚进研究所时需要部署安装CDH遇到了困难但是
最后在和同学的交流下最终成功解决,喜欢编程看各种编程知识论坛,自己编写过抽奖转盘,解压
脚本,在本地搭建自己的网页
自学能力强,特别是进入研究所之后,进行企业制教学,更需要自己主动进行学习,这段时间学习
过Doris,Javascript,Minio,kettle部署datax-Web等等
希望在之后的学习工作中能进一步提高素质,丰富技能,做好属于自己的工作!
工作经历
2023-04-04 -2023-05-04数宜信数据开发
项目简介:为尽可能避免银行对企业放贷的风险,因此需要借助目标企业的各种信用指标、经营指标和 风险指标等作为信用放贷的标准,本公司为客户研发的银行企业放贷指标查询系统会提供所需指标信息 进行精准放贷,这个系统具有TB级的的企业数据,多级分层数据、丰富的指标库、响应迅速的搜索功能 和支持高并发扩展多种优势。 主要工作: 1.部署CDH大数据平台安装HDFS,HUE,HDFS,Spark等等工具,配置Python,爬虫环境 2.使用Scrapy爬虫框架在例如企查查等平台采集企业数据,将爬取到的数据存入MySQL 3.使用sqoop将MySql中的数据导入HDFS,利用HIVE SQL清洗数据,形成dwd层数据存入新表 3.然后使用Spark SQL计算数据得到指标,再通过AHP层次分析法得出决策 4.最后使用Superset对指标进行可视化,利用Flask框架创建项目
教育经历
2020-09-01 - 重庆工程学院数据科学与大数据技术本科
技能
1、更简便的使用webul界面清楚得知数据库运行情况 2、部署zabbix监控平台 3、在监控PostgreSQL时错误退出导致zabbix无法正常启动,解决办法找到记录运行的pid文件删除
1、实现及时监控数据库的运行状况,假如宕机通过*方式发送错误信息 2、搭建Doris数据库,以及编写python脚本,另外安装了zabbix监控系统监控mysql数据库 3、如何准确得到数据库的运行信息,使用python连接数据库得到数据库信息使用json.loads将json文件转换成python可执行的数据结构