proginn1308055383
3天前在线
全职 · 300/日  ·  6525/月
工作时间: 工作日08:30-15:00、周末08:00-20:00工作地点: 远程
服务企业: 0家累计提交: 0工时
联系方式:
********
********
********
聊一聊

使用APP扫码聊一聊

个人介绍

我是程序员客栈的MRzhang,一名python工程师; 我毕业于曲阜师范大学; 负责过数据爬取,数据分析,数据可视化的开发; 熟练使用python,xpath,可视化,css,request; 如果我能帮上您的忙,请点击“立即预约”或“发布需求”!

工作经历

  • 2022-08-01 -2023-02-03青岛英谷助理

    技术栈 前端:HTML5、CSS3、JavaScript、React.js 后端:Node.js、Express.js 数据库:MySQL 版本控制:Git 部署:Docker、AWS(Amazon Web Services) 开发过程 需求分析与规划 在项目开始阶段,我与产品团队和客户进行了多次沟通,明确了系统的核心功能和用户需求。通过绘制流程图和原型设计,我们确定了网站的整体架构和交互逻辑。 前端开发 使用 React.js 构建了单页面应用(SPA),实现了动态的用户界面和交互效果。通过组件化开发,提高了代码的可维护性和复用性。同时,利用 CSS 预处理器(如 Sass)优化了样式管理。 后端开发 后端使用 Node.js 和 Express.js 构建 RESTful API,处理用户请求、数据验证和业务逻辑。通过中间件实现了用户认证和授权,确保系统的安全性。 数据库设计与集成 设计了关系型数据库(MySQL),存储客户信息、销售记录和用户数据。通过 ORM(对象关系映射)工具简化了数据库操作,提高了开发效率。 测试与优化 在开发过程中,我使用了单元测试和集成测试确保代码质量。

教育经历

  • 2023-09-01 - 曲阜师范大学网络与信息安全硕士

技能

0
1
2
3
4
5
作品
爬取商品数据

功能介绍 数据来源与目标: 该脚本的目标是从购物平台爬取键盘商品的数据。 爬取的数据包括商品的标题、店铺名称、价格、地区、销量、属性和使用场景等信息。 爬取到的数据会被保存到本地的CSV文件中,文件名为键盘商品数据.csv。 数据爬取方式: 脚本通过模拟移动端API的请求,从网站的后端接口获取数据。 使用了平台的mtop.relationrecommend.wirelessrecommend.recommend接口,并通过构造特定的请求参数(如时间戳、签名、设备信息等)来获取商品数据。 数据处理与保存: 爬取到的原始数据是JSON格式,脚本通过解析JSON数据,提取出需要的信息。 对于某些字段(如地区信息、属性信息等),脚本进行了进一步的处理和格式化。 最终,提取和处理后的数据被写入到CSV文件中,方便后续的查看和分析。 实现方式 请求参数的构造: 脚本中定义了多个关键变量,如em_token、eT(时间戳)、eC(设备标识)和ep_data(请求数据)。 通过这些变量,脚本构造了请求的签名(sign),这是通过将em_token、时间戳、设备标识和请求数据拼接后进行MD5加密生成的。 签名用于验证请求的合法性,是API接口调用的必要步骤。 请求头和数据的设置: 脚本设置了请求头(headers),包括用户代理(User-Agent)和Cookie信息,以模拟浏览器或移动端设备的请求。 请求数据(data)中包含了API接口所需的参数,如时间戳、签名、API名称、版本号等。 数据解析与保存: 使用requests库发送GET请求,获取接口返回的数据。 使用正则表达式提取JSON格式的数据,并将其解析为Python字典。 遍历返回的商品数据,提取每件商品的标题、店铺、价格等信息,并根据需要进行格式化。 使用csv.DictWriter将提取的数据写入到CSV文件中。 异常处理与日志: 脚本在写入数据时会打印“已成功写入一条数据”,用于提示数据写入成功。 如果某些字段缺失或格式不正确,脚本会使用默认值(如“未知属性”或“场景未知”)来填充。 应用场景 市场调研:通过爬取商品数据,可以分析键盘市场的价格分布、销量情况、热门属性和使用场景等信息。 电商运营:商家可以利用这些数据来优化商品的定价策略、调整库存或优化商品描述。 数据挖掘与分析:这些数据可以用于进一步的数据分析,例如通过机器学习算法预测商品销量或分析用户偏好。

0
2025-03-11 15:18
下载次数:0
¥100
更新于: 2天前 浏览: 7