Python实现商品价格监控,识破双十一的套路

阿里云双11来了!从本博客参与阿里云,服务器最低只要86元/年!

一年一度的“双十一”又要来了,很多人已经开始摩拳擦掌,毕竟几天之后手还在不在就不好说了。

各种社交软件也是跟着遭殃,整天就是“来帮我一起盖楼”,各种字体绕过屏蔽,什么奇葩的脑洞也出来了: 在这里插入图片描述 不过也感谢这些电商平台,让多年未联系的好友、加过但没有对话的陌生人都找到了打破尴尬的话题。(让场面更加尴尬)

月薪上万的白领们为了2块5毛钱的优惠券起早贪黑,也是堪称人类迷惑行为大赏了……

问题是,你以为自己真的赚到了?

商品“明降暗升”的传言早有耳闻:很多商品在双十一之前早早地把价格调高,加上优惠之后也不过就是跟以前的原价相当。让不知情的消费者在心理上感觉占了便宜。

这个传言是不是真的,很好判断,只要定期去访问商品页面,记录价格就可以。不过一般人也没闲工夫这么去做。于是,我们用 Python 做了一个可以定时监控商品的小工具,可以帮你监控想要关注的商品。

工具完成之后,我们随机挑选了几个商品作为测试,结果就有一个中招了……(真的是随便选的): 在这里插入图片描述 这款保暖背心产品,之前标价 39.9元,到11月之后却突然调价为 49.9元,并标注上了“双11狂欢价”,也就是原价…… 在这里插入图片描述 在这里插入图片描述

商品价格监控

实现功能

  • 输入天猫、苏宁、京东、拼多多(网页页面 http://yangkeduo.com/)任一商品链接,不是口令。请复制选择好商品配置的页面链接,即返回相应商品价格,并保存到文件。商品页面若有团购与单独购买两个价格,返回团购价格。

  • 使用 Windows 任务计划或 Linux 定时任务,定时执行程序。获取不同时段的商品价格信息。

  • 单独运行画图程序,可根据定时任务获取的数据,生成商品价格时间变化折线图。

  • 程序监测的两件商品截图如下,具体文件在 pic 文件夹下 bnbx.html、kyy.html,推荐本地查看。 在这里插入图片描述 在这里插入图片描述 简单的商品查看页面 https://htmlpreview.github.io/?https://raw.githubusercontent.com/spiderbeg/price_monitor/master/search/search.html 。输入查询商品关键词,选择商城,即可查看相应商城商品列表。默认为苏宁。效果图如下。注意:点击后请等待一段时间即可,请勿频繁刷新。 在这里插入图片描述

运行环境

  • python3.7

  • Windows

  • jupyter notebook

运行依赖包

  • requests

  • pyecharts

  • beautifulsoup4

项目思路

部分问题回答

项目的大致思路流程:

  • 第一步:使用商品详细页链接获取商品信息与商品价格,并保存获取数据 时间、商品介绍,价格 到 csv 文件中;

  • 第二步:使用定时任务定时执行第一步完成的程序;

  • 第三步:读取前两步获取到的时间、商品介绍、价格数据。使用 pyecharts 绘制绘制商品价格时间变化折线图。

  • 为什么不使用 pc 端来调试网页,获取价格信息?

因为在未登录状态天猫的详细商品页的信息是虚假的,同时从移动端网页入手,可以降低调试难度。

谷歌浏览器如何开启手机调试模式?

F12 进入开发者模式,然后鼠标点击一下,具体见下图,包括后文的查找价格接口信息。

在这里插入图片描述

实现代码

test.py

  • 测试商品链接是否能够成功获取到商品价格。

import timing
"""
  1 调用 timing.py 中的 go 方法测试链接的可用性
  2 调用 timing.py 中的 go, get_url() 方法测试 goods.csv 文件中链接的可用性
python学习交流群:821460695更多学习资料可以加群获取
"""

# 链接测试
# urls = ['https://m.suning.com/product/0000000000/000000011210599174.html?utm_source=baidu&utm_midium=brand-wuxian&utm_content=&utm_campaign=title&safp=f73ee1cf.wapindex7.113464229882.4&safc=prd.1.rec_14-40_0_A_ab:A',
# 'https://m.suning.com/product/0070067092/000000000188392234.html?utm_source=baidu&utm_midium=brand-wuxian&utm_content=&utm_campaign=title&safp=f73ee1cf.wapindex7.113464229882.60&safc=prd.1.rec_5-5_1018C,1014C$c3ae37eafeb814a098d120647449da6f_H_ab:A',
# 'https://m.suning.com/product/0000000000/000000000107426461.html?src=snsxpd_none_recssxcnxhq_1-3_p_0000000000_000000000107426461_rec_21-65_3_A&safp=f73ee1cf.71jyzx.112079032536.4&safc=prd.1.rec_21-65_3_A',
# 'https://m.suning.com/product/0000000000/10606656136.html?safp=f73ee1cf.phone2019.121927933306.2&safc=prd.0.0']

# 输入文本的链接可用性测试
if __name__ == '__main__':
   urls = timing.get_url()
   for url in urls:
       try:
           timing.go(url) # 获取返回信息
       except BaseException as e:
           print(url,'\n',e)

timing.py

  • 进行定时抓取任务时,运行的文件。

# encoding:utf8
import time
import os
import re
import csv
from shop.jd import JD # 自定义
from shop.tm import TM
from shop.sn import SN
from shop.pdd import PDD
from apscheduler.schedulers.blocking import BlockingScheduler
'''
python学习交流群:821460695更多学习资料可以加群获取
'''
# import logging
# formats = "%(asctime)s %(name)s %(levelname)s function:%(funcName)s -> :%(message)s"
# logging.basicConfig(format=formats, datefmt='%m/%d/%Y %I:%M:%S %p') # ,handlers=[logging.FileHandler(log_path, 'a+', 'utf-8')]
# LOGGER = logging.getLogger(__name__)
# LOGGER.setLevel(logging.INFO)

basePath = os.path.dirname(os.path.abspath(__file__)) # 当前文件夹

def get_date():
   """获取日期"""
   timestamp = int(time.time())
   time_local = time.localtime(timestamp) # #时间戳 转 时间数组
   dt = time.strftime("%Y-%m-%d %H:%M:%S",time_local) # #时间数组 转 新的时间格式(2016-05-05 20:28:54)
   return dt

def get_url():
   """读取商品链接
  返回:图像名,商品名,商品链接 元组
  """
   urls = []
   with open(os.path.join(basePath, 'goods.csv'),'r',encoding='utf8') as f:
       f_csv = csv.reader(f)
       next(f_csv) # 返回标题,直接到内容
       for row in f_csv: # 内容
           if row:
               urls.append(row)
   return urls

def go(url):
   '''输入:链接
  输出:(时间,标题,商品价格), 文件路径 元组
  统一价格输出,以最低价格为标准,如有团购和单独购买以单独购买为准
  '''
   result = re.findall('://(.+?).com', url[2])
   if result:
       result = result[0]
       if 'yangkeduo' in result:
           pd = PDD(url[2])
           title,price = pd.main()
       elif 'suning' in result:
           sn = SN(url[2])
           title,price = sn.main()
       elif 'tmall' in result or 'taobao' in result:
           tm = TM(url[2]) # 605030977928:联想笔记本 ; 603330883901 华为 mate30 pro ; 523962011119: 酸奶
           title,price = tm.main()
       elif 'jd' in result:
           jd = JD(url[2]) # 测试 id:100009083152 商品:联想 y9000x 笔记本电脑 2 热水壶 or 薯条?
           title,price =

https://www.cnblogs.com/qun821460695/p/11822301.html

Python量化投资网携手4326手游为资深游戏玩家推荐:《梦幻模拟战:这届有球大佬太高冷?不愿意带新手到底是谁的锅

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论