爬取豆瓣电影排名的代码以及思路

阿里云2000元红包!本站用户参与享受九折优惠!

博问上到有人问的,后自己帮他代码修正了一下,其实蛮简单的一个爬虫

代码以及思路

from requests_html import HTMLSession
session = HTMLSession()  #定义一个session对象,和reuqests模块中的session是一样的
def get_movie():
    
    movie_list=[]
    
    for i in range(0, 10):  #前250名
        
        print(f'{i+1}页')
        link = f'https://movie.douban.com/top250?start={i*25}' #这里呢稍微点几页你就知道规律了
        print(link)
        response = session.get(link)   #这里很多人都有误区总是喜欢加User-Agen,个人感觉他反爬的时候用到这个再加,人家都没设这方面的反爬加了也没啥意义
        
        div_list = response.html.find('.info')  #你也可以获取info类下的电影信息
        for each in div_list:
            movie = each.text  #获取里面所有字符串
            movie_list.append(movie)  #加列表你可以存数据库,这随意
    return movie_list
if __name__ == '__main__':
    print(get_movie())

https://www.cnblogs.com/pythonywy/p/11927683.html

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论