1.所需库

1. requests：用于发送http请求
2. BeautifulSoup：用于解析html文档，便于之后的到导航和查找
3. pandas:用于对数据的处理，创建数据电子表格
   2.cid的获取：
   点击F12在右端获取

3.源代码如下：

import numpy as np
from PIL import Image
from bs4 import BeautifulSoup
url="http://comment.bilibili.com/cid.xml"
req = requests.get(url)
html=req.content
html_doc = str(html,"utf-8")
#解析
soup = BeautifulSoup(html_doc,'html.parser')
results = soup.find_all('d')
#x.text表示要放到contents中的值
contents = [x.text for x in results]
#保存结果
dic ={"contents" : contents}
#用字典创建了一个电子表格
df = pd.DataFrame(dic)
#把内容写到bili.csv中
df["contents"].to_csv("hetongxue.csv",encoding="utf-8",index=False)

前言💨

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

前文内容💨

Python爬虫入门教程01：豆瓣Top电影爬取

Python爬虫入门教程02：小说爬取

Python爬虫入门教程03：二手房数据爬取

Python爬虫入门教程04：招聘信息爬取

PS：如有需要 Python学习资料 以及 解答 的小伙伴可以加点击下方链接自行获取
python免费学习资料以及群交流解答点击即可加入

基本开发环境💨

• Python 3.6
• Pycharm

相关模块的使用💨

• requests
• re

安装Python并添加到环境变量，pip安装需要的相关模块即可。

一、💥明确需求

找一个弹幕比较多的视频爬取

二、💥网页数据分析

以前的B站弹幕视频，点击查看历史的弹幕，会给你返回一个json数据，包含了所有的弹幕内容。
现在点击历史弹幕数据，同样是有数据加载出来，但是里面的都是乱码了。


请求这个链接还是会得到想要的数据内容。

只需要使用正则表达匹配中文字符就可以匹配出来

三、💥解析数据并多页爬取

弹幕分页是根据日期来的，当点击 2021-01-01 的使用，返回的给我的数据并不是弹幕数据，而是所有的日期。

那么看到这里有人就会问了，那我想要爬取 2021-01-01 的弹幕数据怎么办？

这两个的url地址是不一样的，seg.so 才是弹幕数据url地址。

import requests
import re


def get_response(html_url):
    headers = {
        'cookie': '你自己的cookie',
        'origin': 'https://www.bilibili.com',
        'referer': 'https://www.bilibili.com/video/BV19E41197Kc',
        'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=headers)
    return response


def get_date(html_url):
    response = get_response(html_url)
    json_data = response.json()
    date = json_data['data']
    print(date)
    return date
    
if __name__ == '__main__':
    one_url = 'https://api.bilibili.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01'
    get_date(one_url)

返回的数据是json数据，根据字典键值对取值就可以得到相关数据。

四、💥保存数据（数据持久化）

def main(html_url):
    data = get_date(html_url)
    for date in data:
        url = f'https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}'
        html_data = get_response(url).text
        result = re.findall(".*?([\u4E00-\u9FA5]+).*?", html_data)
        for i in result:
            with open('B站弹幕.txt', mode='a', encoding='utf-8') as f:
                f.write(i)
                f.write('\n')

五、💥完整代码

import requests
import re


def get_response(html_url):
    headers = {
        'cookie': '你自己的cookie',
        'origin': 'https://www.bilibili.com',
        'referer': 'https://www.bilibili.com/video/BV19E41197Kc',
        'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=headers)
    return response


def get_date(html_url):
    response = get_response(html_url)
    json_data = response.json()
    date = json_data['data']
    print(date)
    return date


def save(content):
    for i in content:
        with open('B站弹幕.txt', mode='a', encoding='utf-8') as f:
            f.write(i)
            f.write('\n')
            print(i)


def main(html_url):
    data = get_date(html_url)
    for date in data:
        url = f'https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}'
        html_data = get_response(url).text
        result = re.findall(".*?([\u4E00-\u9FA5]+).*?", html_data)
        save(result)


if __name__ == '__main__':
    one_url = 'https://api.bilibili.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01'
    main(one_url)

💥总结

1、需要登陆才能查看历史弹幕，爬取时需要携带cookie

2、可以保存到Excel里面，本文是保存txt文本

3、保存数据之后可以做词云分析下篇文章再说吧

系列文章目录

python爬虫实践–晋江小说书籍分析
python爬虫实践-腾讯视频弹幕分析
python爬虫实践-B站弹幕分析

前言

在前两次的晋江小说和腾讯弹幕爬取基础上，我逐渐觉得自己掌握了这门技术的奥义？于是迫不及待地又对准了我的下一个目标——B站。
为什么是B站？作为弹幕文化的大本营，必须是B站，B站的大部分有趣都来自于弹幕。

目录

与前两个爬虫实践如出一辙，都是一个主函数作为程序入口，并调用子函数。其它几个def定义的子函数分别来处理不同阶段的数据。

该程序用到的头文件

import requests
from bs4 import BeautifulSoup
from docx import Document

主程序模块

if __name__=="__main__":
    main()

单纯地给程序一个入口，就像起跑线。

main（）函数

def main():
    url = 'https://comment.bilibili.com/251139222.xml'
    savename = 'B站弹幕1.docx'
    title = '风犬少年的天空第二集'
    link = 'https://www.bilibili.com/bangumi/play/ep340251?from=search&seid=11822154625123447233'
    # 1.访问弹幕数据
    html = accessbarrage(url)

    # 2.对弹幕数据进行解析
    comments = analysibarrage(html)

    # 3.保存到doc文件
    savebarrage(comments, title, link, savename)

main（）函数用来总揽全局，它相当于这群子函数的老大，决定谁先干什么，谁后干什么，并且实现数据的传递，即把前一个函数处理完的数据递交给下一个函数做参数。

1.访问弹幕数据

def accessbarrage(url):
    html = requests.get(url).content
    return html

2.对弹幕数据进行解析

def analysibarrage(html):
    html_data = str(html, 'utf-8')
    bs4 = BeautifulSoup(html_data, 'lxml')
    results = bs4.find_all('d')
    comments = {comment.text for comment in results}
    comments = list(comments)
    comments = sorted(comments)
    return comments
    # comments_dict = {'comments': comments}

熟练运用bs里的各种子函数，可以快速准确地找到需要的数据。

3.保存到doc文件

def savebarrage(comments,title,link,savename):
    document = Document(savename)
    #添加段落，文本可以包含制表符（\t）、换行符（\n）或回车符（\r）等
    #添加标题，并设置级别，范围：0 至 9，默认为1
    document.add_heading(title, 0)
    document.add_heading(link, 1)
    for item in comments:
        document.add_paragraph(item)
    #保存.docx文档
    document.save(savename)

总结

实际上，做多了就发现，这种爬虫程序主要就三步。
1.先把整个网页提取出来
2. 再在提取出来的网页里筛选需要的数据（bs中的一些函数可以提供方便）
3. 存到自己的文档中，方便查看分析。