好湿?好紧?好多水好爽自慰,久久久噜久噜久久综合,成人做爰A片免费看黄冈,机机对机机30分钟无遮挡

主頁 > 知識庫 > python爬取網頁版QQ空間,生成各類圖表

python爬取網頁版QQ空間,生成各類圖表

熱門標簽:佛山400電話辦理 地圖標注面積 所得系統電梯怎樣主板設置外呼 小蘇云呼電話機器人 朝陽手機外呼系統 北瀚ai電銷機器人官網手機版 儋州電話機器人 市場上的電銷機器人 北京電銷外呼系統加盟

github源碼地址:

https://github.com/kuishou68/python

各類圖表的實現效果

爬取的說說內容

個性化說說內容詞云圖

每年發表說說總數柱狀圖、每年點贊和評論折線圖

7天好友動態柱狀圖、餅圖

使用方法

按照你的谷歌瀏覽器下載指定版本的驅動 http://chromedriver.storage.googleapis.com/index.html

驅動跟兩個python腳本放入同目錄,我的版本是90.0.4430的,查看你自己的版本,下載后把我的chromedriver.exe替換掉!

這里用到了很多第三方包,鼠標放在報紅的包名下,用Alt+Enter導包,如果失敗則在控制臺用下面的必殺技

pip install 包名 -i http://pypi.douban.com/simple/ --trusted-host pypi.douban.com

主要代碼

qq空間txt.py

import time
from selenium import webdriver
from lxml import etree

# 這里一定要設置編碼格式,防止后面寫入文件時報錯

friend = '1569339843'  # 朋友的QQ號,朋友的空間要求允許你能訪問
user = '783533896'  # 你的QQ號
pw = '1323mkoNJI.@'  # 你的QQ密碼

# 獲取瀏覽器驅動
chrome_driver = 'chromedriver.exe'
driver = webdriver.Chrome(executable_path=chrome_driver)

# 瀏覽器窗口最大化
driver.maximize_window()

# 瀏覽器地址定向為qq登陸頁面
driver.get("http://i.qq.com")

# 所以這里需要選中一下frame,否則找不到下面需要的網頁元素
driver.switch_to.frame("login_frame")
time.sleep(3)
# 自動點擊賬號登陸方式
driver.find_element_by_id("switcher_plogin").click()
time.sleep(3)
# 賬號輸入框輸入已知qq賬號
driver.find_element_by_id("u").send_keys(user)
time.sleep(5)
# 密碼框輸入已知密碼
driver.find_element_by_id("p").send_keys(pw)
time.sleep(5)
# 自動點擊登陸按鈕
driver.find_element_by_id("login_button").click()
time.sleep(5)
# 讓webdriver操縱當前頁
driver.switch_to.default_content()
time.sleep(5)
# 跳到說說的url, friend你可以任意改成你想訪問的空間
driver.get("http://user.qzone.qq.com/" + friend + "/311")
time.sleep(5)
next_num = 0  # 初始“下一頁”的id

while True:
    # 下拉滾動條,使瀏覽器加載出動態加載的內容,
    # 我這里是從1開始到6結束 分5 次加載完每頁數據
    for i in range(1, 6):
        height = 20000 * i  # 每次滑動20000像素
        strWord = "window.scrollBy(0," + str(height) + ")"
        driver.execute_script(strWord)
        time.sleep(4)

    # 很多時候網頁由多個frame>或iframe>組成,webdriver默認定位的是最外層的frame,
    # 所以這里需要選中一下說說所在的frame,否則找不到下面需要的網頁元素
    driver.switch_to.frame("app_canvas_frame")
    selector = etree.HTML(driver.page_source)
    divs = selector.xpath('//*[@id="msgList"]/li/div[3]')

    # 這里使用 a 表示內容可以連續不清空寫入
    with open('qq_word.txt', 'a', encoding="utf-8") as f:
        for div in divs:
            qq_name = div.xpath('./div[2]/a/text()')
            qq_content = div.xpath('./div[2]/pre/text()')
            qq_time = div.xpath('./div[4]/div[1]/span/a/text()')
            qq_praise = div.xpath('./div[4]/div[2]/span/span/a[2]/text()')
            qq_comment = div.xpath('./div[4]/div[2]/a[3]/text()')

            qq_name = qq_name[0] if len(qq_name) > 0 else ''
            qq_content = qq_content[0] if len(qq_content) > 0 else ''
            qq_content = qq_content.replace('\n', ' ')
            qq_time = qq_time[0] if len(qq_time) > 0 else ''
            qq_praise = qq_praise[0] if len(qq_praise) > 0 else ''
            qq_comment = qq_comment[0] if len(qq_comment) > 0 else ''
            print(qq_name, qq_time, qq_content, qq_praise, qq_comment)
            f.write(qq_content + "\n")

    # 當已經到了尾頁,“下一頁”這個按鈕就沒有id了,可以結束了
    if driver.page_source.find('pager_next_' + str(next_num)) == -1:
        break

    # 找到“下一頁”的按鈕,因為下一頁的按鈕是動態變化的,這里需要動態記錄一下
    driver.find_element_by_id('pager_next_' + str(next_num)).click()

    # “下一頁”的id
    next_num += 1

    # 因為在下一個循環里首先還要把頁面下拉,所以要跳到外層的frame上
    driver.switch_to.parent_frame()

# 關閉瀏覽器
driver.quit()

各種圖表的生成

import pandas as pd
from pyecharts.charts import Bar
from pyecharts.charts import Pie
import pyecharts.options as opts
from pyecharts.charts import Line

import re

df_excel = pd.read_excel('qq_excel.xlsx')  # 默認讀取sheet=0 Pandas DataFrame'

def getTimeStr(row):
    item = row['時間']
    if pd.isnull(item) | pd.isna(item):
        return

    data = item.split('年')[0]
    return data

# 按年統計說說數量
def readCount(result, row):
    timeData = getTimeStr(row)
    if timeData == None: return
    if timeData in result.keys():
        result[timeData] += 1
    else:
        result[timeData] = 1

# 按年統計說說點贊數
def readThumb(result, row):
    item = row['贊']
    if pd.isnull(item):
        return
    # data = re.match(r'贊\((\d+).*', item, re.M | re.I)
    if len(item.split("(")) = 1:
        return
    data = item.split("(")[1].split(")")[0]

    timeData = getTimeStr(row)
    if timeData == None: return
    if timeData in result.keys():
        result[timeData] += int(data)
    else:
        result[timeData] = int(data)

# 按年統計說說評論數
def readComment(result, row):
    item = row['評論']
    if pd.isnull(item):
        return
    # data = re.match(r'贊\((\d+).*', item, re.M | re.I)
    if len(item.split("(")) = 1:
        return
    data = item.split("(")[1].split(")")[0]

    timeData = getTimeStr(row)
    if timeData == None: return
    if timeData in result.keys():
        result[timeData] += int(data)
    else:
        result[timeData] = int(data)


def readExcel(df_excel):
    count = {}
    result = {}
    thumb = {}
    comment = {}
    for index, row in df_excel.iterrows():
        readCount(count, row)
        readThumb(thumb, row)
        readComment(comment, row)

    result['count'] = count
    result['thumb'] = thumb
    result['comment'] = comment
    return result

def getKeyAndVal(keyWord):
    data = readExcel(df_excel).get(keyWord)
    key = []
    value = []
    for item in data.keys():
        key.append(item)
        value.append(data[item])
    key.reverse()
    value.reverse()
    return [key, value]

# 統計每年發表說說次數柱狀圖
def paintBar():
    count = readExcel(df_excel).get('count')
    # V1 版本開始支持鏈式調用
    data = getKeyAndVal('count')
    print(data[0])
    d = (
        Bar()
            .add_xaxis(data[0])
            .add_yaxis("每年發表說說總數", data[1])
            .render("每年發表說說總數柱狀圖.html")
    )
paintBar()

# 統計點贊和評論折線圖
def paintLine():
    commentData = getKeyAndVal('comment')
    thumbData = getKeyAndVal('thumb')

    xaxis_data = commentData[0]
    commentValue = commentData[1]
    thumbValue = thumbData[1]
    d = (
        Line()
            .add_xaxis(xaxis_data=xaxis_data)
            .add_yaxis("每年評論數", y_axis=commentValue)
            .add_yaxis("每年點贊數", y_axis=thumbValue)
            .render("每年點贊和評論折現圖.html")  # 輸出圖形
    )
paintLine()

其他代碼自行下載項目查看

以上就是python爬取網頁版QQ空間,生成各類圖表的詳細內容,更多關于python 爬取QQ空間的資料請關注腳本之家其它相關文章!

您可能感興趣的文章:
  • python實現QQ空間自動點贊功能
  • Python爬取qq空間說說的實例代碼
  • 用Python登錄好友QQ空間點贊的示例代碼
  • python從Oracle讀取數據生成圖表
  • Python讀取Excel數據并生成圖表過程解析
  • python 用 xlwings 庫 生成圖表的操作方法
  • python xlsxwriter庫生成圖表的應用示例

標簽:寧夏 云南 商丘 金融催收 江蘇 定西 酒泉 龍巖

巨人網絡通訊聲明:本文標題《python爬取網頁版QQ空間,生成各類圖表》,本文關鍵詞  python,爬取,網頁,版,空間,;如發現本文內容存在版權問題,煩請提供相關信息告之我們,我們將及時溝通與處理。本站內容系統采集于網絡,涉及言論、版權與本站無關。
  • 相關文章
  • 下面列出與本文章《python爬取網頁版QQ空間,生成各類圖表》相關的同類信息!
  • 本頁收集關于python爬取網頁版QQ空間,生成各類圖表的相關信息資訊供網民參考!
  • 推薦文章
    主站蜘蛛池模板: 午夜精品人妻无码一区二区三区| 亚洲 欧美 制服 中文 综合| 免费观看黄视频网站| 欧美91视频| 美女一级特黄大片| 被两个男人插| 冠希实干阿娇13分钟视频 | 公车上拨开丁字裤进入电| 337p粉嫩大胆噜噜噜噜噜| 最新最好看免费毛片基地| 真人性做爰无遮A片大尺度知乎| 三级农村山村女人卖身| 我和么公的秘密电影免费的看| 亚洲成色999久久网站| 全黄做爰毛片免费看| 夜夜爱夜夜做| 国产97在线/亚洲| 日本wwxx色视频| 国产高中生在线| 美女被?狂揉大胸羞羞视频| 日本乱码伦视频免费播放| 思思99热在线观看精品| 日本欧美大码一区二区免费看| 欧美男女网站| 狠狠色丁香久久婷婷综合蜜芽五月| 小柔好湿?好紧?好滑| 一级少妇精品久久久久久久 | 宋承宪吸朴妍珍奶头在线观看| 公交短篇辣作文400字| 亚洲高清在线| 纯情校花让我给破了处小说| 久久久久国产精品人妻aⅴ软件| JK自慰喷出白浆| 殴美黄色大片| 三年片在线观看直播| 91在线无码精品秘?cos西施| 城中村精品无码视频在线观看| 无码人妻精品www久久久| 黄色一级视频在线播放| 看免费真人直播网站| 国产AV?无码?白丝?cos|