NBA球员信息盘点(数据分析)

时间:2021-1-8 作者:admin

NBA球员信息盘点(数据分析)

文章目录

1.数据抓取

1.1使用工具及爬取内容介绍

使用了python的自动化框架selenium进行动态爬取,Selenium是一个用于Web应用程序自动化测试工具。Selenium测试直接运行在浏览器中,就像真正的用户在操作一样。支持的浏览器包括IE(7, 8, 9, 10, 11),Mozilla Firefox,Safari,Google Chrome,Opera等。
主要功能包括:测试与浏览器的兼容性——测试你的应用程序看是否能够很好得工作在不同浏览器和操作系统之上。
测试系统功能——创建回归测试检验软件功能和用户需求。支持自动录制动作和自动生成 .Net、Java、Perl等不同语言的测试脚本。

本次爬取的网址是腾讯网的NBA栏目,爬取的内容是NBA球员的比赛信息以及热点新闻,爬取完成后将数据保存到csv文件中以便分析读取,后续会通过生成图表图形的方式来展示具体爬取的内容。

1.2爬虫的步骤

爬取的步骤为:确定爬取的内容、对主页面解析、子页面的获取、子页面的解析、数据的保存。我爬取的网站暂未发现反爬虫机制,所以本次不做反爬虫措施。
先找到要爬取的页面,通过解析主页面的标签找到进入子页面的链接,然后在子页面找到要爬取的信息对应的标签
分析页面:
NBA球员信息盘点(数据分析)
可以看到要爬取的信息都会在对应的标签或者对应的class下,因此我们可以根据选择进行爬取。
NBA球员信息盘点(数据分析)
获取页面所用的代码:

from selenium import webdriver
browser = webdriver.Chrome('D:/chromedriver.exe')
browser.get('https://sports.qq.com/nba/')

2.数据存储

2.1写入csv

爬取到所需的数据之后,需要对数据进行处理,本文使用了写入csv和写入txt的方法来保存数据。

    with open("NBA.csv","w",newline="") as csvfile:
    	writer = csv.writer(csvfile)
    	writer.writerow(["排名","球员","球队","得分","出手数","命中率","3分出手","3分命中率","罚球次数","罚球命中率","篮板","前场篮板","后场篮板","助攻","抢断","盖帽","失误","犯规","场次","上场时间"])

由于第一次写入的是每一列的列名,所以使用了两次with open的方法,第二次开始循环写入每一行的信息。

    	#要爬取的内容
    	input4_players=browser4.find_element_by_class_name('content')
    	input4_players2=input4_players.find_elements_by_css_selector('li')
    	for j in range(len(input4_players2)):
    		paiming=input4_players2[j].find_element_by_class_name('paiming').text
    		qiuyuan=input4_players2[j].find_element_by_class_name('qiuyuan').text
    		qiudui=input4_players2[j].find_element_by_class_name('qiudui').text
    		defen=input4_players2[j].find_element_by_class_name('defen').text
    		chushou=input4_players2[j].find_element_by_class_name('chushou').text
    		mingzhong=input4_players2[j].find_element_by_class_name('mingzhong').text
    		chushou3=input4_players2[j].find_element_by_class_name('chushou3').text
    		mingzhong3=input4_players2[j].find_element_by_class_name('mingzhong3').text
    		faci=input4_players2[j].find_element_by_class_name('faci').text
    		falv=input4_players2[j].find_element_by_class_name('falv').text
    		lanban=input4_players2[j].find_element_by_class_name('lanban').text
    		qlanban=input4_players2[j].find_element_by_class_name('qlanban').text
    		hlanban=input4_players2[j].find_element_by_class_name('hlanban').text
    		zhugong=input4_players2[j].find_element_by_class_name('zhugong').text
    		qiangduan=input4_players2[j].find_element_by_class_name('qiangduan').text
    		gaimao=input4_players2[j].find_element_by_class_name('gaimao').text
    		shiwu=input4_players2[j].find_element_by_class_name('shiwu').text
    		fangui=input4_players2[j].find_element_by_class_name('fangui').text
    		changci=input4_players2[j].find_element_by_class_name('changci').text
    		shangchang=input4_players2[j].find_element_by_class_name('shangchang').text
    		with open("NBA.csv","a+",newline="") as csvfile:
    			writer = csv.writer(csvfile)
    			writer.writerow([paiming,qiuyuan,qiudui,defen,chushou,mingzhong,chushou3,mingzhong3,faci,falv,lanban,qlanban,hlanban,zhugong,qiangduan,gaimao,shiwu,fangui,changci,shangchang])

2.2写入txt

txt文件用于保存爬取到的NBA热点新闻,以便后续生成词云。

    #写入txt文件
        with open("NBA_news.txt", "a+", encoding='utf-8') as f:
            f.write(input3_news_title.text)
            for j in range(len(input3_news2)):
            	f.write(input3_news2[j].text)

3.数据分析及可视化

3.1NBA球员身高区间

对NBA球员的身高区间进行分析,让我们更直观了解到NBA球员的身高
第一步先对NBA球员的身高区间进行划分
NBA球员基础信息如下:
NBA球员信息盘点(数据分析)
将身高划分为180(cm)以下、180-190(cm)、190-200(cm)、200(cm)以上四个区间

import pandas as pd
df = pd.read_csv(r'C:\Users\Desktop\NBA_PLAYERS_HEIGHT.csv')
#身高小于180cm的球员总数
len(df[df['身高']<=180])
#身高在180cm-190cm之间的球员总数
len(df[(df['身高'] >180 ) & (df['身高'] <=190)])
#身高在190cm-200cm之间的球员总数
len(df[(df['身高'] >190 ) & (df['身高'] <=200)])
#身高在200cm以上的球员总数
len(df[df['身高'] >= 200])

使用matplotlib库进行可视化:

NBA球员信息盘点(数据分析)

3.2NBA球员场上位置分布

对NBA球员在场上的位置分布进行分析
分别有后卫、前锋、中锋、后卫-前锋、前锋-中锋五个位置
使用matplotlib库进行可视化:
NBA球员信息盘点(数据分析)

3.3NBA球员得分分析

观察NBA球员得分与出手数的关系

import numpy as np 
from matplotlib import pyplot as plt 
import pandas as pd

df = pd.read_csv(r'C:\Users\pzj\Desktop\NBA_PLAYERS.csv')
x = df['得分']
y = df['出手数']
plt.title("得分-出手数") 
plt.xlabel("得分") 
plt.ylabel("出手数") 
plt.plot(x,y,"ob") 
plt.savefig(r'C:\Users\pzj\Desktop\NBAPICS3.jpg')
plt.show()

使用散点图直观显示:
NBA球员信息盘点(数据分析)
观察NBA球员得分与上场时间的关系:
使用散点图直观显示:
NBA球员信息盘点(数据分析)

观察NBA球员罚球数与罚球命中率的关系:
NBA球员信息盘点(数据分析)
观察NBA球员三分出手数和三分命中率的关系:
NBA球员信息盘点(数据分析)

观察NBA球员抢断数与失误数的关系:
NBA球员信息盘点(数据分析)

3.4计算上场时间与场次


NBA球员信息盘点(数据分析)图1 场次

NBA球员信息盘点(数据分析)图2 上场时间

3.5NBA热点新闻

爬取NBA新闻的源码:

#爬取NBA栏目新闻板块
def NBA_NEWS():
#在首页中找到NBA栏目新闻板块所在位置(在class为'nav-a=tl'的列表中第三个)
    input_news= browser.find_elements_by_class_name('nav-a-tl')[3]
    print(input_news.text)
    browser2=webdriver.Chrome('D:/chromedriver.exe')
#通过刚找到的新闻板块位置找到进入新闻板块首页的链接
    browser2.get(input_news.get_attribute('href'))
#在新闻板块首页中找到进入具体每一条新闻所对应的class(一个列表)
    input2_news= browser2.find_elements_by_class_name('picture')
    browser3=webdriver.Chrome('D:/chromedriver.exe')
    #爬取所有新闻
    for i in range(len(input2_news)):
        browser3.get(input2_news[i].get_attribute('href'))
    #获取新闻内容
        input3_news=browser3.find_element_by_class_name('content-article')
        input3_news2=input3_news.find_elements_by_css_selector('p')
    #获取新闻标题
        input3_news_title=browser3.find_element_by_class_name('LEFT')
    #写入txt文件
        with open("NBA_news.txt", "a+", encoding='utf-8') as f:
            f.write(input3_news_title.text)
            for j in range(len(input3_news2)):
            	f.write(input3_news2[j].text)
            print(input3_news_title.text)
    browser3.close()
    browser2.close()

爬取成功后保存在一个txt文件中
txt文件:
NBA球员信息盘点(数据分析)
通过词云将关键词整合出来
NBA球员信息盘点(数据分析)
以上就是关于NBA球员信息盘点的全部内容,如果对内容感兴趣,欢迎在下方评论点赞,您的支持是对作者最大的动力,如果觉得本文中有不足欢迎大家指点出来,后续可能会添加更多新内容!

声明:本文内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎进行举报,并提供相关证据,工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。