在以前,商業(yè)分析對應(yīng)的英文單詞是Business Analysis,大家用的分析工具是Excel,后來數(shù)據(jù)量大了,Excel應(yīng)付不過來了(Excel最大支持行數(shù)為1048576行),人們開始轉(zhuǎn)向python和R這樣的分析工具了,這時(shí)候商業(yè)分析對應(yīng)的單詞是Business Analytics。
其實(shí)python和Excel的使用準(zhǔn)則一樣,都是[We don't repeat ourselves],都是盡可能用更方便的操作替代機(jī)械操作和純體力勞動(dòng)。
用python做數(shù)據(jù)分析,離不開著名的pandas包,經(jīng)過了很多版本的迭代優(yōu)化,pandas現(xiàn)在的生態(tài)圈已經(jīng)相當(dāng)完整了,官網(wǎng)還給出了它和其他分析工具的對比:
本文用的主要也是pandas,繪圖用的庫是plotly,實(shí)現(xiàn)的Excel的常用功能有:
Python和Excel的交互
vlookup函數(shù)
數(shù)據(jù)透視表
繪圖
以后如果發(fā)掘了更多Excel的功能,會(huì)回來繼續(xù)更新和補(bǔ)充。開始之前,首先按照慣例加載pandas包:
Python和Excel的交互
pandas里最常用的和Excel I/O有關(guān)的四個(gè)函數(shù)是read_csv/ read_excel/ to_csv/ to_excel,它們都有特定的參數(shù)設(shè)置,可以定制想要的讀取和導(dǎo)出效果。
比如說想要讀取這樣一張表的左上部分:
可以用pd.read_excel("test.xlsx", header=1, nrows=17, usecols=3),返回結(jié)果:
輸出函數(shù)也同理,使用多少列,要不要index,標(biāo)題怎么放,都可以控制。
vlookup函數(shù)
vlookup號(hào)稱是Excel里的神器之一,用途很廣泛,下面的例子來自豆瓣,VLOOKUP函數(shù)最常用的10種用法,你會(huì)幾種?
案例一
問題:A3:B7單元格區(qū)域?yàn)樽帜傅燃?jí)查詢表,表示60分以下為E級(jí)、60~69分為D級(jí)、70~79分為C級(jí)、80~89分為B級(jí)、90分以上為A級(jí)。D:G列為初二年級(jí)1班語文測驗(yàn)成績表,如何根據(jù)語文成績返回其字母等級(jí)?
方法:在H3:H13單元格區(qū)域中輸入=VLOOKUP(G3, 3:7, 2)
python實(shí)現(xiàn):
案例二
問題:在Sheet1里面如何查找折舊明細(xì)表中對應(yīng)編號(hào)下的月折舊額?(跨表查詢)
方法:在Sheet1里面的C2:C4單元格輸入 =VLOOKUP(A2, 折舊明細(xì)表!AG$12, 7, 0)
python實(shí)現(xiàn):使用merge將兩個(gè)表按照編號(hào)連接起來就行
案例三
問題:類似于案例二,但此時(shí)需要使用近似查找
方法:在B2:B7區(qū)域中輸入公式=VLOOKUP(A2&"*", 折舊明細(xì)表!B2:G12, 6, 0)
python實(shí)現(xiàn):這個(gè)比起上一個(gè)要麻煩一些,需要用到一些pandas的使用技巧
案例四
問題:在Excel中錄入數(shù)據(jù)信息時(shí),為了提高工作效率,用戶希望通過輸入數(shù)據(jù)的關(guān)鍵字后,自動(dòng)顯示該記錄的其余信息,例如,輸入員工工號(hào)自動(dòng)顯示該員工的信命,輸入物料號(hào)就能自動(dòng)顯示該物料的品名、單價(jià)等。
如圖所示為某單位所有員工基本信息的數(shù)據(jù)源表,在“2010年3月員工請假統(tǒng)計(jì)表”工作表中,當(dāng)在A列輸入員工工號(hào)時(shí),如何實(shí)現(xiàn)對應(yīng)員工的姓名、身份證號(hào)、部門、職務(wù)、入職日期等信息的自動(dòng)錄入?
方法:使用VLOOKUP+MATCH函數(shù),在“2010年3月員工請假統(tǒng)計(jì)表”工作表中選擇B3:F8單元格區(qū)域,輸入下列公式=IF(A3="","",VLOOKUP(A3,員工基本信息!A:H,MATCH(B2,員工基本信息!2:$2,0),0)),按下【Ctrl+Enter】組合鍵結(jié)束。
python實(shí)現(xiàn):上面的Excel的方法用得很靈活,但是pandas的想法和操作更簡單方便些
案例五
問題:用VLOOKUP函數(shù)實(shí)現(xiàn)批量查找,VLOOKUP函數(shù)一般情況下只能查找一個(gè),那么多項(xiàng)應(yīng)該怎么查找呢?如下圖,如何把張一的消費(fèi)額全部列出?
方法:在C9:C11單元格里面輸入公式=VLOOKUP(B$9&ROW(A1),IF({1,0},$B$2:$B$6&COUNTIF(INDIRECT("b2:b"&ROW($2:$6)),B$9),$C$2:$C$6),2,),按SHIFT+CTRL+ENTER鍵結(jié)束。
python實(shí)現(xiàn):vlookup函數(shù)有兩個(gè)不足(或者算是特點(diǎn)吧),一個(gè)是被查找的值一定要在區(qū)域里的第一列,另一個(gè)是只能查找一個(gè)值,剩余的即便能匹配也不去查找了,這兩點(diǎn)都能通過靈活應(yīng)用if和indirect函數(shù)來解決,不過pandas能做得更直白一些。
數(shù)據(jù)透視表
數(shù)據(jù)透視表是Excel的另一個(gè)神器,本質(zhì)上是一系列的表格重組整合的過程。這里用的案例來自知乎,Excel數(shù)據(jù)透視表有什么用途:(https://www.zhihu.com/question/22484899/answer/39933218 )
問題:需要匯總各個(gè)區(qū)域,每個(gè)月的銷售額與成本總計(jì),并同時(shí)算出利潤
通過Excel的數(shù)據(jù)透視表的操作最終實(shí)現(xiàn)了下面這樣的效果:
python實(shí)現(xiàn):對于這樣的分組的任務(wù),首先想到的就是pandas的groupby,代碼寫起來也簡單,思路就是把剛才Excel的點(diǎn)鼠標(biāo)的操作反映到代碼命令上:
也可以使用pandas里的pivot_table函數(shù)來實(shí)現(xiàn):
pandas的pivot_table的參數(shù)index/ columns/ values和Excel里的參數(shù)是對應(yīng)上的(當(dāng)然,我這話說了等于沒說,數(shù)據(jù)透視表里不就是行/列/值嗎還能有啥。)
但是我個(gè)人還是更喜歡用groupby,因?yàn)樗\(yùn)算速度非常快。我在打kaggle比賽的時(shí)候,有一張表是貸款人的行為信息,大概有2700萬行,用groupby算了幾個(gè)聚合函數(shù),幾秒鐘就完成了。
groupby的功能很全面,內(nèi)置了很多aggregate函數(shù),能夠滿足大部分的基本需求,如果你需要一些其他的函數(shù),可以搭配使用apply和lambda。
不過pandas的官方文檔說了,groupby之后用apply速度非常慢,aggregate內(nèi)部做過優(yōu)化,所以很快,apply是沒有優(yōu)化的,所以建議有問題先想想別的方法,實(shí)在不行的時(shí)候再用apply。
我打比賽的時(shí)候,為了生成一個(gè)新變量,用了groupby的apply,寫了這么一句:ins['weight'] = ins[['SK_ID_PREV', 'DAYS_ENTRY_PAYMENT']].groupby('SK_ID_PREV').apply(lambda x: 1-abs(x)/x.sum().abs()).iloc[:,1],1000萬行的數(shù)據(jù),足足算了十多分鐘,等得我心力交瘁。
繪圖
因?yàn)镋xcel畫出來的圖能夠交互,能夠在圖上進(jìn)行一些簡單操作,所以這里用的python的可視化庫是plotly,案例就用我這個(gè)學(xué)期發(fā)展經(jīng)濟(jì)學(xué)課上的作業(yè)吧,當(dāng)時(shí)的圖都是用Excel畫的,現(xiàn)在用python再畫一遍。開始之前,首先加載plotly包。
柱狀圖
當(dāng)時(shí)用Excel畫了很多的柱狀圖,其中的一幅圖是
下面用plotly來畫一下
雷達(dá)圖
用Excel畫的:
用python畫的:
畫起來比Excel要麻煩得多。
總體而言,如果畫簡單基本的圖形,用Excel是最方便的,如果要畫高級(jí)一些的或者是需要更多定制化的圖形,使用python更合適。