新聞中心
Pandas 中的merge()方法無疑是數(shù)據(jù)科學(xué)家在其數(shù)據(jù)科學(xué)項目中最常用的方法之一。

創(chuàng)新互聯(lián)建站是一家專業(yè)提供成武企業(yè)網(wǎng)站建設(shè),專注與網(wǎng)站設(shè)計制作、網(wǎng)站建設(shè)、H5技術(shù)、小程序制作等業(yè)務(wù)。10年已為成武眾多企業(yè)、政府機構(gòu)等服務(wù)。創(chuàng)新互聯(lián)專業(yè)網(wǎng)站設(shè)計公司優(yōu)惠進行中。
該方法源自 SQL 中的表連接思想并擴展到在 Python 環(huán)境中連接表,該方法基于一列或多列中的匹配值合并兩個 Pandas DataFrame。
如下圖所示:
連接表的圖解概述
Merge()方法的直觀特性使其成為Pandas用戶合并數(shù)據(jù)框的理想選擇。
但是,在運行時方面,Pandas 中有一個相對更好的替代方法,甚至已經(jīng)超過該 merge()方法了。
合并表的方法
方法一:使用merge()
如上所述,在 Pandas 中合并 DataFrame 的傳統(tǒng)和最常見的方法是使用該merge()方法。
df = pd.merge(df1, df2,
how = "left",
left_on = "df1_col_name",
right_on = "df2_col_name")
如上面的代碼塊所示,該方法接受兩個DataFrames, df1和df2。
此外,我們使用 how? 參數(shù)指定我們希望執(zhí)行的連接類型(在上面的例子中是 left)。
最后,我們用left_on?參數(shù)指定要考慮與第一個DataFrame(df1) 的值匹配的列,用right_on參數(shù)指定與第二個DataFrame(df2)的值匹配的列。
方法二:使用 join()
Join()? 方法在目標(biāo)上與 Pandas 中的 merge() 方法相似,但在實現(xiàn)上有一些區(qū)別。
Join()?方法在df2和df1的索引上執(zhí)行查找。然而,merge()方法主要用于使用列中的條目進行連接。
Join()?方法默認(rèn)執(zhí)行的是左鍵連接。而merge()方法在其默認(rèn)行為中采用了內(nèi)聯(lián)接。
連接索引值的表
下面的代碼塊演示了該join()方法。
df = df1.join(df2, how = "inner")
如上所述,join()方法執(zhí)行了一個索引查詢來連接兩個DataFrame。也就是說,對應(yīng)于相同索引值的行被合并。
因此,在使用join()?方法時,你應(yīng)該首先設(shè)置你希望執(zhí)行join的列作為DataFrame的索引,然后再調(diào)用join()方法。
df1.set_index("df1_col_name", inplace = True)
df2.set_index("df2_col_name", inplace = True)
df = df1.join(df2, how = "inner")實驗驗證
為了評估 Pandas 中 merge()? 方法的運行時性能,我們將把它與 join() 方法進行比較。
具體來說,我們將創(chuàng)建兩個假的DataFrames,并使用 merge() ?和 join() 這兩種方法進行連接。
本實驗的實現(xiàn)如下。
首先,我們將整數(shù)的值設(shè)置為(-high, +high)?。我們將比較兩種方法在不同大小的DataFrame上的表現(xiàn),行數(shù)為 rows_list?,列數(shù)為 n_columns。最后,我們將重復(fù)運行每個實驗。
high = 10000
rows_list = [(i+1)*1_000_000 for i in range(10)]
n_columns = 5
repeat = 5
該create_df 方法接受一系列參數(shù)并返回一個隨機數(shù)據(jù)框。
def create_df(n_rows, n_columns, col_names):
data = np.random.randint(low = -high, high = high, size = (n_rows, n_columns))
return pd.DataFrame(data, columns = col_names)
在下面的代碼中,我們測量了merge()? 方法和 join()? 方法在同一個DataFrame df1? 和 df2 上的運行時間。
result = []
for n_rows in rows_list:
sum_time_merge1 = 0
sum_time_merge2 = 0
for _ in range(repeat):
df1 = create_df(n_rows, n_columns, [f"col_{i}" for i in range(n_columns)])
df2 = create_df(n_rows, n_columns, [f"Col_{i}" for i in range(n_columns)])
## Method 1
start = time()
df = pd.merge(df1, df2, how = "left", left_on = "col_0", right_notallow="Col_0")
sum_time_merge1 += (time()-start)
## Method 2
start = time()
df1.set_index("col_0", inplace = True)
df2.set_index("Col_0", inplace = True)
df = df1.join(df2)
sum_time_merge2 += (time()-start)
result.append([df1.shape[0], sum_time_merge1/repeat, sum_time_merge2/repeat])
注意,要使用join()方法,你應(yīng)該首先將列作為DataFrame的索引。
結(jié)果
Join vs Merge 方法的實驗結(jié)果
藍色線圖描述了merge()?方法的運行時間,黃色線圖表示join()方法的運行時間。
我們將行數(shù)從 100 萬變化到 1000 萬,注意到兩種方法的運行時間都與行數(shù)呈正相關(guān)。
然而,與傳統(tǒng)的merge()?方法相比,join()方法的運行時間有明顯的改善。
隨著行數(shù)的增加,兩種方法的運行時間的差異也在增加。這表明你應(yīng)該始終使用join()方法來合并DataFrames,特別是在較大的數(shù)據(jù)集的情況下。
寫在最后
最后,在這篇文章中,我們比較了Pandas的merge()?和join()方法在一個假的DataFrame上的性能。
實驗結(jié)果表明,使用join()?方法在索引列上進行合并,在運行時間上比merge()方法高效——提供了高達4到5倍的性能提升。
本文標(biāo)題:再見!不再使用Pandas中的Merge方法
URL鏈接:http://m.fisionsoft.com.cn/article/dhojdii.html


咨詢
建站咨詢
