データフレームがありdf
、そこからいくつかの列を使用して次の操作を行いますgroupby
。
df['col1','col2','col3','col4'].groupby(['col1','col2']).mean()
上記の方法で、必要なテーブル (データフレーム) をほぼ取得しました。不足しているのは、各グループの行数を含む追加の列です。言い換えると、平均値はありますが、これらの平均値を取得するために使用された行数も知りたいのです。たとえば、最初のグループには 8 つの値があり、2 番目のグループには 10 というように続きます。
簡単に言うと、データフレームのグループごとの統計を取得するにはどうすればよいですか?
ベストアンサー1
素早い回答:
グループごとの行数を取得する最も簡単な方法は.size()
、 を呼び出して を返すことですSeries
。
df.groupby(['col1','col2']).size()
DataFrame
通常、この結果は( ではなく)として必要なSeries
ので、次のようにします。
df.groupby(['col1', 'col2']).size().reset_index(name='counts')
各グループの行数やその他の統計を計算する方法を知りたい場合は、以下を読み続けてください。
詳細な例:
次のデータフレームの例を考えてみましょう。
In [2]: df
Out[2]:
col1 col2 col3 col4 col5 col6
0 A B 0.20 -0.61 -0.49 1.49
1 A B -1.53 -1.01 -0.39 1.82
2 A B -0.44 0.27 0.72 0.11
3 A B 0.28 -1.32 0.38 0.18
4 C D 0.12 0.59 0.81 0.66
5 C D -0.13 -1.65 -1.64 0.50
6 C D -1.42 -0.11 -0.18 -0.44
7 E F -0.00 1.42 -0.26 1.17
8 E F 0.91 -0.47 1.35 -0.34
9 G H 1.48 -0.63 -1.14 0.17
.size()
まず、行数を取得するために使用してみましょう:
In [3]: df.groupby(['col1', 'col2']).size()
Out[3]:
col1 col2
A B 4
C D 3
E F 2
G H 1
dtype: int64
.size().reset_index(name='counts')
次に、行数を取得するために使用します。
In [4]: df.groupby(['col1', 'col2']).size().reset_index(name='counts')
Out[4]:
col1 col2 counts
0 A B 4
1 C D 3
2 E F 2
3 G H 1
より多くの統計情報の結果を含める
グループ化されたデータの統計を計算する場合、通常は次のようになります。
In [5]: (df
...: .groupby(['col1', 'col2'])
...: .agg({
...: 'col3': ['mean', 'count'],
...: 'col4': ['median', 'min', 'count']
...: }))
Out[5]:
col4 col3
median min count mean count
col1 col2
A B -0.810 -1.32 4 -0.372500 4
C D -0.110 -1.65 3 -0.476667 3
E F 0.475 -0.47 2 0.455000 2
G H -0.630 -0.63 1 1.480000 1
上記の結果は、列ラベルがネストされており、行数が列ごとにカウントされているため、処理が少し面倒です。
出力をより細かく制御するために、私は通常、統計を個別の集計に分割し、 を使用してそれらを結合しますjoin
。次のようになります。
In [6]: gb = df.groupby(['col1', 'col2'])
...: counts = gb.size().to_frame(name='counts')
...: (counts
...: .join(gb.agg({'col3': 'mean'}).rename(columns={'col3': 'col3_mean'}))
...: .join(gb.agg({'col4': 'median'}).rename(columns={'col4': 'col4_median'}))
...: .join(gb.agg({'col4': 'min'}).rename(columns={'col4': 'col4_min'}))
...: .reset_index()
...: )
...:
Out[6]:
col1 col2 counts col3_mean col4_median col4_min
0 A B 4 -0.372500 -0.810 -1.32
1 C D 3 -0.476667 -0.110 -1.65
2 E F 2 0.455000 0.475 -0.47
3 G H 1 1.480000 -0.630 -0.63
脚注
テストデータを生成するために使用されるコードを以下に示します。
In [1]: import numpy as np
...: import pandas as pd
...:
...: keys = np.array([
...: ['A', 'B'],
...: ['A', 'B'],
...: ['A', 'B'],
...: ['A', 'B'],
...: ['C', 'D'],
...: ['C', 'D'],
...: ['C', 'D'],
...: ['E', 'F'],
...: ['E', 'F'],
...: ['G', 'H']
...: ])
...:
...: df = pd.DataFrame(
...: np.hstack([keys,np.random.randn(10,4).round(2)]),
...: columns = ['col1', 'col2', 'col3', 'col4', 'col5', 'col6']
...: )
...:
...: df[['col3', 'col4', 'col5', 'col6']] = \
...: df[['col3', 'col4', 'col5', 'col6']].astype(float)
...:
免責事項:
集計する列の一部に null 値がある場合は、各列の独立した集計としてグループ行数を確認する必要があります。そうしないと、平均などの計算に実際に使用されているレコード数について誤解する可能性があります。これは、pandas がNaN
平均計算でエントリをドロップすることを通知しないためです。