シンプソンパラドックスの可視化を3手法で【Excel/BI/R】

この記事は 『CRESCO Advent Calendar 2018』24日目の記事です。

こんにちは。データアナリティクスチームの飯村北海です。

昨年に引き続き[PR]データ分析やっていますと言いながらも、Tableauを使用したダッシュボード開発のプロジェクトに参画しています。
が、Rを使った分析プロジェクトも少しずつ増えてきています。なので今回はR+αの話でブログを書きたいと思います。

本当はTableau+Rによる記事を描きたかったのですが、どうやらRにデータを渡すためには一度SUMなどの集約関数を使用しないといけないようなので、ちょっと当初の目論見から外れてしまったため、今回の記事はちょっと趣向を変えていくつか出ているBIツール等との比較記事を書いてみました。

シンプソンのパラドックス

本題の前に、突然ですが、「シンプソンのパラドックス」についてご存知でしょうか?

私自身、このキーワードを最近知った(参考文献.1)のですが、Wikipedia:シンプソンのパラドックス(2018年12月中旬の本記事執筆時)によると、

母集団での相関と、母集団を分割した集団での相関は、異なっている場合がある。つまり集団を2つに分けた場合にある仮説が成立しても、集団全体では正反対の仮説が成立することがある。

とのことです。

西内(2013)の「統計学が最強の学問である」の書籍の中でもこういった言及があります。

A校とB校の同じ学年の生徒に対して同じ模擬試験を受験させた。
男子生徒同士で比べるとA校の平均点はB校よりも5点高い。
女子生徒同士で比べるとA校の平均点はB校よりも5点高い。
A校とB校の平均点を全体で比較するとB校の平均点はA校よりも4点高かった。

※本書の中では層別解析でパラドックスは防げるものの、層の観点が増えてしまうと大変であるということで重回帰分析を勧めています。

シンプソンのパラドックスを回避する策等については本記事では言及はしませんが、つまるところ、「データの解釈をする際に、切り取る視点によって全く逆のことが言えてしまうことがある」ということのようです。

とはいえ、シンプソンのパラドックスを言葉で説明されても、漠然としているのではないでしょうか。ということで、実際にグラフを描いて確認してみたいと思います。また、今回はいくつかの手段で可視化を試みたいと思います。

可視化に使用するデータ

こちらです(最初の10件のみ表示しています)。表にするとこのような形になります。

NO 学校 性別 得点
1 A校 男性 45
2 A校 男性 63
3 A校 男性 55
4 A校 男性 68
5 A校 男性 60
6 A校 男性 66
7 A校 男性 64
8 A校 男性 71
9 A校 男性 46
10 A校 男性 56

学校列はA校/B校、性別列は男性/女性、得点列は100点満点のデータです。

これらは前述の西内(2013)の数字になるように下記のRで乱数を発生させています。微妙に端数が合わず、全体の平均がそろわなかったので、その後意図的にデータを手で調整しています。あまりスマートではなくスミマセン。

クロス集計してみると下記になります。

学校 区分 男性 女性 全体
A校 人数 160 40 200
平均点 60 75 63
B校 人数 40 160 200
平均点 55 70 67

この表を見ると上記と引用部分と同じように男女それぞれで、A校がB校よりも5点高いものの、全体ではB校がA校よりも4点高いことがわかりますね。

データの可視化

それではここからデータの可視化をしていきたいと思います。タイトルの通り、ExcelとBIツール2種(Power BI & Tableau Desktop)を利用したグラフ、そして最後にRによるggplot2パッケージを利用したグラフを作ってみたいと思います。

作るイメージとしてはデータのばらつきをみたいので散布図のようなものを学校別、性別に分けることになります。

上記のデータを再び確認していただくとわかりますが、学校、性別は尺度でいうところの名義尺度(Tableauならディメンション、不連続データ)、得点は比例尺度(Tableauならメジャー、連続データ)となっています。このデータを可視化する際には不連続 × 連続のデータを可視化することになります。

使用するグラフのモジュールによってはこの不連続 × 連続のフォーマットに対応していない場合にちょっと工夫が必要になってきます。その場合はその都度補足をしたいと思います。

Microsoft Excelによる可視化

説明不要のマイクロソフト社のエクセルですね。メニューの挿入でグラフを作成して行きます。

エクセルでは軸を自動で指定して分割して表を作ってくれないため、いきなりですが散布図のY軸に得点、X軸に学校、系列に性別を指定して作成することになりました。

また、そもそも上記のtidyなデータ(いわゆる縦持ちのデータ)ではエクセルでグラフが描けないので系列ごとに加工をしています。A校とB校それぞれのX値の基準をを10と30とし、ジッター(揺らぎ)感を出すためにRANDOM関数を使用して加算しています。下のX軸のタイトルのようなものはテキストオブジェクトを追加で指定しています。系列のデータラベルなどを1つずつ出していくのはカスタマイズできる反面、操作が面倒ですね。下記のような加工をしています。

左からオリジナル、系列男性、系列女性、系列男性平均、系列女性平均、系列全体平均となっています。確認のためピボットテーブルも一番右にあります。

さて、出来上がったグラフはこのようになります。

Microsoft Excelによるシンプソンのパラドックスサンプルグラフ

メリット

  • MS製品なので手軽に使える(入手もしやすい)
  • 慣れている人が多いので学習コストが低い
  • プロパティを設定することで割とカスタマイズがしやすい。

デメリット

  • データの加工は手作業で大変
  • データを置く場所が自由すぎるため、加工前後でデータの管理がしにくい
  • Mac OS用のエクセルはWindows用とコードを統一してから(使い勝手も含めて)不具合が多くないですか?

ということでエクセルのグラフを作成してみました。

Microsoft Power BIによる可視化

次はマイクロソフト社のBIツールであるPower BIを使用してグラフを作成してみました。Power BIもデフォルトで用意されているモジュールに不連続 × 連続に対応しているものがないのでエクセル同様に散布図を駆使して作成しました。A校とB校それぞれのX値の基準をを0と6とし、下記のような列Power BI上で追加しています。

X軸に入れるため、乱数などで位置を調整した変数「_校」を使用

また、エクセルとは異なり、グラフに対する系列を追加はできないため、ビジュアルをいくつかに分けて作成しています。

出来上がったグラフはこのようになります。

Microsoft Power BIによるシンプソンのパラドックスサンプルグラフ。左側のグラフ、平均のグラフは性別と全体の2枚を重ねて表示させています(そのため右側の凡例の順序が全体が2番目になってしまっています)。

メリット

  • Microsoft製品なので、Excelライクに使用が可能

デメリット

  • カスタムビジュアルをインポートしなければならない(ポジティブに捉えればマーケットプレイスから無限の可能性が広がる)のでもう少しデフォルトのセットを増やしてほしい

Tableau Desktopによる可視化

BIで有名なTableau社のソフトウェアです。普段はTableauを使用して可視化をしているので自分にとっては使いやすいのですが、こちらは不連続 × 連続に対応しているため比較的楽に作成できそうです。ただし同じ値がある場合、集計してしまうので個別に表示させるところで少し躓いてしまいました(JITTER処理の位置が同じ値は同じ場所に配置されてしまっていた)。

Tableau Desktopによるシンプソンのパラドックスサンプルグラフ。一番作りやすいグラフでした。

メリット

  • 操作性が良い
  • 学習コンテンツが充実

デメリット

  • データ加工はTableau Prepなど別に必要
  • 有償(予算次第ですね!)

とはいえ、まずは無料のTableau Publicを使用して試してみるのも良いのではないでしょうか(一番最後にサンプルは掲載しています)。
*保存したデータは公開されますのでトライアルの際はご注意ください。

R & ggplot2パッケージによる可視化

Rではggplot2パッケージGrammar of Graphicsに基づいた記法)を使用して描画できるのでこちらを使用してグラフを作成してみました。普段はTableauばかりでggplot2パッケージをフル活用できていないため色々と調べることも多く大変でした。

R & ggplot2パッケージによるシンプソンのパラドックスサンプルグラフ。ggplotの細かい設定はRのコードをご参照ください。

長くなってスミマセン。

メリット

  • 高いカスタマイズ性
  • 自由(フリー)なソフトウェア

デメリット

  • 「完全に無保証」
  • 覚えること(プロパティ設定≒コードで追加していく)が多いので敷居が高い?
  • マニュアルは英語のものが多い

まとめ

シンプソンのパラドックスについて概要を確認しました。そしてその例としてサンプルデータを使用して、Excel、Power BI、Tableau、Rで可視化をしてデータのばらつきを確認しました。

いずれも男性や女性といった視点でみるとそれぞれの平均点はA校が高いものの、全体の平均点はB校が高いということになっています。性別で見たときに人数がそれぞれの学校で異なっているため、全体平均で見ると平均点が逆転しているということがグラフから見て取れるのではないでしょうか。

いずれのツールで作成したグラフも似せて作ることはできましたが、ツールの製品仕様やモジュールによっていろいろと工夫をしなければならないことがお判りいただけたかと思いますし、それぞれの特徴についてもなんとなくご理解いただけたのではないでしょうか。[PR]データ分析で普段気づかなかったことを明らかにし、課題解決につなげていきたいですね!

本記事がみなさんのお役に立てれば幸いです。

それでは
Happy Holidays!

参考書籍

  1. 伊藤徹郎, 2018, データサイエンティスト養成読本 ビジネス活用編, 技術評論社, p.107-108
  2. 西内啓, 2013, 統計学が最強の学問である, ダイヤモンド社, p.180-184

おまけ

TableauのグラフはこちらのTableau Publicでも公開しています。

  • このエントリーをはてなブックマークに追加

クレスコのデータ分析サービス

勘や経験ではなく、事実に基づいた意思決定が求められる中で、お客様のデジタル変⾰をデータ分析の観点からご⽀援いたします。

データ分析メニュー
● データ活用コンサルティングサービス
● 分析基盤構築サービス
● BI導入サービス
● モニタリング & システム運用サービス

サービス紹介ページでは、データ分析サービスの導入事例をご紹介しております。
データの活用/分析、BI導入について、お気軽にお問い合わせ・ご相談ください。

データ分析サービスを詳しく見る