
相関・回帰・多変量解析――関係を調べることと原因を決めること
二つの値が一緒に増えても、一方が他方を引き起こしたとは限りません。関係を数値や式にする方法を区別します。
相関係数と因果関係
正確な意味: ピアソンの相関係数rは、二つの変数の線形な関連の向きと強さを−1から1で表します。共分散を両変数の標準偏差の積で割った値です。標準偏差が0の場合には定義できません。
ざっくり言うと: 直線的に一緒に動くか、反対に動くかを見る物差しです。
用途・問題での見方: 相関分析では散布図も確認します。rが0でも曲線的な関係がある場合があります。相関は因果を証明しません。第三の変数などによる見かけの関係を疑似相関と呼びます。気温の上昇がアイスの売上と冷房の使用をともに増やす例では、売上だけから冷房の原因を決められません。
単回帰・重回帰・ロジスティック回帰
正確な意味: 回帰分析は、目的変数と説明変数の関係をモデル化する方法です。目的変数は説明・予測する対象、説明変数はそのために使う入力です。単回帰は説明変数一つ、重回帰は複数です。
線形な単回帰の例はy=ax+bです。最小二乗法では観測値と予測値の差である残差の2乗和を小さくします。ロジスティック回帰は、線形結合をロジスティック関数などで0〜1へ写し、二値の結果の確率を扱います。
ざっくり言うと: 関係を使って値や確率を見積もる方法です。
用途・問題での見方: 学習時間から点数を予測するなら、学習時間が説明変数、点数が目的変数です。ロジスティック回帰の出力をしきい値で分ければ分類に使えます。学習した範囲の外への予測や、強く関連する説明変数同士には注意が必要です。予測精度の高さだけでも因果は決まりません。
主成分分析と因子分析
正確な意味: 主成分分析は、複数の観測変数を線形結合し、分散をよく表す少数の軸へ要約する方法です。因子分析は、観測された変数間の相関を、背後にある少数の共通因子と各変数固有の成分で説明するモデルです。
ざっくり言うと: 主成分はデータの情報を新しい軸にまとめ、因子は共通する背景をモデルで考えます。
用途・問題での見方: 主成分分析は可視化や次元削減、因子分析はアンケート項目の背後の構造を調べる場面などで使います。どちらも複数の変数を扱う多変量解析の方法です。主成分の軸は通常互いに直交します。因子の名前や意味は計算だけで自動的に確定するものではありません。
確認問題【オリジナル】
「気温が高い日にアイスの売上と冷房の使用量がともに増えた」という観察から、直接いえることはどれでしょうか。
ア:アイスを売ると必ず冷房使用量が増える
イ:冷房を使うと必ずアイスが売れる
ウ:二つに関連が見られても、因果はこの観察だけでは確定しない
エ:相関係数は必ず1である
正解と理由
ウです。 気温という第三の要因が両方に関わる可能性があります。ア・イは観察から因果と必然性を決め付けています。エは完全に同じ直線関係があるという根拠がありません。元の数値を見なければ相関係数そのものも計算できません。
参考資料と問題について
学習範囲の確認:IPA「基本情報技術者試験 シラバス Ver.9.2」。本記事は独自の説明・例題です。
確認問題と解説はオリジナルです。公開過去問の転載・改変問題ではありません。出題頻度は未集計です。
前後の記事と学習目次
前の記事:平均・中央値・分散――データの中心とばらつきを読む