重回帰分析における決定係数の目安は?

重回帰分析における決定係数の目安は?

決定係数はどのくらいあれば「良い」のか?

回帰分析の分析結果で一番気になるもの、それが決定係数です。決定係数とは、回帰分析によって求められた線(回帰直線)がどれくらい分布の様子を説明しているかを表している指標です。どのような分析においても決定係数が算出されるため、それを基準にモデルの良好さを比較しようとする方も多いのではないでしょうか?

しかし、決定係数はどのくらいあれば「良い」と判断できるのでしょうか?何となく0.99等限りなく1に近ければ、それは良さそうな気もするし、逆に0.0000…と言った具合に限りなく0に近ければダメそうな感じもします。では、「0.5は?」と聞かれたら?…いろいろと判断に困る決定係数に直面する機会は多いと思います。にもかかわらず、統計学の教科書を見ても、そのようなことは書かれていないのが常。ますます謎が深まるばかりだと思います。

では、先に答えを提示します。

答えは、「目安などない、というかそこまで気にしなくて良い!」 となります。決定係数の目安を知りたかった人は、このような答えは期待はずれでしょう。ですが、決定係数に目安などないのです。そしてそれ以前に、決定係数を気にしながらモデル作成しなくて良いのです。

色んな分野における決定係数

「気にしなくても良い!」と言い切られても納得しづらいと思いますので、実際に色んな分野の決定係数を見てみましょう。経営学、経済学、教育学において、重回帰分析を用いている著名な論文をいくつかピックアップしてみすると、決定係数は以下のようになりました。

[table id=2 /]
いかがでしょうか?このように、決定係数の高いもの(0.784)も低いもの(0.123)もあります。しかしながら、いずれもが各分野における立派な研究です。すなわち、決定係数の如何によって研究の質が左右されるものではないのです。

ちなみに、今回さまざまなジャンルの論文を見ましたが、むしろ決定係数が表記されていない論文の方が多かったというのが実情です。

また、参考程度ですが、ビジネスにおける回帰分析の決定係数についても少し紹介させていただきます。一般論ではなく、過去に筆者が取り組んだことのあるプロジェクトにおける決定係数のみを取り出してご紹介します。

[table id=3 /]
こちらに関しても、やはり低い決定係数(0.234)もあれば高い決定係数(0.935)も存在します。このように、ビジネスにおいてもやはり「目安」と呼べるものはなさそうです。

注目すべきは「外見」ではなく「中身」

それでは、回帰分析を行う際に、何に注目して進めるべきなのでしょうか?

決定係数はいろいろな回帰分析結果を比較する際に便利ではありますが、回帰分析における回帰直線(回帰面)のフィット度を示しているにすぎず、あくまで副次的な指標でしかないのです。そのような比較にはあまり意味がありません。むしろ、そのような「外見」ではなく分析結果の「中身」に注目することが大事なのです。

ここで言う「中身」への注目とは、

  • (1)適切な説明変数が選択されているか?
  • (2)その説明変数は有意か?
  • (3)説明変数の係数は?
  • (4)それら全てを含めて、意義のある解釈のできるモデルか?

などを意識して行うことが重要になっていきます。

参考文献

Albert Alesina, and George-Marios Angeletos(2005) “Fairness and Redistribution.” American Economic Review, 95(4): 960-980.
Avi Goldfarb, and Catherine Tucker (2011) “Online Display Advertising : Targeting and Obtrusiveness”: Marketing Science February 2010, Vol. 30, No. 3, Marketing Science, pp. 389-404.
Ghose Anindya, and Sha Yang (2009), ‘‘An Empirical Analysis of Search Engine Advertising: Sponsored Search in Electronic Markets,’’ Management Science, 55 (10), 1605-1622.
Hanushek, Eric A., Ludger Wößmann (2007). “The Role of School Improvement in Economic Development.” NBER Working Paper 12832. Cambridge, MA: National Bureau of Economic Research.
森田果(2014)『実証分析入門ーーデータから「因果関係」を読み解く作法』日本評論社。

この記事を書いた人